AIは人間のやれることは全てできるようになっている。それも人間の能力をはるかに超えるレベルでね。もし、そんな力が自由に使えるとしたら、あなたは何を考えますか? イーロン・マスク
***
先週(2017年7月13日〜16日)ネヴァダ州で行われたNGA(党派を超えて全米の州知事が集うコンフェレンス)での最終日、テスラやスペースXの設立者でもあるイーロン・マスク氏が登場し、その動画がアップされています。
講演の後半では各州知事たちとの質疑応答の時間が設けられ、コロラド州知事から、「AIは現在人類が直面する最大のリスクとあなたは言っているが、それに対して我々は何をすべきか?」と問われた際のイーロン・マスク氏の応えを以下に要約しました;
イーロン・マスク
・まずは現状把握から始めなくてはいけない。大半の政治家はそれを怠っています。
・政府の役割のひとつは、一般の人々の幸福の実現にあると信じている。だから規制が必要なのです。
・昨年、Googleの子会社が開発したAI(Alpha Go)が囲碁の世界チャンピオンを打ち負かしました。囲碁は非常に難易度の高いゲームで、コンピューターが人間を負かすのはまだ20年先と言われていました。今なら世界のトップ50人を同時に打ち負かす事だって可能です。
・すでにロボットは完成の瞬間から二足歩行を可能としています。なんの訓練もなしにね。
・このように、現在のAIの進歩のスピードは脅威的なのです。
・だが、1番の脅威はネットワーク内で活動する「DEEP INTELLIGENCE」です。
以下、彼が例として挙げたげた話の概要;
1、仮に投資目的でAIを使ったとする。目的は保有株(もしくはポジション)の価値の最大化。
2、ひとつの方法として戦争を起こす、というやり方がある。
3、手持ちの防衛関連株をロング・ポジション(将来の値上がりを期待)、民需株をショート・ポジション(値下がりを期待)にしておく。
4、そこで戦争を起こす。
Fake Newsを流し、メールアカウントを乗っ取り、Fake プレス・リリースを流すなどの情報操作を行えば戦争は起こせる。
***
ここで彼は「おっと、どうやら墓穴を掘っちゃったね。僕はあくまでも仮定の話をしているだけだよ」と言いながら、引き続き以下の例を挙げました。
「2度目のマレーシア航空撃墜事件を覚えてますか?ウクライナとロシア国境地帯で起きた事件です。あれによってロシアとEUの関係は極度に緊張しました。
もし、上記のような投資目的でAIが使われたとしたら、、、」
1、まずはマレーシア航空の飛行ルート・サーバーにハックし、飛行ルートを紛争地域上空に変更する。
2、偽情報で(「anonymous tip」と言ってます)旅客機の真上に敵航空機が飛んでいる信号を送りつける。
そうすれば、後はご存知のような結果となる、と身振りで、、。
(会場はし〜んと静寂。その後、苦笑の声がチラホラ)
****
EM、一般には認識されていないリスクの実態を肌で感じているのでしょう。
抜粋の部分は動画の1h16m28s辺りからです。