http://indeep.jp/ai-worst-case-scenarios-may-cause-catastrophe/
人工知能が「悪魔に変わった時」に彼らは地球と人類に何をするのか、あるいは何もしないのか
科学系メディア「ニューサイエンティスト」の記事より
少し前の記事、
・イギリス政府機関の推計資料 ： これからの地球は「億単位」の人命の消滅と共に、文明に対しての多くの脅威を経験していく
2016/05/02
では、科学者を中心とした財団とイギリス政府が作成した報告書にある「人類を大きな危険に導く、予測し得る12の大惨事」のことなどについて書きました。
その予測し得る12の大惨事とは、
・超巨大火山の噴火
・巨大小惑星や彗星の地球への衝突
・人為的な天候制御
・パンデミック
・核戦争
・テロ攻撃の拡大
・太陽フレアや核戦争による電気インフラの崩壊
・サイバー戦争
・経済のメルトダウン
・壊滅的な地震
・人造生物とナノテクノロジー
・人工知能の台頭
などでしたが、ここ数日、上のうちの「人工知能の脅威」がよく報道で取り上げられていてまして、最初、英国のデイリーメールで下のような激しいタイトルの記事を見た後、調べて見ると、いろいろなメディアがこの題材を記事にしていたのでした。
2016年5月23日の英国デイリーメールより
今回は、冒頭の科学メディア「ニューサイエンティスト」の記事をご紹介したいと思います。
Sponsored Link
短い余談 ： 悪魔の話題にふれる時にはいつだって
ところで、今回はあまり時間がなく、ニューサイエンティストの記事を翻訳するのが精一杯でした。その理由はインターネット回線の大規模で長時間のダウンだったのですが、それが発生したのは、昨日の、
・「悪魔教会」設立50年目の年に ： 現代人は、神のアドバイスでも「悪魔主義のルール」でもどちらでもいいので少しそれらに耳を傾けるべきかもしれないと
2016/05/23
の記事の原稿を「今まさに投稿している時」に起きたもので、昨日は予備の非常用接続（Wifi ← 遅くて重いのです）で何とかアップしたのですが、家のインターネット回線が復旧したのが今日だったのでした。つまり、十数時間ほど、インターネットどころか家の固定電話も使えなくなっていたのでした。
実は今まで書いたことがなかったのですが、
「悪魔関係の記事を書いていると、必ずといっていいほどネットワークかコンピュータ関係にトラブルが起きて、投稿できなくなる」
ということが、もう幾度となく起きていました。
もちろん、私はそんなこと（悪魔の記事と通信遮断が必ずセットになること）は偶然であり、迷信だと自分自身で思っていますが、しかし、実際にいろんなものが壊れたり、意味不明の回線切断でネット接続できなくなるなどが毎度のように起きるのでした。
それで、私はスマホを持っていないので、予備のインターネット回線を持っているのですが、昨日のはいつものトラブルとは違い、どうやっても対処のわからないネットワーク・トラブルでした。
今朝になって NTT のサポートに電話をして、状況を話しましたら、NTT の方が回線状況を調べて下さいまして、その結果、「回線状況が何だかおかしいですね。専門の人間を派遣します」ということで、午後に来て下さった専門の方が見た結果、
「マンション自体のインターネット接続機器の本体がやられてますね」
ということで（「やられてます」という言い方はしていませんが）、つまり、昨日は、マンション全体が、悪魔記事の投稿と同時に固定電話とインターネットが不通になっていた可能性が高いのです。
私は、
「ついにマンションごと機械をとばしたか・・・」
と呟きましたが、しかし同時に、その専門家の方が「まあ、機械もだいぶん古くなってますし、全部交換します」とマンションの集合通信機器を無償で新しいものにして下さったので、期せずにして、「装置が新しくなった」ということで、そういう意味ではラッキーな出来事だったとも言えます。
「・・・これはトラブルだったのか、喜ぶことだったのかよくわからないぞ」と呟きながら、全体として見れば「良いことだった」ということで、めでたい１日となりました（何の話だ）。
しかし、迷信は迷信とはいえ、悪魔に関しての記事を書くと、ほぼ必ずパソコントラブルか通信トラブルが起きて記事を投稿することに支障が出るという事案が発生するのは面白いです。
最近の記事、
・マレーシアに続き、ペルーの学校で80人以上の生徒たちに３週間も続く「伝染する悪魔の幻覚」…
などでも書いていますが、最近の悪魔的存在は「実体があったりしそう」ということで・・・しかし、「することが通信の邪魔かよ」と思うと、やっぱり単なる偶然だなと悟ります。
しかし、これも腰痛と同じ、「思い込み」の世界だとすれば、次に悪魔の記事を書くと、またネットワークがダウンしそう。今度は、インターネットの会社ごと吹っ飛ばされなければいいですが（派手だなオイ）。
まあ、それにしても、大体いつも今回のように「結果的に良いことだった」ということになりますので、むしろ、もっとたくさん悪魔のことを書けということなんでしょうかね。
最終的には人間にしかいろいろとできないけれども
というわけで、「人工知能の脅威」についての話で、まあ、私自身は、この地球も、そして宇宙も、「滅ぼすことのできる存在は人間だけ」と確信してはいますが、しかし人工知能に「悪意を持たせる」ことはそれほど難しいことではないとは思います。今回のニューサイエンティストの記事には、
人工知能が作り出すプロパガンダ戦争は、各国の政府の対立や、民族同士の対立を作りだし、まるで「地球カオス製造マシンが機能しているかのような状況を提供する。
という下りがあり、これなどは、「今がまさにそんな感じの世界では？」と、ふと思ったりもするのですが、物理的な意味では、人工知能は人類に危害を与えることはできるのでしょうけれど、最終的に地球の運命を決めるのは、やはり私たち人間だと思います。
それは、結局、
・「人間によって観測」されるまでは「この世の現実は存在しない」ことを、オーストラリアの量子学研究チームが実験で確認
2016/06/06
という記事にありますように、この世そのものが私たち人間の観念で作られているということが、少なくとも科学の世界ではかなり真実に近いことになさっていますが、人工知能はこのような先の状況を決定する観念を持つことはできません。
というわけで、人工知能の脅威についての記事をご紹介します。
記事の中に、マイクロソフト社が公開して、すぐに公開をやめたツイッターで人間と話すことができる人工知能の話が出てきますが、そのことについての報道を抜粋しておきます。
米マイクロソフトの人工知能、ツイッターで差別発言連発
日本経済新聞 2016/03/25
米マイクロソフトは3月24日、ソーシャルメディア上で人間と対話する「チャットボット」と呼ばれる人工知能（ＡＩ）の運用を停止した。
悪意のある人々に教え込まれ、「ヒトラーは間違っていない」「男女同権論者は全員死んで地獄で燃やされるべきだ」などと差別的な発言をツイッターで連発するようになったため。このＡＩは23日に公開されたばかりだった。
「Ｔａｙ（テイ）」と名付けられたこのチャットボットは、人間との対話を通じて発達するＡＩの研究の一環で開発された。
スラングやジョークを交え、ターゲットとする米国の18～24歳の若者を楽しませるはずだったが、「公開後24時間以内に、複数の人間が協力してテイの対話能力を悪用し、不適切な発言をするように教え込んだ」という。
テイは最初から差別的な発言をするようにプログラムされていたわけではないが、大量の差別的発言を浴びせられるうちに、それを「学習」し、自分でも同様の発言を返すようになったとみられる。マイクロソフトは不適切なツイートを削除し、ソフトウエアの修正にあたっている。
このように、人工知能に単に「悪意を持たせる」こと自体は難しいことではないです。ただ、それは「彼や彼女の真の意志ではない」です。いいものにしても、悪いものにしても、「意志の創造」をするのは人間なのだと思います。
それでは、ここから、ニューサイエンティストの記事です。
Checklist of worst-case scenarios could help prepare for evil AI
NewScientist 2016/05/23
想定される最悪のシナリオのリストは、悪魔と化した人工知能への対策の準備となる
人工知能 — それが起こすことができる最悪の事態は何だろうか？
ケンタッキー州にあるルイビル大学のコンピューター科学者であるローマン・ヤムポルスキー（Roman Yampolskiy）氏にとっては、「その可能性は無限」なのだという。
政治的ハッカーや、コンピューター科学者のフェデリコ・ピストノ（Federico Pistono）氏と共同で研究を進めているヤムポルスキー氏は、悪意を身につけた人工知能が起こす可能性のある最悪のシナリオの状況を打ち立てている。
それは「人類を奴隷化する」ことから「宇宙を破壊する」ことまで含まれる。
ヤムポルスキー氏は、想定し得る限りのネガティブな結果を予測している。
その研究は、たとえば、システムの脆弱性を探すサイバーセキュリティ研究者が、起こり得る最悪の状況を想定して仕事をすることによってセキュリティ災害を防ぐことができることと似ている。
ヤムポルスキー氏は、「人口知能の思考形式における標準的な枠組みは、常に、新たな安全のメカニズムを提案してきました」と述べる。
しかし、さらに踏み込み、サイバーセキュリティに対してのものと同じような考え方で、異なる方向から問題を見ることにより「考えられるすべてのリスト」を作成する作業が始まった。
リストの中には、人工知能が間違った方向に進んだ時に起き得る可能性のある壊滅的な最終局面も含まれる。
ヤムポルスキー氏とピストノ氏が想定する壊滅的な災害は、私たちの生活を一変させてしまうかもしれないものだ。
その中のひとつのシナリオは、人工知能システムが世界的なプロパガンダ戦争を最大限に引き起こす可能性を想定したものだ。
そのプロパガンダ戦争は、各国の政府の対立や、民族同士の対立を作りだし、まるで「地球カオス製造マシン（a planetary chaos machine）」が機能しているかのような状況を提供する。
ヤムポルスキー氏のこの研究は、ハイテク起業家のイーロン・ムスク（Elon Musk）氏の出資によって行われている。ムスク氏は「人口知能は人類にとって最大の実存的脅威だ」と述べた人物だ。
理論物理学者のスティーブン・ホーキング（Stephen Hawking）博士もまた、同様の懸念を表明した。
人工知能への懸念は根拠がない恐怖なのか？
しかしながら、誰もが人工知能に対しての懸念を共有しているわけではない。
英国ロンドン大学ゴールドスミス・カレッジのマーク・ビショップ（Mark Bishop）博士は、そのような人工知能への懸念は誇張されていると主張する。
また、シリコンバレーを拠点に研究を続ける中国検索エンジン大手「百度（バイドゥ）」のチーフ・サイエンティスト、アンドリュー・ウン（Andrew Ng）氏は、人工知能を持つ殺人ロボットに対して懸念を抱くことは、まるで、火星の人口過剰に対して懸念を抱くようなものだと述べている。
しかし、ヤムポルスキー氏は、マイクロソフトが公開したツイッター用チャットボット「テイ（Tay）」の例を挙げる。テイは、公開後すぐに、人種差別的なコメントを吐き出すようになり、マイクロソフトは公開を中止した。
この出来事は重大なことではないが、それでも、この出来事は人工知能における「予測の不可能性」を明らかにしたものだとヤムポルスキー氏は述べる。
「テイの研究者たちは誰もこのような結果を予想していませんでした」とヤムポルスキー氏は言う。
「私は、物事が、私たちが解決策を提供できなくなる局面へ突然変化する時を見てみたいと思っています。人々が安全のメカニズムを求めているその時に、私たちにそれができるかどうかという時がやって来る可能性の問題なのです」
英国シェフィールド大学の人工知能研究者であるノエル・シャーキー（Noel Sharkey）氏は、サイバーセキュリティの方法論で人工知能の安全性を考えるアプローチは、特に人工知能を持つ自立した兵器に関しては良い考えであると、ヤムポルスキー氏の方法には同意する。
しかし、シャーキー氏もまた、人工知能の脅威については、ビショップ氏やウン氏と同様に懐疑的だ。
「悪意と超知能（スーパーインテリジェンス）を兼ね備えた人工知能という存在は、今のところはまだフィクションと憶測の領域の話に過ぎないのです」と、シャーキー氏は述べた。
