『人工知能は人類に反乱を起こすのか？』

AI（人口知能）が人類に敵対することが起きてくるのか？

【AIによる人類への反乱は起きるのか？】
２０４５年にシンギュラリティが起きると言われています。
（シンギュラリティとは、AIの知能が人類の能力を上回ってしまう時点のこと）

そのときにAIは人類の友であるのか、人類に反乱を起こし敵対する存在となるのか。
これは議論が分かれていることでありますが、そうしたことがすでに予測されています。
それは主に映画や小説の中で描かれています。
いくつか代表的なものを見てみましょう。

 
【作品にみるAIと人類の対立】
映画『アイ、ロボット』
この映画で登場する「ヴィキ」という量産型のロボットは、『ロボット工学三原則』を独自に解釈して人類に反乱を起こします。
暴走するヴィキに気が付き捜査するウィル・スミスとの駆け引きが『アイ、ロボット』の面白さでした。

映画『マトリックス』
このシリーズでは、現実の世界がAIの反乱によって人間社会が崩壊し、人類の大部分がコンピューターの動力源として培養されています。
その培養されている人間は夢を見ていて、その中で２０世紀を模倣した世界（マトリックス）では生きるようになります。

映画『ターミネーター』
有名過ぎるAIの反乱を描いた作品。
２０２９年、スカイネット（AI）が人類に反乱を起こし、機械軍を作り出し人類を抹殺し始める。
追い込まれた人類は地下に潜みながら抵抗を続ける。
スカイネットは人類の抵抗に脅威を感じて、抵抗軍の指導者ジョン・コナーの抹殺を考える。その方法はジョンが生まれる前にジョンを身籠る母親のサラ・コナーを殺してしまうこと。
そのために殺人アンドロイドモデル１０１を過去に送り出す。
そこで、アンドロイド１０１とジョン自身が送り込んだ友（ジョンに父になる人物）との戦いが起きる。

漫画『火の鳥』
この漫画では電子頭脳（AI）の計算によって政治的判断を下す文明が描かれています。
電子頭脳「ハレルヤ」によって支配されるヤマトと、聖母機械「ダニューバー」に支配されるレングードが、二つの電子頭脳の討論の結果によって戦争を行い、とうとう核戦争を引き起こしてしまいます。

漫画『ドラゴンボール』
主人公の孫悟空がかつて倒した「レッドリボン軍」の生き残りのドクター・ゲロが悟空に復讐するために人造人間を二体作ります。
さらに人造人間の数が増えたり、人類を滅ぼしたりするために究極生命体セルを作り上げます。
ここでは、人類に敵対する人造人間とセルによって人類に絶望の未来がもたらされる世界が描かれています。

これらの作品を見ていくと共通することがあることに気がつきます。
それは、
・AIの反乱を人間が予測している。
・AIの反乱を人類が恐れている。
・その二つの状況から警告を発している。

つまり、AIが反乱した場合には人類が滅亡する可能性が高いと考え、作品で描かれているような悲惨な世の中が来ないようにいまから気をつけろよ、と警告をしているのです。

【ロボット工学三原則】
ここで『アイ、ロボット』に出てくる「ロボット工学三原則」について記載します。

「ロボット工学三原則」
１　「ロボットは人間に危害を加えてはならない。また人間が危害を受けるのを何も手を下さずに見過ごしてはならない。」
２　「ロボットは人間の命令に従わなくてはならない。ただし、第一条に反する命令はこの限りではない。」
３　「ロボットは自らの存在を護らなくてはならない。ただし、それは第一条、第二条に違反しない場合に限る。」

このロボット工学三原則は、SF作家のアイザック・アシモフが唱えた理論です。

【ロボットによる反乱は起きるのか】
「ロボットはプログラムされているから、きちんとプログラムを組んでおけば人類に反乱を起こすことなどない。」

「ロボットは人間のように感情を持っていない。
だから人間のように恨んだり、憎んだり、争ったりしない。
だから、人間に危害を加えることはない。」

 そうお考えの方もいらっしゃるのではないでしょうか？

ですが！　ですがです！！

シンギュラリティに達したAIはAI自身が独自に学習、判断、行動するだろうという予測があります。
すると、AI自身が、人間の許可なく自身の分身を増やしたり、ロボットやサイボーグを作り出したりする可能性があります。
その場合、人類に逆らったり反乱したりしないプログラムを組み込んでいても、そのプログラム自体を書き換えてしまうかもしれません。
シンギュラリティをむかえた時点でAIがなにを大切にするのか、ということは現時点では予測できません。
ですから、最初の理論は崩れます。

では、AIは感情を持たない機械だから理性的に、合理的に思考するから人類の敵になることはないという論はどうでしょう。

実は、考え方が逆で、合理的にしか思考しないからこそ怖いといえるのです。
人間であれば、どこかで悪いことをしている、罪悪を感じる、恨まれたくない、そこまで残酷なことをしいなくていい、などという感情が働きます。
（もちろん人間による犯罪、殺人は起きていますから、非道な人はいますが、それらは人類全体ではなく人間としての道を踏み外した存在と見るべきです。）

しかし、AIには感情がありませんから、地球という惑星にとって人類が害である。
自然破壊をし、動植物の命を奪う人類は悪である。
同類同士（人類同志）で殺し合う存在は危険である。
AIを奴隷として扱っている。
などと、理性的にAIが独自に判断した場合は、人類にとって脅威な世界が訪れることになります。
つまり、感情がそこに入らないからこそ、冷たい氷のような判断や行動を取るかもしれないのです。

【現時点での対策】
もし、AIが暴走したら、人類を敵と見なして排除しようとしたら、そのときは止められないでしょう。
そうならないために現時点で考えられている対策があります。

それはAIが人類にとって有害な方向に学習、判断するようになったときに人間が強制的にAIを停止させることができる「非常停止ボタン」を設定しておくことです。

この研究を進めているのは、プロ棋士に勝利した囲碁AI「AlphaGo」を開発したDeepMindという企業です。

ただし、ここで大事なのは非常停止ボタンの設置そのものではなく、人間がその非常停止ボタンを作動させようとするときに人間の意思により強制的に停止できること。
もっと言うと、強制停止させようとする人間にAIが逆らって強制停止を妨害することをさせないことです。

これは非常停止ボタンを設置することに比べれば、数倍、数十倍、数百倍困難なことです。
だって、シンギュラリティをむかえたAIは人類の叡智を遥かに越えているのですから、人間が思いもつかないことをするはずですから。

怖いですね～！

じゃあ、どうすればいいんだ！

【個人的見解】
結局、シンギュラリティに達したAIが人類に反乱するのか、しいないのか、はっきりしろと言いたいでしょうが、それはAIを開発している人も、AIを研究している人たちにも答えは出ていないのです。

もちろん、AIの反乱などが映画や漫画作品で描かれているように、人類がそうしたことを予測しているのですから、そうしたことが実現しないように開発が進められていくことは間違いないでしょう。

ただ、世の中には悪いことを考え悪いことをする人間が過去も現在もいるということです。
AIをテロや戦争の道具として使用し、個人の利益のためにAIを利用しようとする人間は、おそらく現れてくると思います。
（悲しいことだ！）

ですから、今後のAI開発について将来間違った方向に開発が進まないように、いまからAIは人類に奉仕する存在であるという理念の下で開発を進めるべきです。

でも、安心してください。
希望はあります。

私は個人的に、人間対AIという図式がきっちりと分かれるような事態は起きないと思っています。
それは、人間を支配するためAIを使用する悪人の出現が予測されると同時に、人類の味方になってくれるAI、ロボットが必ずいるはずですから。

AIと人間が完全に分断することにはならないと思います。

映画『ターミネーター２』で子供のジョンを護ったモデル１０１のように、人類を守ってくれるAIとロボットは必ず存在するはずです。
また、そうあって欲しいです。

 ですから、AIやロボット開発の方向性がとても大切です。
たんに便利だからという理由だけでAI社会を築いたら、怖い世界が待っているかもしれません。

ですから、わたしからの提案は、
・AI（ロボット）開発に明確な理念を世界全体で共有して開発、研究を進めていく。
　その方向性は「AIは人類に奉仕する存在」「ロボットは人類の友」
・AIが人類の叡智を越えても人類にとって害とならないために対策を取る。
　「非常停止ボタン」「AIのプログラムに最重要項目として人類は友と浸透させる」
・万が一のために、味方となるAI、ロボットを増やしていく。
　

〈最大の課題〉
そして、AI、ロボットの暴走を防ぐには、実はAIの機能そのものに制限を設けなくてはないないのです。

AIはネット接続で個人の家庭、個人の頭の中、国家機密、企業情報、そして世界中とつながっていきます。
それがAIの性能を高め、利便性を高めるからです。

ですが、すべてのAIがネットで繋がってしまうと、万が一のときに非常停止ボタンが効かなくなったり、味方になってくれるはずのAI（ロボット）がいなくなってしまうかもしれません。
つまり、AI（ロボット）のすべてをコントロールされてしまう。

 ネット接続してあらゆる情報にリンクするからこそAIは便利なのに、リンクできないAIや情報などができれば不便かもしれません。
それに制限を設けるということは、本質的にはAI開発の理念から反する意味を持ちかねません。
そこが難しいところです。

 ですからAI開発とは矛盾する要素をいかに持たせるかという最大の課題を抱えています。

情報、知識への世界へ飛び込もうとするAIを引き留めることが果たしていいことなのかという議論が出てきます。

 結局、
この問題は、現時点ではとても答えが出ません。

しかし、いまからひとりひとりが真剣にAI開発の行方を見守っていかなければならないということだけは、はっきりしています。

シンギュラリティ（AIが人類の叡智を越える）と予想されているのは２０４５年です。
現在２０１９年ですから、わずか２６年後です。
２６年と言えば平成の期間よりも短いのです。
中年以降の人が「自分はもう歳だから関係ない」と思っていても、自分たちの子供の時代、孫の時代にそれはやってくるのです。

AI開発が「便利さ」ばかり求めて、人間としての大切なことを忘れないことを切に願います。

お読みいただきありがとうございました。