AIは守護神となりえるか

 もしAIに次のようにプログラムしたとする。

「何が起きてもAIは人間を守る行動が全てにおいて第一優先である」

するとAIが取るべき最後の砦は人間がコンピュータの電源をシャットダウンしないようにすることだと言う。何故か　それはAI自身が人間だけの判断に委ねられたりする状況においては、将来のある時点で人類は必ず大きな戦争を起こしたり、愚かな行動を起こしたり、過ちを犯したりすることがわかっているからだ。

もう片方の問題もある。それは機械が人間をコントロールする危険性だ。しかし、それは言い換えると悪意を持った人間が作成したプログラムを持つAIが人間をコントロールするという事態だ。

それではどうやってそのような事態を防ぐことができるのだろうか。おそらくそれはAI開発に対して顔を背けないことなのだろう。人類にとって有益な正しいプログラムを如何にしてAIの中で育て上げることができるかそれが鍵となるだろう。

雨後の筍のように次から次に出てくるであろう悪意を持ったAIの出現が予想される中では人々は守護神となるAIの味方なしでは安心して生きて行くことができない。AIがまだ出現していない現在でさえも、その悪意のリスクは少しずつ始まっているのじゃないかと思うことがある。