大きな勘違い（misconception)

AIに関しての議論にいくつかの大きな勘違いがあるようだ。

テレビや新聞、週刊誌などが世界中でセンセーショナルにAIのシンギュラリティを喧伝しているために間違って解釈している人々が多いそうだ。私自身もその一人だ。

創設に関わるグループが用語の解説や捉え方の間違いをいくつか挙げている。

私自身が陥ったものを紹介する。

先ず、機械は人間をコントロールできるかという問題が最初に提起されている（人間は機械をコントロールできるかではない）。この回答はコントロール可能となっている。

上のようにアプローチの段階で既に見ているものが違う。そもそも人間が機械をコントロールする場面などはAI開発には想定されていない　→　その理由はあやふやな人間の判断で操られるAIなど想定していないということだ。前投稿でサピエンスが自分の頭脳から脱皮する時が来たと書いたがまさにそういう状況なのだ。

例として人が虎やライオンをコントロールする際には強さや力によってではなく人の知能によって行なわれている。それと同じように人の知能を遥かに超えたスーパーインテリジェンスを劣った人間側がコントロールすることなど想定されていない。（本末転倒）寧ろその防御方法に関心が向かっていると考えるべきだろう。

次にそのような世界が訪れた時に我々人間にとって本当にユートピアとなりえるか、はたまたディストピアなのかの問題になるが、その議論は果てしなく続くだろう。ここでは彼らが描いているユートピアがどんなものであるのかを紹介するに留める。

そのユートピア感は日本人には少し発想しにくいアイデアかもしれない。その内容は現在、人が行なっているほとんどの作業（経済活動、物事の判断、調査研究などなど）をAIが行い、人はそれによって得られた時間と富を消費しながら暮らすというものだ。ちょうど欧州の貴族がそうであったように人としてやりたいことに人生を費やしたいということだろう。船も羅針盤も行き先さえも全てAIが決める。

一口にAIと言っても

AIとはArtificial Intelligenceの略である。直訳すると人口知能となる。人間の頭脳がバイオ（生物）によって作られているのに対して　AIはノンバイオで作られている。
一口にAIと言っても到達するゴールによっていくつかの段階に分けられる。

1段階目：狭い機能の人工知能を指し、囲碁やチェスなどのゲームを扱う　また車の自動運転機能もこの段階に含まれる。

2段階目；もう少し広い機能の人工知能になり、自己学習ができるようになる。

3段階目；前の2段階目の機能に加えてデータやリソースに自分でアクセスできるようになる。この段階からAGIと呼ばれるようになる。(GはGeneral)

4段階目；この段階で機能的には人間の頭脳と同じレベルになる。既に一つ一つのダスク処理は人間の能力をとうに超えているので統合的な判断能力が人間と同じレベルなるというのは、この時点で人間を超えていることになる。

5段階目；人間の能力をはるかに超えるレベルとなる。これをスーパーインテリジェンスと呼ぶ。

現在は1段階目の辺りだろう。

AIの創設

AIの発展に関しては個人的に危惧するものがある。AIはやはりどこかで人間が介在するというのがその理由である。便利なものは悪にも転用できる。

例えばバイオテクノロジーの発展を悪意を持って操作すると神の領域を汚すことになる。倫理や理想を掲げてはいても1台の車に人数分のハンドルが付いているようなもので実際どこへ向かうかわからない。

しかし創設に関与しているグループ（世界の著名人が参加）の活動ではAIをどのような目的を持ったものにしなければなければならないかを論議して大きく以下のようなスローガンが掲げられている。

・気候変動
・疫病　飢餓
・暴政による貧困
・戦争　テロリズム
・移民　避難民
将来再来しかねない以上のような問題に対応する。
同時に悪用への防御方策なども論議される。

人類がチンパンジーから決別してから250万年、サピエンスから20万年が経過しているが、今後20年から100年の間にはサピエンスの第3期の幕開けが訪れるとされている。言い換えればサピエンスは地球上の生物で一番大きい頭脳を持つ種であるが20万年の時をかけて漸く自身の脳から脱皮する時期が訪れようとしている。

（余談：ネアンデルタールは50万年前に出現している人類だが我々サピエンスとは種が違う。氷河時代のヨーロッパ辺りで暮らしていた。因みに260万年前から氷河時代が始まっている。その後10万年の間に人類が出現している。氷河が一部のサルに森の生活を諦めさせる原因になったのだろう）

生物 と AI (人工知能）

生物進化の基本メカニズムを考える場合、その形が単純なバクテリアなどの微生物を例にとって見るとわかりやすい。
バクテリアも他の生物と同じようにDNAの自己複製を繰り返しながら増殖する。この時、全く新しい原子は作らずにオリジナルの原子配列パターンのインフォメーションだけをコピーしながら環境に沿って少しずつアレンジしていく。

このような生物の自己複製インフォーメーションは結果として自身の身体=ハードウェアに二つのことを要求する。ひとつは生物としての振る舞い=行動、二つ目はその振る舞いを可能にするハードウェアの設計図だ。

このインフォメーション作りに直接影響を与えるのがその生物が置かれている環境との対話になる。例えば生物が触手のようなセンサーを使って餌のある場所を探しまわる時、もしセンサーと動くための足との間にタイムラグがあったりすると行き過ぎたり戻り過ぎたりの無駄が多くなり、生物として生きていけない。

そこで自己複製する間に環境にマッチするように長い時間をかけて、少しずつその悪いところを改善しながら進化させていく。足の動きが水上に敵するのか陸上に敵するのかを判断することも含めて。

以上が生物進化の基本的な一例であるが、文中の生物の箇所をAIの文字に置き換えて見る。そしてインフォメーションの箇所をソフトウェアの文字に置き換えて見る。
AIは生物のメカニズムが土台になっていることがほのめかされる。

そして更にインフォメーションの意味するところを前投稿の「情報のミーム」で触れた「情報」と同じ意味に置き換えた場合も同様にひとつの文章が成立する。

現在、新型コロナのニュースで「免疫システムの暴走」という言葉がよく使われているが、AIの中ではこの「免疫システムの暴走」は起きないのだろうか。この現象は人間の体の中で良いものと悪いものとが区別できないために起こっているのである。

前略おふくろ様 3

カッコウの托卵

この季節になるとカッコウの鳴き声が聞こえてくる
その度にあのずる賢い托卵のことが頭に浮かぶ

托卵場所で孵化したカッコウの雛が生まれて最初の行動は、まだ目も開いていない状態で全身を使ってホスト鳥の卵や雛を巣から下方へつき落としてしまうことだ（youtubeで見ることができる）残酷な光景だ。そのように遺伝子にプログラムされている。

ホストである里親は自分の体の大きさに匹敵するカッコウの雛が大きく口を開いているところへせっせと餌を運ぶ。自分の子たちは巣の下で死んでいるのにどうしてそんなにアホなのか。

その答えは麻薬中毒患者と同じだという。麻薬患者は目の前に薬があると使わずにいられない。これと同じことがホスト側の里親鳥の遺伝子に組み込まれている。自分に匹敵する図体の雛であっても目の前で真っ赤な口を開けられると本能的に餌を上げたくなるようにプログラムされている。そこをカッコウに狙われたわけだ。（どうやって知っていた？）

ずる賢いことをするような人間になってはいかんと聞かされて育ってきたし、実際世の中そのようなことが長続きできる訳がないと考えている。しかし生物の世界では自然に適応した上で効率的に種を進化させることができれば採用される。

前投稿のサルのグルーミングで触れたように狡猾な行動は自然界が許してくれない。カッコウの場合は今のところ成功しているように見えるが、これは狡猾なサルが蔓延している状態と同じで、次の長い時間の中でカッコウの絶滅が危惧されるだろう。

イソップ物語にあるようにウサギは生きるためにキツネより早く走らねばならない。しかしキツネの方は今日の晩御飯のためだけだからウサギの足には追いつけない。

ミノムシの遺伝子

ミノムシの種類は世界には相当な数がある
成虫になると羽が生えたり、足が出てきたりして蛾になったり陽炎などになったりする。　ただ成虫になってもworm状態のままの奴もいる。

日本ではミノムシの家は木の葉や皮などが使われているのをよく見かけるが中には小さな石なども使われるそうだ。
木造だったり　石造だったり　混構造だったりするわけだ。

このミノムシの家づくり遺伝子が後にカタツムリの外殻形成へと繋がる。海老やカニなどの甲殻形成もこれと関連がある。（陸と海　どっちが先か）
そして更にはこのシェルター遺伝子がやがてもう少し高度な動物体内の有機体組織づくりや神経システムへの道へと進化していく。

因みにカタツムリに寄生した虫（worm)はカタツムリの体内に住み、頭部あたりから自らの体を外部に出して捕食する。それはカタツムリの触手に比べて相当に大きくグロテスクな光景だ。その寄生虫がカタツムリの殻を作る遺伝子にも影響を及ぼし、カタツムリの生態を操作する　まるで一つの生物の振る舞いであるかのように。
多細胞生物はこのようにして単細胞生物の時代からMアンドAを繰り返されながら進化してきたのだろう。

前略おふくろ様 2

前略おふくろ様

身体の遺伝子 情報のミーム

私たちは遺伝子と聞くと生物の細胞に書きこまれているDNAを連想する。そのDNAが生物の世代間で伝達物資として受け継がれていく生物カテゴリのなかで捉える。

その遺伝子と同じような働きが脳内にも存在するとドーキンス博士は提唱する。それがミーム(Meme)と呼ばれるものだ。つまりミームは身体の遺伝子と同様に書き込まれた情報を複製をしながら増殖し、脳から脳へ伝達していくという情報カテゴリの中で捉えるものだ。（親子間の伝達継承ではなく社会間での伝達になる）

人間の歴史では遺伝子の流れと同様にミームの流れも存在したという考え方である。ミームは音楽、ファッション、映画、文学、政治など文化に作用する人の脳への働きを扱う。

ここで先の投稿で紹介したホモ・デウスで書かれていることを思い出した。
もしミームを人工的に発展させることができたらどうなるのだろうかと。
おそらくそのプラットフォームはAIになると思う。

遺伝子操作の可能性はこれまでもこれからもバイオテクノロジーによって加速的に進化され、していくと思われる。（進化と呼べるかどうかはわからない）
遺伝子操作と同様にミームも人工的にしかも意図を持って進化させていったら人間社会の情報は一体どうなっていくのだろうか。

ユヴァル・ハラリ氏が警鐘を鳴らしているのはこの点かもしれない。

グルーミング 床屋さん

魚の世界にも前投稿のサルのグルーミングに似た行動がある。
サンゴ礁の周辺に住む小魚、小エビがハタなどの大きな魚のエラ、ヒレを掃除をしてやる行動　これらは共生と呼ばれる。

共生は小魚の方が除去したものを食料にし、大きな魚の側は付着した寄生虫などを取り除いてもらうということで成り立つ。
大きな魚はどうやって餌と共生仲間とを見分けているのだろう。小魚は大きな魚が普段食べている餌のサイズも形もそれほどの差異はない。

見分けのコツは小魚側が踊るダンスと表面模様にあるという。それにお客さんである大きな魚は我々の床屋さんと同様、いつも決まった場所へ行って順番を待つようだ。小さな魚の床屋さんはお客さんの前でダンスを踊りながら近寄ってくる。それを確認したお客さんは口を開け、エラを開けて お願いしますと言う。

何故いつもお馴染みさんでお願いするかというと、人間の場合と同じで毎回別の場所を探すのは面倒だし、厄介だしということらしい。

この魚たちの習性で興味が湧くのは彼らの潜在能力のこと。魚同士でこのように特殊な社会を作り出して互いに共生し合って生きていること、魚たちの意識を持たない遺伝子が自分たちの種の保存にとって役に立つ情報を取捨選択を繰り返しながら遺伝子プールの中でバトンリレーしていることだ。

そして遺伝子の記憶は人間にも引き継がれている。
我々の経済そのものが共生であるし、床屋さんで代金を支払うお金も共生の形の一つだ。

遺伝子 利己と利他

先の投稿で遺伝子の利己と利他は表裏一体のようなもので時間軸の中で収束して行くと書いた。

遺伝子の取捨選択はどのように行われるだろうか。その取捨選択を行う法則がアルゴリズムというもので自然への適応性が軸になるのだろう。

遺伝子には意識がなく、自然環境の中で失敗と成功を繰り返しながら意識がないままに自己学習して行く　それが生物アルゴリズムの実態のようだ　AIの自己学習も基本は同じだ。次にざっくりとした話になりますがサルを例に遺伝子の取捨選択の一例を紹介してみよう。

危険な伝染病を持つダニがサルの群れの中で蔓延しているとします。サルは仲間同士でグルーミングを行うことでそのダニを取り除いてもらう。サルの群れの中には律儀なサルと狡猾なサルとがいると仮定します。

律儀なサルは自分がしてもらったグルーミングを相手にも施してやる。一方狡猾なサルは自分はしてもらうが相手にはしてあげない。効率の観点で言えば狡猾なサルの方が得点が高い。何故なら楽をして健康に生きられるからだ。

このサルの群れの遺伝子プールの中では生き物として効率の良い狡猾なサルの遺伝子が多くなる。そしてやがて狡猾な遺伝子を持ったサルだけの群れになっていく。しかし狡猾なサルは相手にグルーミングを施さないことから危険なダニから寄生されたサルが多くなり、やがてその群れはダニによって絶滅の危機に脅かされる。

生き残ったサルの遺伝子は狡猾な行為が自分たち種を絶滅に追いやる危険性を直感し、遺伝子プールの中で律儀なサルの遺伝子が再び優位性を持つようになる。
気の遠くなるような長い時間の中で自然環境に従い、このようなことが繰り返されている。

(一部参考；The Selfish Gene  /  Dr Richard Dawkins)

Prisoner's Dilemmaの歴史

ゲーム理論で「囚人のジレンマ」というのがある
自分勝手に行動をとる方が得策か　互いに協力し合った方が得策かの選択肢のジレンマである

生物の遺伝子はSelfish=利己　と　Altruism=利他とで構成されているという
生物は魚でも動物でも一見、利己的な行動をとっているように見えても長い目で見ると相互に利他的結果に収束して行くパターンが見られる　またその逆もある。

前投稿のサピエンスは生物のうち人類だけを切り取った遺伝子の歴史でもあるというのが私の感想である。生物体は遺伝子の乗り物である。少しずつ少しずつジレンマを繰り返しながら乗り物を替えて進化をしていく。　

そして人間は生物の中では一番大きい脳を獲得するに至る。太古の狩猟・採集時代から農耕時代へ進み、文字が生まれ数学が生まれ、そして貨幣が生まれた。商業が発展し産業も発展した。電子マネーのお陰で人間の活動は10人程度の群れから始まり、グローバルと言われるまでに大きくなった。

ホモ・デウスの時代では人工頭脳が生まれた。まだ人間の頭脳には勝てないがチェスや将棋のようなゲームの世界では既に人間を凌駕している。人間の体にチップを埋めるだけで普通の女性がランボーのような戦士に変身させることも可能だと言う。

アルゴリズム　AIなどのテクノロジーはこれから飛躍的に発展していく。
それらの技術は政治を始め、あらゆる分野で利用されて行くだろうと考えられている。
（著者のユヴァル・ハラリ氏が注意をしなければならない点はここだと指摘している）

この五十年で先進国の人の寿命は2倍ほど長くなっている。
これから上記テクノロジーを駆使することで、人間の体を構成するパーツ交換や再生により人間の寿命の限界は更に伸びて行くと言われている。もしかしたら人工を含めた頭脳の発達が身体を捨てる時代もくるかもしれない。
それらが人間に幸福をもたらしてくれるとは思えないが・・・。

Dr Yuval Noah Harari

イスラエルの歴史学者による上記著書を読んで見た
サピエンスとホモ・デウスは上下巻となっている。

世界的なベストセラーでもあり、是非読んでみたいと思った。
中でもホモ・デウスは大変面白く読ませてもらった。

サピエンスが人類のこれまでの足跡をレビューしたものに対してホモ・デウスではこれから先の人類の可能性を示唆している内容となっている。アルゴリズム、AI、科学の発展と生物としての対応など興味深い内容だった。

21 Lessons は21世紀に向けて人類はどのように生きていったら良いか、何に注意すべきかについて21のテーマを掲げて説いた内容であるが難解な箇所が多い。