久保田論文　第五章

AIは必要なデータを学習して目標に結び付けるモデルを作成しようとしている。 そこで人間の脳をモデルとしてコンピュータ上に シミュレーションするが、そのために人間の脳の働きを理解する必要があ る。 neuronは外部から、もしくは他のneuronからの情報dendrite(樹状突起)より受け取り、その情報をaxon(軸索)とsynapse（シナプス)を経由して次のneuronに伝達する。夫々のneuron はそれ自体に情報処理能力を有するものとして考えられている。 synapseを経由して与えられた入力信号は、他のneuron に伝達されてneural- network を 構成する。このneuronの結び付きが記憶となっている。結合の方法は feedforward loop (前 方向型)ともfeedback loop(後向型の 両方向性の結合が出来るようになっていて、その結合は ブール代数(Boolean algebra)での結び付きとなっている。 プール代数は数学の一種で例えばAND, OR,(NOT, NOR,NAND,XOR, XOR 等16種の 結合がある)neural networkはスペインの neuroscientist (神経細胞学者)のSantiago RamonｙCajal によって提唱され，この分野での功により1906年にノーベル賞を授与されている。彼は1880年代に脳神経細胞を染色して顕微鏡で観察しスケッチしている。
 
neuronは86 billion (869億)あり、synapseは通常 1ケのneuronに対して10,000ケから100,000ケ あり脳全体で600 trillion (600兆)あると言われている。また neuronはgliaという組織にも支えられている。glia は neuronの補助的なもの(例えば絶縁体)と考えられていたが、近年、重要な役割を荷っておりそれ自体のnetworkも構築していると考えられている。人間の脳については未だ、未知の領域が多い。
 
身体の細胞については新陳代謝が行なわれているが脳細胞については成人に至る迄増加して行って死ぬ迄保持されている。成人してからは増えることはないと思はれていたが、必要に応じて増えることも確認されている。neuron の内側はカリウムイオンが多く、外側は ナトリウムイオンと塩素イオンが多い状態にあり、電位差が 60~70mV ある。樹状突起からの刺激を受けると neuron の外側から内側にナトリウムが流入し、外側にカリウムが流出し、neuron 内側の電位が瞬間的に(1mm 秒) 外側の電位が高くなる。
 
このように脳内では neuron から neuron へと刺激が伝はって行き認識が形成される。 neuron間の信号の伝ばり方も種々の要因により変化するが、この変化を支配するのがsynapse である。人間が学習するということは目、耳、手などからの刺激を何度も脳に伝えることで 600 兆からあるsynapseの強度が変化し最適化されることだと考えられている。さてneural-networkによる特定型AIについて考えてみよう。 AlphaGoについてそのインパクトは大変なものがあったが、翻って見て、現実世界の我々の周辺にお
いてAIの応用はなかなか期待通りには進んでいない。 囲碁は確かに難しいですゲームで過去に同じゲームは一局として繰り返されてはいないだろう。しかし、結果は勝つか負けるかの両極であり、ルールはいたって簡単である。
 
GoogleのBert^１、Open AIのChatGPT等の華やかなAIは別として、我々の周辺におけるAIの地道な応用については余り耳にしていない。実際のところAⅠの応用は難しいのだ。何故だ？先ず AI を作るのは大変コストがかかる。強力な computer が必要である。Algorithm と dataと学習には膨大な尽力を必要とする。極端な話として ChatGPT に使用される GPT-3、GPT-4 の費用は百億ドルのレベルで、次世代のものは千ドル億のレベルであろうと言われている。もうこうなってはアメリカのbig ITか政府機関でなければ手の届かないものとなっている。
 
また data を集めて algorithm を作り膨大な例題をつくりソフトウエアを習熟させるにはマンパワーを必要とする。しかし膨大な労力をかけて訓練させても、人間から見ると充分に信頼できるものになっているか？また、注意深く用意されたdataであってもdataにbiasがかかっている場合は一般的に利用できるとは限らない。例えば採用試験の例題を集めるに当たって男性の data に偏っている場合は女性に対して不利な結果になる。マイノリティーに対しても同じような問題になる。アメリカでは data が白人に偏っていて黒人には不利になっていると常に問題になっている。
 
Machine learningでは入力と出力が対応する様に学習させる。その関係性以上の範囲の対応を期待することはできない。ハッカーによる悪行を防ぐことも困難である。自動運転について言えば Elon Musk 氏は 2018 年までに完成すると言っていたがいまだに出来ていない^２。今まで膨大なシミュレーションと路上のテストが行われてきたが、一般道路上では普通に考えても起き得ないことが起きる。例えば犬が跳び出してきた、馬が走っている、停止標識が倒れてきた、等々である。人間の感覚に比してセンサはもろいものだ。センサのボトムアップよりも緊急時には人間のトップダウンの方が頼りになる。人間が何百万年もかけて受け継いできた DNA による直感が現時点では優っている。

• ¹ BERTとは、Bidirectional Encoder Representations from Transformers の略で、「Transformerによる双方向のエンコード表現」と訳され、2018年10月にGoogleの JacobDevlinらの論文で発表された自然言語処理モデル。
• ² Waymoは2024年６月25日にサンフランシスコでレベル４の自動運転サービスを開始した。