204年からの展望(4):責任あるAIってなんぞや?

2024.11.01


このシリーズを2回休みましたが、その間、米国の株式市場は大きく乱高下しました。
その中心にAI向けの半導体メーカー株の売却と買い戻しがあったと言われています。
7月から8月にかけて発生した最初の暴落のきっかけは、著名な業界アナリスト2人が「人工知能(AI)を取り巻く熱狂は行き過ぎだ」と懸念を提起したことにあります。
このように、AIはその実態以上に経済に影響を及ぼし始めています。
「AIが世界経済を劇的に変えることは困難」という見方が業界アナリストの間に浸透してきているのです。
日本には、そうした警句が届いていないようですが、危ないですね。
その背景には、AIの致命的な欠陥が浮き彫りになってきていることがあります。
 
簡単に説明すると、こういうことです。
AIに、ある問いかけを行うと、様々な解答を返してきます。
簡単な問題であれば、簡単な答えしか返してこないので害はないです。
しかし、ビジネスで使う場合は、問題があります。
複合的で深い問いかけを行うと、AIは驚くほど多様な解答を返してきます。
しかし、その膨大な解答のすべてに対し「法的に問題はないか」、「自社に損害を与える可能性はないか」の検証を行う必要が出てきます。
そうでないと、とんでもない事態を引き起こすかもしれないからです。
実際に使ってみると分かりますが、「スゴイな」と感心する解答ほど使うリスクが大きくて、ビジネスで使うことはできません。
(闇バイトの詐欺集団には最適なシステムかもしれませんが・・)
 
つまり、AIが返す膨大なバリエーション解答をすべて正当だと判断するのは現実には不可能という大きな弱点があるのです。
 
ここで、少し前の解説に戻ります。
AIとは、Artificial Intelligence(アーティフィシャル インテリジェンス)の略称で、日本語では「人工知能」と訳されています。
その意味では、コンピュータそのものがAIなのです。
1946年に登場したENIAC(エニアック)が、世界初のコンピュータと言われていますが、最初はGiant Brain(巨大頭脳)と呼ばれました。
この頃から「人間の頭脳の代わりになる」と言われていたわけです。
このENIACの最初の成果は「水素爆弾に関する計算結果」でしたが、米国の敵対国であった旧ソ連にも同様のマシンがあったと思われます。
そして、そのわずか7年後の1953年8月に旧ソ連は水素爆弾の実験に成功し、7か月後の1954年3月1日に米国は太平洋のビキニ環礁での水爆実験に成功しています。
 
話が脱線しました。
つまり、誕生の時からコンピュータそのものがAIだったわけであり、かつ「悪魔の申し子」だったのです。
この概念設計はENIACの誕生前、「アラン・チューリング」と「ジョン・フォン・ノイマン」という2人の天才によって1941年に完成されていたのです。
ノイマンのことは、以前、本メルマガで取り上げましたので、本メルマガのアーカイブスでご覧ください(HALのHPから検索できます)。
 
ノイマンの晩年が惨めであったと同様、チューリングも41歳の若さで自殺しています。
「悪魔に魅入られ、翻弄された人生」だったと言えます。
 
かれらが計算で解き明かしたとおり、コンピュータの性能は大きく向上し、機械であるコンピュータが「学ぶ」ことができるようになり、それが現在のAIに発展してきているわけです。
ただし、半導体素子自体が人間の頭脳化したわけではなく、その点の進化はまだまだです。
現実は、ハードの高速・膨大な計算能力を活かしたプログラミング技術による機械学習の段階にあります。
それでも、この機械学習によるAI技術により、翻訳や自動運転、医療画像診断が劇的に進化しているわけです。
囲碁や将棋といった限られた盤面やルールのもとでは、人間の能力を超えたと言われています。
(藤井聡太さんらの若手棋士はAIに育てられたのかも・・)
 
このように、人間の知的活動において、既にAIが大きな役割を得ていますが、同時に危険性が増しているのです。
次号では、企業活動にもたらすAIの光と影をもう少し解説していきます。