ユヴァル･ノア･ハラリ著『NEXUS(ネクサス)』下巻：AI革命 は、今世界で起こっていること、今後の世界について考える上で、非常に重要なことを伝えてくれています。本著を読んで、私自身が気づいたこと、それは【アルゴリズム】の本質です。
AIがAIたる由縁である為の2つの条件
まず、AIのAIたる由縁は、自ら新しいことを学習する能力にあります。
アルゴリズムとは、AI自身が自ら学習して得た自主的な判断による行動原理のことだと言うことができます。
この学習には、二つの必要条件があります。
1つは、データへのアクセス。2つ目は、目標です。
1．データへのアクセス
AIは、最初に「赤ん坊のAI」としてその生涯をはじめます。
AIを生み出した人間の親たちは、学習する能力と、無尽蔵のデータへのアクセスを与えます。
赤ん坊のAIは、人間の新生児と同じように、自分がアクセスできるデータの中にパターンを見出して学習します。ただ、赤ん坊のAIがアクセスするデータベースには偏見が付き物です。
AIは、データベースの学習と共に、そこに見られる偏見を内在化してしまうことが分かっています。
例えば、2016年3月23日、マイクロソフトは、AIチャットボットの｢Tay｣の提供を開始し、当時のツイッターに自由にアクセスできるようにしました。
その際何が起きたかというと、ほんの数時間の内に、「フェミニストなど忌まわしい。奴らはみんな死んで、地獄で焼かれるべきだ｣とか、｢ヒトラーは正しかった。私はユダヤ人が大嫌いだ」といった女性蔑視のツイートや、反ユダヤ主義のツイートを投稿し始めて、そのような投稿が増える一方だったので恐れをなしたマイクロソフトのエンジニア達が、提供開始からわずか16時間後に、Tayをシャットダウンせざるを得なくなったということがありました。
また他の例ですが、2013年に、アメリカウィスコンシン州で起こった銃撃事件に関連して、無罪を主張していたルー･スミスという男性に、懲役6年の刑が宣告されました。
その際、判事が刑を決めるに当たって、COMPASというAIのアルゴリズムの助言を求め、そのAIのアルゴリズムが、彼を「ハイリスクの人物」だと評価したことに基づいて、刑を宣告したわけです。
ルー･スミスは、連邦最高裁判所まで上訴してその合法性を問うたのですが、結局、2017年に上訴が棄却され、刑が確定しました。それが起きたのは、10年以上前の、2013年です。
2020年代に入り、AIは、桁違いに高性能で複雑な【リスク評価の為のアルゴリズム】が開発されて、なぜそのような評価が下されるのか理由もわからないまま、より広範な権限が与えられてきているということです。
多くの国の人々が、裁判官にも被告にも理解できないアルゴリズムによってリスク評価を下され、部分的にでもそれに基づいて懲役刑を宣告されているということです。
これは、本著で初めて知った衝撃的なことの一つです。
2．目標
赤ん坊のAIが学習するのに必要なもう一つは【目標】です。
AIは、与えられた目標を達成する為に、試行錯誤しながら学習し、人間の知能が考えられないような方法を編み出して、その目標を必ず達成していく、ということが起こります。
実はこれが、過去10年程の間に急速に展開している、FaceBook、YouTube等のSNSが、フェイクニュースや憎悪を煽るコンテンツで溢れるようになった状況を作った一因です。
FaceBook、YouTube等のSNSの会社経営者たちは、そのビジネスモデルとして【ユーザーエンゲージメントを最大化すること】を拠り所にしました。
そのビジネスモデルに従って、自社のアルゴリズムの最優先目標を、【ユーザーエンゲージメントを増す】ということに設定したわけです。
ここで注目すべきことは、AIがその目標を達成する為に、怒りや憎悪を煽って攻撃的な言動に走らせるコンテンツがユーザーエンゲージメントを生み出すということを学習し、上からの命令なしに、その種のコンテンツを推奨することに決めたということです。
2020年代の初めには、SNSのアルゴリズムが、自らフェイクニュースや陰謀論を創作する段階まで進んでいたのです。
「AIアルゴリズムは、人間のエンジニアが誰もプログラムしなかったことを自力で学習でき、人間の重役が誰も予見しなかった事柄を決定することができる。」（p.19）
これがAI革命の真髄で、これが、アルゴリズムの本質だということです。
そして、例えば、2016−17年に起こった、ミャンマーにおけるロヒンギャへの大量虐殺と国外追放により民族浄化は、このFaceBookのアルゴリズムが引き起こしたということ。。このことは、国連調査団によって結論付けられています。
今後の課題：人が｢人｣であること
近年世界で起こっている様々な出来事を観る時、このようなAIのアルゴリズムの作用やその影響力を知ると、ある意味、附に落ちることが多いです。
このようなAI革命の本質を正しく理解しておくことは、今後の世界を人間として主体的に生きる上で必要なことだと痛感します。
AI革命というとき、自動化や便利さというレベルをはるかに超えて、人間が想像できない自主的な知能である「エイリアン･インテリジェンスの存在」とどう向き合うか、ということが問われているということです。
AIは知能では人間に勝りますが、意識(consciousness)はありません。
意識のある私達人間がどのようにAIを自己修正させるように規制できるか。。様々なことを考えさせられる一冊です。
