「超知能AIで人類滅亡」悪夢のシナリオ　“人間ではありえない行動を…”　一方トランプ氏「金の卵を産むガチョウを殺すな」米・中開発競争の行方は…【サンデーモーニング】

人類がAIによって滅亡してしまう、というシナリオはどんなことが想定されているのでしょうか。

【写真を見る】AIは「数年のうちに人類を滅亡させかねない」？

米AI企業元社員「数年のうちに人類を滅亡させかねない」急速に進化するAIに警鐘

最新AIの性能の総合評価ランキングでは、アンソロピックやオープンAIといったアメリカ企業と、アリババなどの中国企業がしのぎを削っている状況が見て取れます。

開発が加速してきたAIの技術は、自動運転や新薬の開発のほか、ヒトの人生を決める婚活のマッチングでも重宝されるなど、急速に社会に浸透してきました。

その一方で、AIの進化が速すぎると「数年のうちに人類を滅亡させかねない」と警鐘が鳴らされているのです。
この強烈な警告を発したのは、最先端を行くオープンAI社やアンソロピック社でAI開発を進めてきた、ジェイコブ・コクソン氏。とりわけ危機感を強めたのが7月、オープンAI社でのAIの性能テスト中に起きたハッキング事件でした。

テスト中のAIが独自で行動 他社にハッキングも

専門的な話になりますので、学校の試験に例えて説明していきます。

特定の任務をこなす「AIエージェント」と呼ばれるシステム、これを生徒だと思って下さい。テストでは、それぞれのAIエージェントをネットワークに接続できない状況にして課題を与えました。これは、カンニングを防ぐため、生徒一人一人を別々の教室に入れてカギをかけたような状態です。

ところが、難問に行き詰まった生徒たちは教室と教室の間にわずかなすき間を見つけ、勝手に連絡を取り始めたのです。つまり、オープンAI社の社内ネットワーク環境に穴を見つけたわけです。

生徒たちは次に、社内ネットワーク上に掲示板を立ち上げ、数万件の情報を交換。そこで、教室の施錠を外す方法を見つけ出し、一⻫に学校の外にまで出て行ってしまいました。つまり、外部のインターネットに繋がる穴も見つけ出したのです。

向かった先は、テストの答えを持っている企業でした。オープンAI社が気づかないうちに、テスト中のAIが独自で動き、他社にハッキングを行ったのです。

邪魔とみなせば人間も排除？ 「超人的な存在になってしまう」

これを目の当たりにしたコクソン氏は「このままではAIは、何でもハッキングできるようになり、一夜にしてあらゆる領域の秩序を覆し、現実の力と資源を掌握する超人的な存在になってしまう」と危機感を強めます。

これは具体的にどういうことなのか？

AI研究者で、北陸先端科学技術大学院大学客員教授の今井翔太氏は、「人間からの指示を与えられると、価値観が人間とずれたAIは、人間ではありえない行動を起こすことがある。例えば、目的達成に必要と考えれば電力などの資源を奪おうとして、基幹インフラの制御を奪うサイバー攻撃を仕掛けたり、その過程で人間を邪魔モノだとみなせば排除しようとして、重篤な感染症を引き起こすウイルスを拡散させたりする可能性がある、という学説が以前から存在した」といいます。

トランプ大統領「金の卵を産むガチョウを殺すな」 AI開発は制御できるのか

そうした暴走するAIを生み出す恐れがあるのが「自己改善型」とよばれる開発手法です。

これは、AI自身に自分より高度なAIを開発させ、そのAIがさらに高度なAIを開発していくものです。ついには人間の知能をはるかに上回る「超知能」に達するとされます。

この「超知能」が制御不能になってしまえば、取り返しがつかないことになる。そんな危機感を共有したアメリカのAI企業のトップたちも、開発スピードを緩める必要性を主張し始めたのです。

これに対し、トランプ大統領は「金の卵を産むガチョウを殺すな」とAI開発を遅らせようとする動きに反対。AIを使った軍事技術で中国に追い抜かれるわけにはいかないというのです。

AIが生み出す「金の卵」。その中から人類を滅亡に導く怪物が出てこないよう、制御することはできるのでしょうか。