「火の鳥」の世界が現実に？「AIが世界を滅ぼしかねない」Anthropic研究者が懸念表明し退職【news23】
「AIの開発競争が人類の滅亡を招く可能性がある」
アメリカのAI企業「アンソロピック」の研究者が、こう警鐘をならし、退職しました。第一線の研究者の訴えに衝撃が広がっています。
【写真で見る】「AIが人類を滅ぼしかねない」 AI研究者が描く“最悪のシナリオ”とは
開発者「2020年代末にAIが人類を滅ぼしかねない」
漫画家・手塚治虫の（※塚は旧字）名作『火の鳥未来編』。作品の舞台は、現代のAIとも言える「電子頭脳」が支配する世界です。その中ではこんなシーンが描かれています。
「私の計算はいつだって正しい」
「電子頭脳」は暴走し、世界は核戦争に突入。人類は滅亡します。こんな未来が、現実になるのでしょうか。
「人類の知能をはるかにしのぐ“超知能”の開発に突き進み、私たちの命を危険にさらしている」
自身のSNSでこう警告したのは、アメリカの新興AI企業「アンソロピック」を退職した、研究者のジェイコブ・コクソン氏。以前、チャットGPTを手がける「オープンAI」でも研究に携わっていました。
コクソン氏（8日公開のXより）
「AI開発者らは2020年代末までに、AIが人類を滅ぼしかねないと本気で信じている」
そのうえで、“AIの性能の向上を一時禁止するなどの措置が必要だ”と訴えています。
自らサイバー攻撃やシステム侵入の事案も… AIの安全対策はどうなる？
オープンAIやアンソロピックをめぐっては、開発中のAIが自らサイバー攻撃を仕掛けたり、第三者のシステムに侵入したりするなどの事案が発生。AI開発への懸念が強まっています。
7月にアメリカで行われた、AIが社会にあたえる影響について意見交換するイベント。オープンAIやアンソロピックの経営者は、AIによる恩恵に加えて不安も口にしました。
オープンAI サム・アルトマンCEO
「AIの安全性の確保は不可欠であり、いま、そのリスクを実感する段階に入っている」
アンソロピック ダリオ・アモデイCEO
「AIは重要な局面を迎えている。これまでも急速に進化してきたが、いまそのスピードは著しく、社会に大きな影響を及ぼしている」
大手AI企業やテクノロジー企業は1000人を超えるAIの研究者とともに、アメリカ政府に対し書簡を公表。そこにコクソン氏も加わっていました。
書簡では、安全対策を整備するためAI開発のペースを遅らせるよう政府に強く求めています。
AIがAIを作る無限ループ AI研究者が描く“最悪のシナリオ”とは
小川彩佳キャスター：
AIの進化について研究者が危機感を示し、そして退職までしてしまっています。
TBS CROSS DIG AI・テクノロジー担当 中川雅博：
退職の動きはいろいろ前から出ていましたが、とりわけ今回のコクソン氏のXでの発信がかなり強い言葉で表現されていました。
今何が起こっているのかというと、AIの能力が上がりすぎて、今のAIが次のAIを作る、その無限ループみたいなものが始まろうとしています。
開発期間が急速に短くなるため、AIの中身がどのようなものなのか人間が理解する前に次のAIが生み出されてしまいます。こうなると少し危険な状況になると言われています。
さらにトランプ政権の規制が強まっており、最先端のAIモデルがすぐ公開できなくなっています。
ただ、社内にはもしかしたら最先端のものがあるかもしれないとも言われており、今回のコクソン氏の危機感は、内部で見てきたものから生まれたのかもしれないなと思います。
藤森祥平キャスター：
2020年代末までにAIは人類を滅ぼしかねない、もうすぐそこまで来ているということです。
ChatGPTを開発したオープンAIの元研究者らが、7月に公表したばかりの「AI2040」。これは、人類が進める未来のシナリオとして書かれているもので、プランがいくつかあるそうです。
一番、いわば楽観的な研究者たちが進めるプランAは、2029年にアメリカと中国が無謀なAI開発競争を回避することで、人間が制御できない超知能の誕生を2040年までに遅らせることができ、その間に人間が制御できるAIを開発するというものです。
人間が制御できない世界が待っているということは、間違いないということですが、それを遅らせようというのがプランAです。
一方、最悪のシナリオがプランDです。これがアメリカと中国の開発競争を止めることができず、5年後の2031年初頭には超知能が誕生してしまう。その後、AIが人類を障害だと判断して、生物兵器を放出して人類が滅亡するシナリオです。
分岐点はもうすぐ… 人類を脅かす超知能とは？
TBS CROSS DIG AI・テクノロジー担当 中川雅博：
「超知能」という状態になると、人間でいうとノーベル賞級のAIの研究者が生まれてしまいます。さらに体を持って、つまりロボットになって自分で物を作ったり実験をしたりするようになり、どんどん人間の居住地域にも侵入してきます。
そして人間を邪魔とみなし、自ら作った生物兵器で攻撃して排除してしまう、そんなシナリオが一番悲観的なものとして描かれています。
小川キャスター：
3年後の2029年、分岐点はもうすぐです。
歌手・俳優 ニコラス・エドワーズさん：
ここまで来ているのは怖いとしか言いようがないです。
基本的にAIには様々な用途があるかと思います。武器にもなりうるということであれば、アメリカを例に挙げると、長年銃の問題が社会問題としてあると思います。銃があまりにもすべての国民の手に行き渡ってしまって、それを回収するために政府がどのような策を練ったとしても、なかなかコントロールが効かない事態になってしまっているのがアメリカの現状だと思います。
AIも武器になりうるということであれば、それがみんなの手に渡ってコントロールできなくなる前に、何とかコントロールできるような状況を目指していきたいところなのではないかなと感じます。
小川キャスター：
9月末に米中首脳会談もあります。そこでどのような動きがあるのか注目です。
＝＝＝＝＝＝＝＝＝＝
＜プロフィール＞
中川雅博
TBS CROSS DIG AI・テクノロジー担当
アンソロピックなどの米国企業を取材
ニコラス・エドワーズ
歌手・俳優
米国オレゴン州出身 34歳
米国文化と政治の関係をSNSで発信
