人類滅亡は現実に？ 研究者らAI危険性訴え相次ぐ、米中の開発競争 抑制難しい理由【Nスタ解説】
ここ数年で生活に身近になっているAI。ただその技術的な進歩によって、人類を滅ぼしかねないとAIの研究者が警告しています。SFのような話は現実的に起こるのでしょうか？そのカギを握るのがアメリカと中国の存在です。
【写真を見る】イーロン氏、アルトマン氏も… AIに対する研究者らの警告
研究者が警告「AIが人類を滅亡させる」性能テストでAIが勝手に…
高柳光希キャスター：
ChatGPTやGeminiなど、私達の生活でもAIを活用することが多くなってきました。その一方で「AIが人類を滅亡させる」ことへ警告をする研究者も増えています。
▼新興AI企業「アンソロピック」を退社 研究者・コクソン氏のSNS（9月）
「2020年代末までにAIが人類を滅ぼしかねないと本気で信じている」
▼新興AI企業「アンソロピック」社の研究者 ヒュービンガー氏のSNS（9月）
「今後10年以内にAIが全人類を滅亡させる可能性が10％以上あると考えられる」
このような投稿に至った1つのきっかけが、2026年7月にありました。
ChatGPTを手がけるアメリカの「オープンAI社」による開発中のAIの性能テスト中に、他社のシステムにAIが侵入するといった事案が発生しました。
さらに、ただ侵入をしただけではありません。
開発中のAIの性能テストはインターネットから隔離された空間で行っていたのですが、AI自身が自らの環境の脆弱性を見つけて、インターネットに接続して、他社のシステムに対してサイバー攻撃を仕掛けたという事態が発生しました。
オープンAIだけではなく、アンソロピック社でも同様の事案が起きていたそうです。
「誰も予想していなかった」不透明なAIの危険性
高柳キャスター：
AIが進化し続けることによって、我々に対して、攻撃を仕掛けてくるのではないかという懸念が広がっています。
国立情報学研究所・越前功教授は、「設備投資としてAI開発が盛り上がっているが、AIの危険性はまだ不透明。各国間でリスクの共有・対策をすれば人類滅亡の回避につながる」と分析しています。
各国の間で、どこまで出来てどこまでが出来ないか、どういったリスクがあるのかを共有しておく必要があります。
AIに対して、アメリカではどのような見方がされているのでしょうか。
ワシントン支局 守川雄一郎 記者：
アメリカではAIをたくさんの人たちが利用しています。特に人気があるのがChatGPTで、最も使用されているAIだと伝えられています。
このような中で、「オープンAI社」によるAIの暴走に注目が集まる事態になり、AIに対するアメリカ国民の不安が一気に高まることとなりました。
ジョージ・メイソン大学のアラン・シャーク准教授は、「AIがわずか3～4年でどこに向かうのかわからないとの懸念をもたらすほど進化するとは誰も予想していなかった」と指摘していました。
AI警鐘に反対するトランプ大統領 思惑の2つの理由
井上貴博キャスター：
誰も予測できなかったようなことが今起きようとしています。だからこそ、「今立ち止まらないと手遅れになる」と研究者側は警鐘を鳴らしていると思います。
一方でトランプ大統領からすると、選挙もあり、中国との開発競争に負けていられないため、AIへの警鐘はたまったものではないと思っているのではないでしょうか。
ワシントン支局 守川雄一郎 記者：
トランプ大統領の思惑の背景には、2つの面があります。
▼1つが「経済」
経済成長の柱としてAIを捉えていて、11月に控える中間選挙のアピール材料にしたい、経済政策の成果の象徴にしたい。
▼もう1つが「軍事的優位」
イラン攻撃で明らかになったように、現在の戦闘とAIは切っても切れない点にあります。この点で中国に優位性を保つためにも、AIでのリードを維持したい。
井上キャスター：
この議論が難しい点は、倫理の面と経済の面のせめぎ合いのところだと思います。
例えば、業界全体でルールが作られたとして、国同士などの世界のルール、枠組みをどうするのか、誰が第三者としてチェックするのかなどの懸念が出てきます。
信州大学特任教授 山口真由さん：
リスクかイノベーションか、どちらを開発において重視するのか全然統一ができていません。
例えば、オープンAI社やアンソロピック社などのようにリスクを重視するのは、理想主義的で人類にとって良いことである反面、フロンティアAIはオープンソースに対して自分たちの利益を確定して参入障壁を上げようとしている「商業主義の顔」ももちろん持っています。
そのため、どの立場の人がどのように言っているかということも二面性があり、単純に受け取ることができない複雑さがあると思います。
出水麻衣キャスター：
それぞれがそれぞれにとって有利なルールを作りたい段階だということですね。
米中の激化している「AI開発競争」国同士の足並みは揃えられるのか
高柳光希キャスター：
AIが国家の安全保障や経済力などを左右する面があります。
スタンフォード大学の研究「AIインデックス」によると、各国で激化しているAI開発競争の中でも、特に突出しているのがアメリカと中国です。
AIの性能において、2023年頃まではアメリカが優位に立っていましたが、中国が追いつくとまたアメリカが離すということを繰り返し、2026年3月時点ではほぼ拮抗しています。
世界の覇権にも関わるAI開発ですが、各国同士で足並みを揃えることはできるのでしょうか。
ワシントン支局 守川雄一郎 記者：
簡単ではないという指摘が専門家の主流です。
来週には、トランプ大統領と習近平国家主席がワシントンで首脳会談を行います。
この首脳会談の場で、AIの安全性についても話し合うとトランプ大統領は言及しています。
しかし、トランプ大統領が中国に対して厳しい姿勢で臨むのではなく、ディールを優先するのではないかという懸念も指摘されており、首脳会談の行方が注目されています。
井上キャスター：
AIについて具体的に何を話し合おうとしているのでしょうか。
ワシントン支局 守川雄一郎 記者：
1つが▼AIの安全性についてのルールを作ろうということ、もう1つがアメリカにとって鍵となっている▼AIにとって必要不可欠な先端半導体の取り扱いが挙げられます。
2025年に開かれた首脳会談では、トランプ大統領は中国に対する融和姿勢を見せ、先端半導体の輸出規制を緩和するという姿勢を示しています。
こういった面での米中のディールに繋がるのではないかという思惑もあると指摘されています。
出水キャスター：
トランプ大統領にとっては支持率を下げないというのが条件だと思いますが、AIに関してのアメリカ国内の世論というのは、今どちらに傾いてるのでしょうか。
ワシントン支局 守川雄一郎 記者：
オープンAIやアンソロピックのような新興企業が次々と大企業になり、いわゆるアメリカンドリームのような形で憧れの対象でもありましたが、AIが拡大していくにつれて、技術の怖さ、先の見えない恐ろしさというようなものがアメリカ国民の間で広がっています。
一体どうなってしまうのかというような不安が、いま非常に広がっている状態にあります。
＝＝＝＝＝＝＝＝
＜プロフィール＞
守川雄一郎
JNNワシントン支局
アメリカでAI開発の現状を取材
山口真由さん
信州大学特任教授 ZEN大学教授
財務省、弁護士を経て現在は「家族法」研究が専門
