最先端AI“突然停止”で世界に波紋…「フェイブル5」「ミュトス5」米政府はなぜ標的に？アンソロピック幹部を取材した記者が読み解く【news23】
いま、アメリカ政府とAI企業との深い溝が世界に波紋を広げています。突然、提供停止を命じられたのは、アンソロピック社の最先端AIモデル。私たちの暮らしや安全にも影響しかねない異例の措置ですが、背景に何があったか、読み解きます。
【写真を見る】最先端AI「ミュトス5」「フェイブル5」はどう違う？
「永久追放にして正解だった」最先端AI 外国人による利用を制限
ヘグセス国防長官
「国防総省がアンソロピックを永久追放した。日を追うごとに正しい判断だったと感じる」
アメリカの国防トップが「永久追放にして正解だった」と名指ししたのが、アメリカのAI企業「ANTHROPIC（アンソロピック）」が提供する最先端のAIモデル「クロード・フェイブル5」と「クロード・ミュトス5」です。
アメリカ政府は国家安全保障上の懸念を理由に、この2つのモデルについて“外国人による利用を制限”する輸出管理措置を発出。
アンソロピックは、このモデルへのアクセスを世界的に停止する対応を余儀なくされました。
そもそも「ミュトス」とは、システムに潜む弱点や脆弱性を見つけ出すことができる高度なAI。しかし、その能力が悪用されれば深刻な事態を招きかねません。
安全対策を組み込んだ「フェイブル5」 提供開始から3日後に停止なぜ？
例えば、金融機関へのサイバー攻撃に利用されれば、私たちの預貯金が盗み取られるおそれがあります。
さらに、鉄道や電力といった社会インフラが標的となれば、その機能が停止し、私たちの暮らしに大きな影響を及ぼす可能性もあります。
こうしたことから、4月に発表された「ミュトス」は、アメリカ政府やGoogle、NVIDIAなど約50の企業や組織に限定して提供されてきました。
そして、利用を始めた企業などが1か月間運用した結果、ソフトウェアの重大な脆弱性が1万件以上見つかったと発表していました。
6月2日、片山大臣は日本政府や一部の金融機関に「ミュトス」へのアクセス権が付与されたことを明らかにしていました。
片山さつき金融担当大臣（2日）
「アンソロピック社のもたらす脅威に世界が震撼している。最先端の準備にたてることを喜ばしく思っている」
そして9日、安全対策を組み込んだとして、「ミュトス」と同等の性能を持つ「フェイブル5」について、一般向けの提供を開始していました。
しかし、そのわずか3日後。アンソロピックはアメリカ政府からの命令を受け、「フェイブル5」と「ミュトス5」の提供を停止すAnthropicると発表。
政府からは国家安全保障上の懸念について、具体的な説明が無かったとして不満をあらわにしました。
AI企業「Anthoropic」
「政府は透明性や公平性などに基づいてのみ、アクセス制限の権限を持つべきだ」
突然の発表に日本政府は15日…
木原稔官房長官
「内容については現在、担当部局で精査中」
アメリカ政府が下した異例の停止措置。その背景に何があったのでしょうか。
「ミュトス5」「フェイブル5」提供停止 IT大手がセキュリティの懸念指摘
藤森祥平キャスター：
アメリカ政府が、国家安全保障上の懸念から、外国人の利用を制限する「輸出管理措置」を発出し、6月9日に提供開始された「クロード・フェイブル5」「クロード・ミュトス5」について、6月12日に全世界で提供停止されました。
「ミュトス5」「フェイブル5」はどういったものなのでしょうか。
TBS CROSS DIG 企業・産業コンテンツ担当 中川雅博 記者：
「ミュトス」は4月にプレビュー版が出され、サイバー攻撃能力が極めて高く、悪用される懸念があるので、一部企業に限定公開されてきました。
今回、一般向けにサイバー攻撃などの能力を意図的に落とすなどの安全策を講じてリリースされたのが「フェイブル5」。全世界の一般ユーザーが使える状態になりました。
AI自らプログラミングする能力が極めて高く、複雑な問題の処理やAIエージェントを操る能力の高さが注目されています。
▼ミュトス5
・サイバー攻撃に悪用懸念
・一部企業などに限定公開
▼フェイブル5
・一般向けに安全対策強化
・全世界に公開
※基本モデルは同じ
実際に使ってみると、以前のモデルでは、プロンプトと言われるものを細かく入力していたのですが、ざっくりとした指示でも理解してくれるという印象を持ちました。
小川彩佳キャスター：
そうしたAIをアメリカ政府が停止した背景には、何があるのですか？
TBS CROSS DIG 中川雅博 記者：
アメリカメディアによると、IT大手のAmazonなど複数社が、特定の指示を「フェイブル5」にすると、サイバー能力の機能制限を回避できるような、セキュリティ懸念があると指摘しました。
これを受けて、アメリカ政府が輸出管理措置を出したということで、政府側はセキュリティ懸念を深刻に見ている可能性があります。
一方で、アンソロピック社側など、サイバーセキュリティの一部の研究者はそこまで深刻ではないと見ていて、安全対策に関する認識の違いが生じているようです。
また、アンソロピック社の姿勢が政府の怒りを買った可能性もあり、すれ違いが深刻になっていると言えます。情報が限られている状態で、何が起こっているのか分かりづらい状況です。
AIが「国の安全保障を左右する技術に」 “国際ルール”作りの課題も
小川キャスター：
国がストップをかけることができてしまうのですね？
TBSスペシャルコメンテーター 星浩さん：
AIは、今や社会インフラになっていて、日本でも一部の金融機関が「ミュトス」を使っているため、政権の恣意的な判断で「使う」「やめる」となると混乱がおきます。
どういうことが禁止事項にあたるのかという基準を作らないと、恣意的な判断がまかり通ってしまいます。
国内的な基準もそうですが、国際ルールも必要でしょう。G7の会合などでも早急にルール作りを進めてほしいです。
TBS CROSS DIG 中川記者：
今回、G7にも「アンソロピック」や「Open AI」などAI企業のトップらが参加するということなので、どのような議論がされるか注目を集めそうです。
超高性能のAIの進化に政府の規制や法整備が追いついていない状態ですが、いよいよ扱い方を決めなければいけない段階に来ています。
テクノロジーと地政学が専門の経営共創基盤・塩野誠CEOは、「AIは国の安全保障を左右する技術になった」「核兵器や原子力は国家主導で開発していたが、AIは民間の新興企業がたった数年で開発した技術」だとしています。
小川キャスター：
誰がどのように主導権を握り、中立性を担保しながら国際ルールを作るのか。これまでとは違った局面を迎えそうですね。
TBS CROSS DIG 中川記者：
国よりも民間企業が力を持っている状態なので、両者の連携をどうしていくかが今後の課題だと思います。
藤森祥平キャスター：
日本の国産AIを含め、リスク管理はどうなるのでしょうか。
TBS CROSS DIG 中川記者：
今回の事態を受けて、国産AIを望む声は非常に高まっています。一つの海外のモデルに依存するリスクが高いことを知らしめたと思います。
遅れていても開発を続けて、その世界のことをちゃんと知る。あるいは色々なモデルを組み合わせた日本ならではの使い方ができると思います。そうしたシステムを開発する会社も出てきていますので、今後に期待したいです。
＝＝＝＝＝＝＝＝
＜プロフィール＞
中川雅博 記者
TBS CROSS DIG 企業・産業コンテンツ担当
米AI企業「アンソロピック社」幹部を取材
星浩さん
TBSスペシャルコメンテーター
政治記者歴30年 福島県出身
