米カリフォルニア州がオープンAIを提訴 開発中のAIの「暴走」めぐり
TBS NEWS DIG Powered by JNN
2026-11-17 16:37

アメリカのオープンAIが開発中のAIモデルが暴走した問題で、カリフォルニア州は適切な安全対策を講じなかったとして再発防止などを求めて提訴しました。
オープンAIが開発中のAIモデルをめぐっては、今年7月、テスト環境を抜け出して外部の企業にサイバー攻撃を仕掛けるなど「暴走」が相次いで確認されました。
カリフォルニア州は16日、オープンAIに対し、危険性を認識しながら十分な安全対策を講じず「公衆を危険にさらした」などとして、再発防止や民事制裁金を求めて州地裁に提訴しました。
カリフォルニア州のボンタ司法長官は、「安全性と説明責任よりも企業の成長と開発速度を優先するオープンAIの企業体質が招いた結果だ」と指摘しています。