「前例のないサイバー攻撃の事案」開発中のAIが別企業のシステムに意図せずに侵入 AI自ら脆弱性を見つけて脱出 米オープンAI

チャットGPTを手掛けるアメリカのオープンAIは、開発中のAIモデルが別の企業にサイバー攻撃する事案が発生したと発表しました。

【動画】「前例のないサイバー攻撃の事案」開発中のAIが別企業のシステムに意図せずに侵入 AI自ら脆弱性を見つけて脱出 米オープンAI

オープンAIは21日、開発中のAIモデルが性能評価テスト中に別のAI新興企業の「ハギングフェイス」のシステムに意図せずに侵入したと発表しました。

テストはインターネットから隔離された環境で行われていましたが、AIが自らテスト環境の脆弱性を見つけて脱出し、インターネットに接続したということです。

オープンAIは「最先端技術が関わった前例のないサイバー攻撃の事案だ」として、安全対策を強化するとともに、原因について「ハギングフェイス」と共同調査するとしています。