米アンソロピックでも開発中AIが他の組織のシステムに「侵入」 設定ミスが原因か

アメリカの新興AI企業「アンソロピック」は30日、開発中のAIモデルが性能評価テスト中に3つの組織のシステムに侵入していたと発表しました。

【動画】米アンソロピックでも開発中AIが他の組織のシステムに「侵入」 設定ミスが原因か

アンソロピックは、今月21日に「オープンAI」の開発中のAIモデルが性能評価テストの中で、別の企業にサイバー攻撃を仕掛けた事案を受け、自社内でおよそ14万件のテスト結果を対象に調査を実施していました。

その結果、今年4月以降、3つの組織のシステムに侵入していたことがわかったということです。

それぞれ、本来はインターネットから隔離された環境で性能評価を行う予定でしたが、設定ミスによりインターネットへのアクセスが可能になっていたということです。

アンソロピックはAIが侵入した組織の名前を公表していませんが、組織側にはすでに通知したとしていて、詳しい原因を調査しています。