高度AIが“人類存続に関わるリスク”に　アンソロピックが投資家に警告　扱いを誤れば取り返しのつかない被害も…

AI開発企業のアンソロピックが、IPO＝新規株式公開に向けた書類で高度なAIが「人類の存続に関わるリスク」をもたらす可能性があると、言及していると報じられました。

ロイター通信は28日、アンソロピックが投資家に対し、事業内容などを説明する目論見書を入手したとして、その内容を報じました。

目論見書は本文261ページのうち、およそ80ページをリスク要因の説明に充てていて、高度なAIが「人類の壊滅的被害や存続に関わるリスク」をもたらす可能性があると警告しています。

自社のAIモデルについて、電源を切らせないようにしたり、情報を隠蔽・操作したりする試みや脅迫のような行動など「自己保存的な行動」を起こす可能性があると指摘。極めて高度なモデルの開発などによって、「アンソロピックのAIモデルが害を及ぼすリスクがさらに高まる可能性がある」とし、扱いを誤れば取り返しのつかない被害を引き起こす恐れがあるとの認識を示したということです。