偽情報を見抜く技術が一歩前進です。生成AIがつくった文章かどうか、判別して見抜く新しい技術が発表されました。
【動画】日立、生成AIが作成した文書かどうか判別する新技術 世界初「三重以上」の電子透かしを駆使 フェイク情報の拡散防ぐ
ネット上に氾濫する「偽情報」。生成AIの活用が進むにつれて増えた「負の側面」ですが…。
きょう、日立製作所が発表したのは、生成AIが作った文章かどうかを判別する最新技術。その仕組みは。
記者
「こちらの文章、生成AIが作成したものか判別する『透かし』が入っているんです」
今回の技術では、生成AIが文章を作るときに「電子透かし」として機能する特定の単語が入るようにします。その単語の一致した数によって、文章が生成AIが作ったものなのかがわかるというものです。
さらに…
記者
「先ほどの緑の色から濃い緑に変わった部分があります」
これまで「電子透かし」が1つだと偽造される可能性がありました。今回の技術では、世界で初めて「三重以上」の電子透かしを駆使。セキュリティが遙かに強化されました。
日立製作所 研究開発グループ 永塚光一さん
「『電子透かし』という技術は、簡単に言えばAIが作った文章と、そうでないものを見分ける技術」
フェイク情報が拡散して社会問題化するなか、動画や文章をなどをつくったのが誰なのかを証明する「電子透かし」の技術が注目されています。
電子透かしは、動画や画像のフェイクを見破るために活用されてきましたが、文章に応用するのは難しいとされてきました。
日立製作所 研究開発グループ 永塚光一さん
「テキストの場合だと、単語が1つ変わってしまうだけで、文章の意味が全体的に変わってしまうこともあり得るので、なかなか困難だった」
日立製作所は今後、この技術をさらに進化させて、生成AIを使った偽情報の拡散防止や不正防止につなげていきたいとしています。
