[ITmedia エンタープライズ] 新たなプロンプトインジェクション「LegalPwn」が登場　法的文脈の中に命令を埋め込み

Pangeaは生成AIの新たなセキュリティリスク「LegalPwn」を報告した。法的文脈に悪意のあるコードを埋め込み、AIモデルが誤認するプロンプトインジェクション攻撃でセキュリティを突破できる可能性が示されている。

明日ダイアリー