【要点】 ◎AIレコメンデーションポイズニングは、攻撃者がAIの記憶や推薦ロジックを汚染し、将来の出力を継続的に悪意ある方向へ誘導する新手法である
【要点】 ◎AIメモリ汚染攻撃が拡大し、31社のサイトで不正プロンプトを確認。AIの推奨結果を意図的に操作する手法に警戒が求められている (マイナビニュース)
【要点】 ◎MicrosoftはAI推奨ポイズニングを警告。内部記憶を操作し将来の推奨を歪める新手法で、継続的監視と厳格な検証を求めた (Newron)
Copyright (C) 谷川哲司 (Tetsuji Tanigawa) 1997 - 2023
引用をストックしました
引用するにはまずログインしてください
引用をストックできませんでした。再度お試しください
限定公開記事のため引用できません。