TT Malware Log

マルウェア / サイバー攻撃 / 解析技術 / 攻撃組織 に関する「個人」の調査・研究のログ

攻撃手法: AIレコメンデーションポイズニング

AIレコメンデーションポイズニング (まとめ)

【要点】 ◎AIレコメンデーションポイズニングは、攻撃者がAIの記憶や推薦ロジックを汚染し、将来の出力を継続的に悪意ある方向へ誘導する新手法である

AIのメモリ汚染、企業が率先して攻撃に参加 - 31社から不正なプロンプト特定

【要点】 ◎AIメモリ汚染攻撃が拡大し、31社のサイトで不正プロンプトを確認。AIの推奨結果を意図的に操作する手法に警戒が求められている (マイナビニュース)

マイクロソフト、AIシステムを標的にしたAI推奨 Poisoning サイバー脅威を警告

【要点】 ◎MicrosoftはAI推奨ポイズニングを警告。内部記憶を操作し将来の推奨を歪める新手法で、継続的監視と厳格な検証を求めた (Newron)


Copyright (C) 谷川哲司 (Tetsuji Tanigawa) 1997 - 2023