【訳】
「眠れるピクルス」エクスプロイトがMLモデルを微妙に汚染する
【要約】
「スリーピー・ピクル」と呼ばれる新しい攻撃手法が発見され、PythonのPickle形式を悪用して機械学習(ML)モデルを操作することが明らかになりました。この手法は、MLモデルのパッケージ化と配布に用いられるPickle形式を利用し、悪意のあるバイトコードを挿入することで、デシリアライズ時に任意のコードを実行するものです。この攻撃は検出が困難で、フィッシングやサプライチェーンの侵害を通じて拡散され、モデルの出力やデータを改ざんする可能性があります。セキュリティ対策としては、Safetensorsなどのより安全なファイル形式を使用することが推奨されます。
【ニュース】
◆'Sleepy Pickle' Exploit Subtly Poisons ML Models (DarkReading, 2024/06/15)
[「眠れるピクルス」エクスプロイトがMLモデルを微妙に汚染する]A model can be perfectly innocent, yet still dangerous if the means by which it's packed and unpacked are tainted.
[梱包や開梱の手段が汚染されていれば、完全に無害なモデルであっても危険であることに変わりはない。]https://www.darkreading.com/threat-intelligence/sleepy-pickle-exploit-subtly-poisons-ml-models