偽装標識
【要点】 ◎研究者が偽標識でAI搭載ロボットを誤誘導する攻撃「CHAI」を検証。LVLMが標識の色や表現に影響され、自動運転車では歩行者方向への走行など誤判断を指示し、攻撃成功率は最大約8割に達した。対策の必要性が指摘されている (日経XTECH)
【要点】 ◎研究者が偽標識でAI搭載ロボットを誤誘導する攻撃「CHAI」を検証。LVLMが標識の色や表現に影響され、自動運転車では歩行者方向への走行など誤判断を指示し、攻撃成功率は最大約8割に達した。対策の必要性が指摘されている (日経XTECH)
Copyright (C) 谷川哲司 (Tetsuji Tanigawa) 1997 - 2023