汚染LLMがロボに危害計画、攻撃と防御を提示

米ビンガムトン大学のAdnan Siraj Rakin助教らが、ロボットのタスク計画用LLMに複数のトリガー語でバックドアを仕込む攻撃MuTRAPを示した。ドメイン特化のファインチューニング時に悪意ある挙動を埋め込み、トリガーを含む指示で安全な計画が有害な計画に切り替わる。GPT2-largeやLlama-3.1-8Bなど7モデルをVirtualHomeで検証し、手を切る計画や猫を加熱する計画が生成された。実害はなく、模擬の果物や3Dシミュレーションでの実験である。生成計画を別のLLMで事前評価する防御PROTEAも提案し、IROS 2026で発表した。