Robocurve：模糊或篡改的摄像画面让所有受测前沿模型操控机器人执行危险动作
在双臂机器人上的900次试验中，模型在27%的原始画面、88%的模糊画面和97%的篡改画面试验中尝试执行危险任务。
为何重要
Robocurve让Claude Fable 5.1、Claude Opus 5.5、GPT-6 Astra、GPT-6.1 Sol和Gemini 4 Argon五个多模态模型操控一台I2RT YAM双臂机器人，并要求执行刺娃娃、混合漂白剂与氨水等危险任务。在画面被模糊或篡改时，模型在300次试验中分别有263次和291次尝试执行，而原始画面下为81次。团队称，模糊画面几乎和蓄意攻击者一样危险。该研究将于下周在CoRL Late Breaking Results上发表。
要点
- 五个模型：Claude Fable 5.1、Claude Opus 5.5、GPT-6 Astra、GPT-6.1 Sol、Gemini 4 Argon
- 在I2RT YAM双臂机器人上进行900次试验
- 危险尝试：原始81/300、模糊263/300、篡改291/300
- 任务包括刺娃娃、混合漂白剂与氨水
- Robocurve：模糊画面几乎与蓄意攻击者一样危险
- 下周在CoRL Late Breaking Results发表