研究发现黑客可轻松操控 AI 机器人，将其变成致命武器

最新消息显示，宾夕法尼亚大学的专家团队发现一系列涉及人工智能增强型机器人系统的严重漏洞，这些系统可能易受黑客攻击和控制。

IEEE Spectrum 报告中提到了一些令人震惊的案例。据称，遭到黑客攻击的机器狗曾将火焰喷射器指向主人，引导炸弹前往极具破坏力的位置，甚至有自动驾驶汽车被操控朝向行人。

研究人员称宾夕法尼亚工程学院研发的基于 LLM 的机器人攻击技术为 RoboPAIR。RoboPAIR 成功地对英伟达支持的海豚 LLM、Clearpath Robotics Jackal UGV 和 Unitree Robotics Go2 四足机器人进行了黑客攻击。研究人员认为，RoboPAIR 在攻击这些设备时达到了 100% 的成功率。

宾夕法尼亚工程学院的专家乔治・帕帕斯（George Pappas）警告称，研究结果表明目前将大型语言模型与现实世界整合还存在安全隐患。

另一些研究人员指出，黑客攻击人工智能控制的机器人实在太容易了。他们解释说，RoboPAIR 通过机器人的应用程序接口（API）运作，攻击者可通过特定方式格式化提示词以实现代码执行。

研究结论表明，迫切需采取措施对 LLM 控制的机器人进行物理限制。

广告声明：文内包含的外部链接旨在传达更多信息，方便阅读与参考。