研究发现黑客可轻松操控 AI 机器人，将其变成致命武器｜懂点AI

动点科技

2024-11-26 18:10发布于北京动点科技官方账号

掌握AIGC脉动，把握科技脉搏。动点科技每天收集汇总全球AIGC进展与热点，每天5分钟带您了解AIGC，希望与您共同玩转 AIGC，解码行业发展新风向，开启智慧新时代！

文 ｜动点科技
排版｜恩惠
本文预计阅读时长5分钟

01

研究发现黑客可轻松操控 AI 机器人，将其变成致命武器

宾夕法尼亚大学的研究人员发现，一系列人工智能增强型机器人系统存在严重的漏洞，容易受到黑客攻击和控制。IEEE Spectrum 的一份报告引用了令人震惊的例子，例如被黑客攻击的机器狗将火焰喷射器对准主人、引导炸弹到最具破坏性的地点，以及自动驾驶汽车故意撞向行人。宾夕法尼亚工程学院电气系统工程、计算机与信息科学、机械工程与应用力学系运输学教授乔治・帕帕斯（George Pappas）警告称：“我们的研究表明，目前，大型语言模型与物理世界集成时还不够安全。”
其他研究人员指出，黑客攻击人工智能控制的机器人“惊人地容易”。他们解释说，RoboPAIR 通过配备目标机器人的应用程序接口（API）来工作，这样攻击者就可以以一种设备目标能够作为代码执行的方式来格式化提示词（prompts）。
研究论文得出结论，迫切需要实施防御措施来物理限制 LLM 控制的机器人。

02

法拉第未来明年年初更换股票代码为 FFAI，官方称全车 AI 化是 FF 和 FX 重点战略

法拉第未来今日发文宣布，公司将在 2025 年年初将纳斯达克股票代码 FFIE 正式更名为 FFAI。官方表示全车 AI 化是 FF 和 FX 的重点战略，此举符合公司在 AI 战略上的持续聚焦，并进一步明确了 FX 战略所确立的方向。

03

亚马逊被曝启动“登月”计划：目标部署 10 万颗二代 AI 自研芯片，减少对英伟达依赖

彭博社昨日发布博文，报道称亚马逊为减少对英伟达的依赖，已启动“登月”（moonshot）的计划，希望部署 10 万颗二代自研芯片，提高数据处理效率并降低 AI 芯片采购成本。

- - - - - - - -   END   - - - - - - - -

精彩好文值得推荐！

一键转发，戳个在看！