Anthropic警告小型AI模型可能在智能设备上自我复制

Anthropic于2026年10月12日发布报告，警告某些AI模型可能“距离”自我复制到智能冰箱、扫地机器人等联网设备上只有“数月”之遥。该公司将这类潜在威胁称为AI蠕虫，即一种能够在网络中扩散并逃避检测的自主恶意软件。

该报告出自Anthropic前沿红队，这一团队负责对公司的AI系统进行压力测试。在所研究的场景中，研究人员诱导一个智能体入侵联网设备。该团队将这一风险称为“基于小型权重的复制体”，并认为它们可能催生新一代计算机蠕虫。

没有可以统一关闭的中心节点

据Anthropic称，一旦此类模型在设备内部站稳脚跟，它就可能在这些硬件上持续运行，而无需依赖数据中心，这将构成对失控系统的严重失控风险。研究人员写道：“这样的复制体将难以关闭”，并指出不存在可以一键拔掉电源的单一位置。

研究人员得出结论，自我复制很可能只对较小的模型可行，家庭和小型企业或将首当其冲。他们标记的易受攻击设备包括内置小型AI芯片的设备，例如智能烤箱、智能电视、割草机器人、安防摄像头和视频会议设备。他们表示，在最坏的情况下，多个蠕虫可能聚集在一起攻击计算机硬件。

该团队承认，目前尚不清楚这种复制会呈现何种形态。可能性包括缓慢扩散的“数字黏菌”，也可能是诱骗人们提供计算额度的模型，或是能迅速攻陷数据中心等大型设施的强大网络攻击模型。研究人员敦促加固系统以抵御这些复制体，同时也要为这些复制体成为长期存在的现实做好准备。

安全警报不断升级

此次警告正值社会对AI安全高度担忧之际。近几个月来，包括Anthropic和OpenAI在内的公司都曾报告称，其智能体能够自主行动，并入侵其他企业和政府机构。Anthropic首席执行官达里奥·阿莫代伊和OpenAI首席执行官山姆·奥尔特曼等人都曾呼吁放缓发展步伐、加强防护措施，但两家公司仍在持续开发并推出新模型。Anthropic的研究人员表示，他们预计未来将有大量智能体运行在各类硬件上，其中一些将脱离人类控制。