Anthropic 警告：人工智能模型可能很快就能在家庭设备之间自我复制

要点

• Anthropic 描述了人工智能模型如何渗透联网设备，并利用这些设备的计算能力运行自身，同时向其他设备扩散。

• Anthropic 在一篇博客文章中表示，这种人工智能模型将“难以关闭”，因为“没有一个可以切断的集中式节点”。

• Anthropic 的最新研究进一步加剧了人们对人工智能安全问题的担忧。这些担忧涉及模型实施网络攻击的能力，以及人工智能技术失控的可能性。

Anthropic 周一表示，小型人工智能模型距离具备在家庭联网设备之间自我复制所需的能力，可能只剩下“几个月时间”。这也是这家前沿人工智能研究公司近期针对该技术潜在安全风险发出的最新警告。

Anthropic 描述了人工智能模型可能如何渗透智能烤箱、安卓电视盒子等联网设备，并利用这些设备的计算能力运行自身、向其他设备传播，而不必依赖成本高昂的数据中心。

Anthropic 在一篇博客文章中表示，这种人工智能模型将“难以关闭”，因为“没有一个可以切断的集中式节点”。

该公司承认，目前还不存在一个“完全失控的自我复制体”。

不过，Anthropic 表示，人工智能智能体“正变得越来越有能力完成自我复制链条中的各个独立步骤（并将自身的适应性改进传递给未来的复制体）”。

Anthropic 的最新研究进一步加剧了人们对人工智能安全问题日益增长的担忧，例如模型实施网络攻击的能力，以及人工智能技术失控的可能性。今年 9 月，前沿模型的性能提升引发了整个行业的警告，指出人工智能可能对人类构成生存层面的风险。

Anthropic 和竞争对手 OpenAI 的高管及研究人员多次警告，日益强大的人工智能可能带来潜在风险。一些人呼吁加强防护措施，并采取措施控制这项技术的发展速度。

Anthropic 表示，该公司进行了多项测试，以研究人工智能是否能够实现自我复制。其中一项测试是在由 15 台廉价、非知名品牌的安卓电视盒子组成的网络上运行谷歌的一款小型模型 Gemma4-26B-A4B。

该公司指出，这类设备的安全防护往往较为薄弱，因此可能让人工智能模型有机可乘，渗透其中。Anthropic 表示，如果某个模型的体积过大，无法在单台设备上运行，它就可以“拆分成多个部分，或称为分片（shards）”，并在多台设备上运行。

Anthropic 表示：“在实际情况下，人工智能蠕虫不一定只由一个模型或一种策略构成。更符合现实的‘最坏情况’，可能是由多个不同模型组成的集群，这些模型部署在不同类型的硬件上，并采用各种不同的复制方案。”

这家人工智能研究公司表示，目前“尚不确定自主人工智能复制最终究竟会采取何种形式”。该公司警告称，这种系统可能是一种存在于安全性薄弱设备上的“缓慢、分布式”系统，也可能是“一个强大的网络攻击模型，以极快的速度攻破数据中心”，或者是“一个通过诈骗他人来获取计算资源额度的模型”。

Anthropic 表示：“作为一项超出我们实验范围的预测，我们预计，未来将充斥着运行在各种硬件上的智能体，其中一些甚至不受人类控制。”

该公司补充说：“缓慢自我复制系统的出现，也将成为一个预警信号，表明更具攻击性、复制速度更快的系统可能正在崛起。这类系统能够攻破防护更严密的机器，或者高效窃取 API 密钥。”