AI巨头少见“踩下刹车”：Anthropic提醒“AI制造AI”时代正在靠近，呼吁全球放慢研发节奏

在人工智能能力高速跃升的背景下，AI巨头Anthropic少见地选择按下“暂停键”。当地时间6月4日，Anthropic在官网发布了一篇题为《当AI构建自身》（When AI builds itself）的重要文章，首次较为系统地公开了AI在编写和优化自身代码方面的惊人进展。文章不仅展示了“递归自我改进”（也就是AI在没有人类干预的情况下自行升级）正在逼近，还少见地呼吁全球放缓前沿AI的研发速度，以降低可能出现的失控风险。

Anthropic在文中通过一组颇具冲击力的内部数据，说明了AI研发效率正在呈指数级提升。到2026年5月，Anthropic并入代码库的代码中，已有超过80%由旗下AI助手Claude独立完成；而在2026年第二季度，工程师平均交付的代码量已经达到2024年同期的8倍。在具体科研和工程任务上，AI的表现同样非常突出：在优化小模型训练代码的测试中，Claude的加速能力在一年时间里从3倍迅速提升到52倍；在处理数万项训练任务崩溃问题时，AI只用了2小时就完成定位并修复，而人类通常需要2到3天。另外，AI能够独立且稳定完成任务的持续时长，也已从早期“每7个月翻倍”缩短到现在“每4个月翻倍”。

随着AI在“执行”层面（如写代码、跑实验）几乎不再占用人类时间，Anthropic警告称，在足够算力支持下，AI很可能会形成一个持续自我迭代、不断增强能力的闭环，也就是“递归自我改进”。虽然Anthropic强调，这一阶段还没有真正完全到来，也不是一定会发生，但它出现的时间大概率会比大多数机构预计得更早。如果AI真正进入全面自主构建下一代系统的阶段，现有模型中那些细微的“不对齐”行为，可能会在反复迭代中被持续放大，最终让人类失去对AI系统的控制。

面对这种潜在的生存级风险，Anthropic在文章中提出了一项争议很大的建议：国际社会、各国政府以及顶尖AI实验室应共同推动建立一个有效的全球协调机制，在必要的时候主动放慢，甚至暂时停止前沿AI的发展。该公司认为，这样做有助于为社会结构调整和AI对齐研究争取更多时间。不过，Anthropic也直言，这一机制真正落地会非常困难，因为AI训练比导弹发射井更容易隐藏，而且暗中违约带来的商业诱惑非常大，一旦竞争对手选择提速，谨慎行事的企业就可能失去领先优势。

值得关注的是，Anthropic选在这个时间点发布这篇“刹车”式宣言，时机显得相当微妙。就在几天前的6月1日，公司刚刚向美国证券交易委员会（SEC）秘密提交了S-1注册声明草案，正式开启IPO准备流程。目前，Anthropic的年化收入已经超过470亿美元，估值高达9650亿美元，并且已超过竞争对手OpenAI。在这场商业加速与技术失控风险并存的较量中，这篇长文既像是AI行业迄今少见的坦率表态，也映照出前沿科技在加速前进与主动刹车之间的深层矛盾。