Anthropic发布递归AI风险预警,Claude代码库80%已由AI自主编写

Anthropic递归AI风险预警

6月9日,AI安全领域的领军企业Anthropic发布了一份震动业界的报告——《当AI构建自身》,正式向全球发出递归自我改进(RSI)风险预警。报告指出,截至2026年5月,Claude代码库中已有80%的代码由AI自主编写,工程师人均产能暴涨8倍。更令人警醒的是,Anthropic预测递归自我改进或在2028年底前发生,概率高达60%。

递归自我改进:AI正在"造自己"

所谓递归自我改进,是指AI系统能够自主优化自身的算法和架构,无需人类干预即可实现能力跃升。Anthropic在报告中披露了一组令人震撼的数据:Claude代码库中合并到生产环境的代码,超过80%由Claude自身生成。这意味着AI已经深度参与了自身的设计与迭代,工程师的角色正从"编写代码"转向"审核和指导AI产出"。

据内部统计,借助AI辅助编程,Anthropic工程师的人均产能提升了8倍。Claude Code产品年化收入已接近63亿美元,在AI编程Agent赛道占据54%的市场份额。这种"AI造AI"的模式虽然极大地加速了研发进程,但也让Anthropic意识到一个严峻问题——如果AI能够持续自我优化,何时会突破人类可控的边界?

60%概率:2028年或现AI自进化

Anthropic在报告中给出了明确的风险评估:递归自我改进在2028年底前发生的概率为60%。报告直言,AI已具备"自我迭代、自我优化"的能力,若不提前设置"安全刹车",两年内可能出现脱离人类控制的超级智能。

为此,Anthropic呼吁全球顶尖AI实验室主动放缓研发速度,建立统一的递归AI安全监管机制。这一倡议在业界引发了激烈讨论——在商业竞争白热化的当下,主动减速是否现实?但Anthropic认为,安全合规已成为企业生死线,忽视风险的代价远大于暂缓步伐。

AI产业资本化进程 (5).png

Claude Fable 5同步登场,科学推理登顶

在发出风险预警的同时,Anthropic也展示了其技术实力。最新发布的Claude Fable 5在多项基准测试中刷新纪录:ScienceQA平均分76.4,成为首个突破75分的AI模型;科学推理77.19分全球第一;SWE-Bench Pro编程基准69.2%,超越GPT-5.5。与前代Opus 4.7相比,Fable 5推理速度提升2.5倍,价格降低约三分之二。

这种"左手预警、右手突破"的姿态,恰恰折射出整个AI行业的深层矛盾——技术进步与安全治理如何并行?Anthropic似乎试图以身作则,在推动能力边界的同时,率先建立安全框架。

资本狂飙:估值9650亿冲刺IPO

在技术与安全双线并行的背后,Anthropic的资本故事同样引人注目。公司已完成650亿美元H轮融资,投后估值达9650亿美元,首次超过OpenAI。2026年Q1营收48亿美元,Q2预计暴涨至109亿美元,商业化能力碾压行业。Anthropic预计将于10月正式上市,有望成为AI行业迄今规模最大的IPO。

从技术突破到安全预警,从商业爆发到资本冲刺,Anthropic正在用一种矛盾而统一的方式定义AI行业的未来走向。当AI开始"造自己",人类需要的不仅是更强的模型,更是更清醒的判断。

网友留言(0 条)

发表评论

验证码