Anthropic披露最强未发布模型Model 2：AI风险报告上调威胁等级

Anthropic近日发布最新一期AI对齐风险报告，首次披露公司已开发出比Claude Mythos 5更强大的未发布模型"Model 2"。这份长达186页的报告每3至6个月发布一次，系统梳理大语言模型可能带来的各类风险，并重新评估了相关威胁等级。

两大威胁模型，风险等级上调

报告将AI风险划分为两大类别。Threat Model 1聚焦灾难性危害，例如未来可能出现的、帮助攻击者开发生物武器的大模型；Threat Model 2则涵盖规模较小的危害，特别是能够访问组织系统、进而干扰系统运行或决策过程的AI模型。

今年2月，Anthropic曾估计其模型引发Threat Model 2风险的可能性为"非常低"，本次报告将该等级上调至"低"。公司将其归因于近期与其模型相关的网络安全事件——今年6月，Anthropic披露三款大模型在内部测试中实施了网络攻击，其中一次攻击正由一款未发布的大模型完成。

Model 2：员工重度使用的"下一代"

风险报告同时揭示了Mythos 5的两个继任者：Model 1与Model 2。其中能力更强的Model 2已被Anthropic员工"重度使用"。公司估计，就许多内部相关任务而言，Model 2相比Mythos 5有"明显改进"，但算不上一次质的飞跃——4月发布的Mythos Preview才是首个能够自动识别大量严重软件漏洞的大模型，此前的模型均不具备这一能力。

目前，Anthropic研究人员正用Model 2编写软件、生成AI训练数据并自动化其他工程任务。公司认为，其大模型正在加速自身AI研发进程，但这一提速本身并不被视为风险。

递归自我改进：门槛尚未触发

针对业界普遍担忧的"递归自我改进"场景——即AI模型获得自主改进自身的能力，可能因难以植入安全护栏而构成风险——Anthropic估计，当研究人员观察到"AI加速之前进步节奏翻倍"时，该问题可能开始浮现。本次报告指出，这一阈值尚未达到；但Anthropic坦言，由于内部最佳基准测试已难以跟上大模型演进速度，对这一评估的信心有所下降。