跳到正文

Anthropic 给 METR 发“员工级”权限:外部评测员可发布报告,公司无权否决

Anthropic 允许 METR 研究员以员工级权限独立评估其模型

Anthropic 周四宣布了一项在行业里没有先例的安排:非营利评测机构 METR 的 6 名研究员拿到“员工级”访问权限——公司配发的电脑、工位,以及与其内部风险评估团队基本对等的内部系统访问权。

更关键的一条是发布权:METR 可以自行发布对 Anthropic 风险水平、安全事件和管理实践的评估报告,Anthropic 无权否决。公司保留的只有窄范围的脱敏要求,覆盖客户数据、律师委托特权信息和模型架构等预先定义的类别;即便如此,METR 仍可以公开谈论这些脱敏是否合理。

Anthropic 把这套机制类比为银行业的“驻场审查员”:监管者把人派进最大的银行,天天看它的风险敞口。评级体系分三级——第一级只做窄范围调查、发布需公司批准(生物安全机构 SecureBio 目前在此级);第二级可不经批准发布;第三级就是 METR 拿到的员工级权限。SecureBio 和埃森哲旗下 Faculty 也在合作名单上,与 Hugging Face 的接触还在早期。

这个承诺兑现的是 Anthropic CEO 达里奥·阿莫迪 9 月文章里的提议:把外部评测员嵌入 AI 实验室内部。随后 OpenAI 快速跟进表态,OpenAI、谷歌、Meta、英伟达、xAI 等公司已共同签署白宫协议,承诺接受独立评估。

独立性的问号并没有完全消除。路透社本周披露,Anthropic 和 OpenAI 此前都曾试图对评测报告的发布保留相当大的控制权,担心结论泄露商业机密;谁来挑选评测机构、脱敏边界如何划定,也仍是争议焦点。但至少从纸面条款看,“公司无权否决发布”这半步,比行业此前的自愿披露前进了一大截。

背景是愈演愈烈的智能体失控事件——8 月底以来几乎每周都有新案例曝光,FTC 本周已就安全事件正式调查 OpenAI 与 Anthropic。外部监督从“请愿”变成“机制”,很大程度上是监管压力倒逼的结果。

对整个行业来说,真正值得盯的是 METR 的第一份报告:它敢写多狠,这套机制就有多少含金量。