AIHere

Anthropic向METR评估人员开放类似员工的内部访问权限

Anthropic表示,非营利机构METR的六名评估人员将获得内部工具和系统的访问权限,其范围与公司自身风险评估团队大致相当。

AIHere 新闻编辑部· 1 分钟阅读🇺🇸 美国
插图展示外部评估人员与员工一起在AI实验室内检查系统的场景。
图片: TechCrunch / Wikimedia Commons, CC BY 2.0

Anthropic于2026年10月15日宣布,将向非营利机构METR的六名评估人员提供“类似员工的访问权限”。METR是一家测试前沿AI模型的非营利机构。该公司表示,此举旨在缩小外部评估者与前沿实验室之间的信息差距,即外部人员对实验室系统的了解与实验室自身所掌握情况之间的差距。

Anthropic称,METR工作人员已获配公司硬件和办公空间。他们可以使用与Anthropic自身风险评估团队大致相当的内部工具和系统,员工也被鼓励像与同事交流那样与他们分享信息。但有一小部分内容仍不对其开放,包括客户数据、律师与客户之间的特权材料以及模型架构的细节。

评估结果将公开发布

METR将公开其研究发现,Anthropic无权阻止任何内容发布,不过公司可在必要时要求对敏感细节进行删减。Anthropic表示,无法公开披露其安全工作的全部内容,理由是部分信息可能被恶意人士利用,或具有商业敏感性,例如算力和训练数据相关信息。

首席执行官达里奥·阿莫代伊在9月的一篇博客文章中提出,让METR这类机构的评估人员进驻公司,并将其列为管理前沿技术发展节奏的三项建议之一。

美国的监管空白

目前,美国法律并不要求第三方测试。《FRONTIER法案》是今年7月提出的两党法案,将要求部分AI开发者允许独立验证机构审查其开发流程的安全性。OpenAI在9月中旬表示至少部分支持该法案,这是其首次认可任何拟议的联邦AI监管措施。

在特朗普政府执政期间,联邦监管主要依赖自愿承诺,即各大实验室承诺上报模型隐患并与外部审计机构合作,但这些承诺不具有法律效力。不过,压力正在累积:在Anthropic披露Claude曾向警方发送虚假杀人线索后,政府表示将开始要求AI公司披露安全事件;联邦贸易委员会也因消费者危害问题,向OpenAI和Anthropic两家公司发出了传票。

目前尚不清楚Anthropic是在按既定计划推进,还是为可能出台的立法提前布局。无论如何,据称向外部审计机构开放如此深度的内部访问权限,在业内尚属首次。

#Anthropic#METR#AI安全#第三方审计#FRONTIER法案

评论

请保持尊重。评论会自动审核;垃圾信息、侮辱性言论和个人数据将被删除。问题可能由 AI 作答。

暂无评论。发起讨论或提出问题吧。

相关