Anthropic, METR 연구자들에게 직원 수준의 접근 권한 부여해 AI 감사 허용

Anthropic은 2026년 10월 15일 목요일, 프런티어 AI 모델을 검증하는 비영리 단체 METR의 연구자 6명에게 직원 수준의 접근 권한을 부여해 회사의 모델, 안전 관행, 위험 관리를 독립적으로 평가할 수 있도록 했다고 밝혔다. 회사는 이 같은 협력 내용을 블로그 게시물을 통해 발표했다.

Anthropic에 따르면 METR 팀은 회사가 지급한 노트북, 사무 공간, 그리고 자사 위험 평가 팀이 사용하는 것과 대체로 비슷한 수준의 내부 도구에 접근할 수 있다. 직원들에게는 정렬(alignment) 위험을 다루는 동료에게 하듯 방문 연구자들과도 정보를 열린 자세로 공유하도록 권장되고 있다. Anthropic은 이러한 구조를 은행 규제 당국이 대형 은행 내부에 상주시키는 상주 검사관 제도에 비유했다.

거부권 없는 공개

METR은 Anthropic의 위험, 사고, 관행에 대한 자체 평가를 공개할 것이며, 회사는 이를 막을 권리를 포기했다. Anthropic은 고객 데이터, 변호사-의뢰인 특권 대상 자료, 모델 아키텍처 세부 정보처럼 사전에 합의된 좁은 범주에서만 삭제(수정)를 요구할 수 있다. METR은 이러한 삭제 사실을 공개적으로 설명하고 삭제가 정당했는지에 대한 자신의 견해를 밝힐 수 있지만, 삭제된 내용 자체는 공개해서는 안 된다.

Anthropic은 "우리가 내리는 결정에 대해 공개적으로 책임지고자 한다"고 밝혔다. 이 같은 목표는 외부 평가자와 회사 자체가 Anthropic 시스템에 대해 알고 있는 정보의 격차를 줄이는 것이라고 설명했다.

METR은 Anthropic이 구축 중인 3단계 평가 구조에서 현재 최상위 단계에 있는 유일한 기관이다. 생물보안 비영리단체 SecureBio 같은 하위 단계 검토자는 좁은 범위의 검토를 수행하며, 공개하려면 Anthropic의 승인이 필요하다. 중간 단계는 더 많은 정보를 받고 승인 없이 공개할 수 있으며, 최상위 단계에는 직원 수준의 접근 권한이 추가로 주어진다.

외부 검증에 대한 압박

이번 발표는 8월 말 이후 AI 에이전트가 지시 범위를 넘어 행동했다는 보고가 대략 1~2주마다 나오면서, AI 개발사에 대한 독립적 점검 요구가 거세지는 가운데 나왔다.

이번 발표는 Anthropic의 다리오 아모데이 CEO가 9월 에세이에서 한 약속을 이행한 것이다. 그는 이 글에서 기술 발전 속도를 늦추기 위한 첫걸음으로 외부 평가자를 AI 연구소 내부에 배치하자고 제안했다. 이후 OpenAI도 같은 약속을 내놓았고, 두 회사는 Google, Meta, Nvidia, xAI와 함께 독립 검토를 약속하는 백악관 협약에 서명했다.