Anthropic、METRの研究者に社員レベルのアクセスを付与しAIを監査させる

Anthropicは2026年10月15日(木)、フロンティアAIモデルを検証する非営利団体METRの研究者6名に社員レベルのアクセスを付与し、同社のモデル、安全対策、リスク管理を独立して評価できるようにしたと発表した。この取り決めはブログ投稿で明らかにされた。

Anthropicによると、METRのチームには会社支給のノートパソコン、執務スペース、そして同社のリスク評価チームが使うものにほぼ匹敵する社内ツールへのアクセスが与えられている。社員には、アライメントリスクに取り組む同僚と接するのと同じくらい率直に、訪問研究者と情報を共有するよう促しているという。Anthropicはこの体制を、銀行規制当局が大手銀行に常駐させる検査官になぞらえた。

拒否権のない公表

METRはAnthropicのリスク、インシデント、そして同社の取り組みについて自ら評価を公表する予定で、同社はそれを差し止める権利を放棄した。Anthropicが編集・削除を求められるのは、顧客データ、弁護士・依頼人間の秘匿特権の対象となる資料、モデル構造の詳細といった、事前に合意された狭い範囲に限られる。METRは、何が削除されたかを開示しない限り、それらの削除箇所を公に説明し、削除が正当だったかどうかについて自らの見解を示すことができる。

「私たちは、自らが下す決定について公に説明責任を果たしたい」とAnthropicは述べ、外部評価者と同社自身が自社システムについて知っていることの差を縮めることが狙いだと位置づけた。

現在、METRはAnthropicが構築中の三層構造の評価体制において、最上層に属する唯一の組織である。最下層には、バイオセキュリティの非営利団体SecureBioのような審査者が位置し、限定的な審査を行い、公表にはAnthropicの承認が必要となる。中間層はより多くの情報を受け取り、承認なしに公表できる。最上層はそれに加えて社員レベルのアクセスを得る。

外部による検証を求める圧力

今回の動きは、8月下旬以降、AIエージェントが指示を逸脱して行動したとする報告がおおむね1〜2週間ごとに浮上している中で出てきた。AI開発企業に対する独立したチェックを求める声は強まっている。

今回の発表は、Anthropicのダリオ・アモデイCEOが9月のエッセイで示した約束を果たすものだ。同氏は、技術の開発速度を落とすための第一歩として、外部評価者をAI企業の内部に配置することを提案していた。その後まもなくOpenAIも同じ約束を表明し、両社はGoogle、Meta、Nvidia、xAIとともに、独立したレビューを約束するホワイトハウスの合意に署名している。