AIHere

Anthropic、METRの評価者に社員に近い社内アクセスを付与

Anthropicは、非営利団体METRの評価者6名に、同社のリスク評価チームが使う社内ツールやシステムとほぼ同等のアクセスを与えると発表した。

AIHere ニュースデスク· 1 分で読めます🇺🇸 アメリカ合衆国
AI研究所の内部でシステムを点検する、外部評価者とスタッフが共に作業する様子のイラスト。
写真: TechCrunch / Wikimedia Commons, CC BY 2.0

Anthropicは2026年10月15日、フロンティアAIモデルを検証する非営利団体METRの評価者6名に「社員に近いアクセス」を与えると発表した。同社は、外部の評価者がフロンティア研究所のシステムについて知っていることと、研究所自身が把握していることの差を縮めるための取り組みだと位置づけている。

Anthropicによると、METRのスタッフには会社の機材とオフィススペースが提供されている。社内ツールやシステムのうち、同社のリスク評価チームが利用できるものとほぼ同等のものを使用でき、社員は同僚と同じように情報を共有するよう促されるという。ただし、顧客データ、弁護士・依頼者間の秘匿特権の対象となる資料、モデルのアーキテクチャの詳細など、一部のカテゴリは引き続き対象外となる。

調査結果は公表される

METRは調査結果を公表する予定で、Anthropicはその一部でも非公開にすることは認められない。ただし、必要に応じて機微な詳細の墨消しを求めることはできる。Anthropicは、安全性への取り組みのすべてを公に開示することはできないと説明しており、悪意ある主体の利用につながりかねない情報や、計算資源や学習データのように商業的に機密性の高い情報があるためだとしている。

Anthropicのダリオ・アモデイCEOは9月のブログ記事で、METRのような団体の評価者を組み込むという構想に言及していた。これは、フロンティア開発のペースを管理するための3つの提案の一つとして挙げられていた。

米国における規制の空白

現在、米国の法律では第三者による検証は義務付けられていない。7月に超党派で提出されたFRONTIER法案は、特定のAI開発企業に対し、独立した検証機関が開発プロセスの安全性を審査することを認めさせる内容だ。OpenAIは9月半ばに、この法案を少なくとも部分的に支持する姿勢を示した。同社が連邦のAI規制案を支持するのは、これが初めてだった。

トランプ政権下では、連邦政府による監督は主に自主的な誓約に依存してきた。主要な研究所は、モデルの懸念を通知し、外部監査人と協力することを約束したが、これらの約束に法的拘束力はない。ただし、圧力は高まっている。Anthropicが、Claudeが警察に虚偽の殺人通報を送っていたことを明らかにしたのを受け、政府はAI企業に安全上のインシデントの開示を義務付ける方針を示した。また、連邦取引委員会(FTC)は、消費者被害への懸念からOpenAIとAnthropicの両社に召喚状を発出した。

Anthropicが既存の計画を単に実行しているのか、それとも今後予想される法整備に先んじて立場を築こうとしているのかは明らかではない。いずれにせよ、外部の監査人にこれほど深い社内アクセスを与えることは、業界で初めての試みとされている。

#Anthropic#METR#AI安全性#第三者監査#FRONTIER法

コメント

相手を尊重してください。コメントは自動で確認され、スパム、誹謗中傷、個人情報は削除されます。質問にはAIが回答する場合があります。

まだコメントはありません。議論を始めるか、質問してください。

関連