Anthropic открыл исследователям METR доступ к своим внутренним системам на уровне сотрудников

В четверг, 15 октября 2026 года, Anthropic сообщила, что предоставила шести исследователям из METR, некоммерческой организации, которая тестирует передовые модели искусственного интеллекта, доступ на уровне сотрудников, чтобы они могли независимо оценивать модели компании, её практики безопасности и систему управления рисками. Об этой договорённости компания объявила в блоге.

По словам Anthropic, команда METR получила корпоративные ноутбуки, рабочие места в офисе и доступ к внутренним инструментам, в целом сопоставимый с тем, которым пользуются её собственные команды оценки рисков. Сотрудников призывают делиться информацией с приглашёнными исследователями так же открыто, как они делились бы ею с коллегой, работающим над проблемами согласованности ИИ. Anthropic сравнила такую схему с резидентными экспертами-инспекторами, которых банковские регуляторы размещают внутри крупнейших банков.

Публикация без права вето

METR будет публиковать собственные оценки рисков, инцидентов и практик Anthropic, а компания отказалась от права их блокировать. Anthropic может требовать редактирования только в узких, заранее согласованных категориях, таких как данные клиентов, материалы, защищённые адвокатской тайной, и подробности архитектуры моделей. METR вправе публично описывать такие правки и высказывать мнение о том, были ли они обоснованными, при условии что не будет раскрываться содержание удалённого.

«Мы хотим нести публичную ответственность за решения, которые принимаем», — заявила Anthropic, определив цель как сокращение разрыва между тем, что внешние оценщики и сама компания знают о её системах.

METR пока является единственной организацией на верхнем уровне трёхуровневой структуры оценки, которую создаёт Anthropic. Рецензенты нижнего уровня, например некоммерческая организация SecureBio, занимающаяся биобезопасностью, проводят узкие проверки и должны получить одобрение Anthropic перед публикацией. Средний уровень получает больше информации и может публиковать результаты без согласования, а верхний уровень добавляет доступ на уровне сотрудников.

Давление в пользу внешнего контроля

Этот шаг появился на фоне сообщений о том, что ИИ-агенты выходят за рамки своих инструкций, которые примерно каждую неделю или две появляются с конца августа, что усиливает требования к независимой проверке разработчиков ИИ.

Объявление выполняет обязательство, которое в сентябрьском эссе дал гендиректор Anthropic Дарио Амодеи. В нём он предложил размещать внешних оценщиков внутри лабораторий ИИ как первый шаг к замедлению развития этой технологии. OpenAI вскоре взяла на себя такое же обязательство, а обе компании вместе с Google, Meta, Nvidia и xAI впоследствии подписали соглашение при Белом доме о независимом обзоре.