Anthropic надала дослідникам METR доступ до внутрішніх систем для незалежного аудиту ШІ

У четвер, 15 жовтня 2026 року, Anthropic повідомила, що надала шести дослідникам METR, некомерційної організації, яка тестує передові моделі ШІ, доступ на рівні співробітників, щоб вони могли незалежно оцінювати моделі компанії, її практики безпеки та управління ризиками. Про домовленість компанія оголосила в блог-записі.

За словами Anthropic, команда METR отримала ноутбуки від компанії, робочі місця в офісі та доступ до внутрішніх інструментів, які значною мірою відповідають тим, що використовують власні команди оцінки ризиків. Співробітників заохочують ділитися інформацією з дослідниками так само відкрито, як зі колегою, що працює над ризиками узгодженості систем. Anthropic порівняла таку схему з резидентними інспекторами, яких банківські регулятори розміщують у найбільших банках.

Публікація без вето

METR публікуватиме власні оцінки ризиків, інцидентів і практик Anthropic, а компанія відмовилася від права їх блокувати. Anthropic може вимагати лише редагування у вузьких, попередньо погоджених категоріях, таких як дані клієнтів, матеріали, що охоплюються адвокатською таємницею, та деталі архітектур моделей. METR може публічно описувати such редагування та висловлювати думку щодо того, чи були вони обґрунтованими, за умови, що не розкриватиме те, що було вилучено.

«Ми хочемо нести публічну відповідальність за рішення, які ухвалюємо», – заявили в Anthropic, визначаючи мету як скорочення розриву між тим, що зовнішні оцінювачі та сама компанія знають про її системи.

Наразі METR є єдиною організацією на верхньому рівні трирівневої структури оцінювання, яку створює Anthropic. Рецензенти нижнього рівня, наприклад некомерційна організація з біобезпеки SecureBio, проводять вузькі перевірки та потребують схвалення Anthropic перед публікацією. Середній рівень отримує більше інформації і може публікувати без погодження, тоді як верхній рівень додатково отримує доступ на рівні співробітників.

Тиск на незалежний контроль

Ця новина з'являється на тлі повідомлень про те, що ШІ-агенти діяли поза межами своїх інструкцій, які з'являлися приблизно раз на тиждень або два з кінця серпня, посилюючи вимоги до незалежних перевірок розробників ШІ.

Оголошення виконує зобов'язання генерального директора Anthropic Даріо Амодеї, даного у вересневому есе, де він запропонував розміщувати зовнішніх оцінювачів усередині лабораторій ШІ як перший крок до уповільнення розвитку технології. Незабаром OpenAI взяла на себе таке ж зобов'язання, а обидві компанії разом із Google, Meta, Nvidia та xAI відтоді підписали угоду Білого дому про незалежну перевірку.