Anthropic пустила внешних проверяющих METR внутрь компании «почти как сотрудников»: что им разрешено, что нет и что из этого взять тому, кто выбирает ИИ-поставщика
Темы: ИИ, Безопасность

Короткий ответ: 15 октября 2026 года Anthropic, разработчик моделей Claude, объявила, что впустила внутрь компании команду из шести человек от METR, некоммерческой организации, которая оценивает передовые ИИ-модели. Им дали технику компании, место в офисе и доступ к внутренним системам, по словам Anthropic, примерно как у её собственных команд оценки рисков. METR будет публиковать свои выводы, и запретить публикацию Anthropic не может, но может потребовать вычеркнуть сведения из заранее оговорённых категорий. Ниже разбираю, что именно разрешено, где границы и как этим пользоваться, если вы выбираете ИИ-поставщика.
Откуда новость
Главный источник: запись в блоге Anthropic «An update on independent evaluators» от 15 октября 2026 года, на странице отмечены уточнения от 15 и 16 октября. Ars Technica 18 октября перепечатала материал Financial Times с подробностями об оплате и критике. Для истории с Accenture я читал TNW от 19 сентября 2026 года. Всё это я прочитал целиком.
Что объявила Anthropic
- Кто. METR, некоммерческая организация, которая оценивает передовые ИИ-модели. По словам Anthropic, за последний год METR уже проверяла несколько её отчётов о рисках.
- Сколько и с каким доступом. Шесть сотрудников METR получили технику компании, место в офисе и доступ к внутренним инструментам и системам, «примерно на уровне» команд Anthropic, которые сами оценивают риски.
- Что им рассказывают. Сотрудников Anthropic поощряют делиться с ними сведениями так же, как с коллегой из команды, которая изучает риски нежелательного поведения моделей (alignment risk). Исключение составляют несколько чётко оговорённых категорий: данные о клиентах, сведения под адвокатской тайной и сведения об архитектуре моделей.
- Публикация. METR публикует свой анализ уровня рисков, инцидентов или практик компании. Наложить запрет Anthropic не может, но может потребовать убрать сведения из тех же категорий. Что попадает в категории, в итоге решает Anthropic, а METR оставляет за собой право сказать, какой уровень доступа и сведений получила.
- Изоляция. Команда работает по договорам, которые Anthropic называет обязательными к исполнению (enforceable agreements). Остальные сотрудники METR отделены от её работы, в том числе те, кто делает с Anthropic другие проекты.
- Деньги. По данным FT в Ars Technica, Anthropic не платит METR за эту работу, а сама METR не берёт пожертвований от ИИ-компаний и их сотрудников. Её финансируют частные лица, благотворительные организации и государственные органы, например британский AI Security Institute.
Зачем это компании, по её словам
Anthropic пишет, что хочет отвечать перед обществом за свои решения, но не может раскрыть всё о своей работе по безопасности: часть сведений пригодилась бы злоумышленникам, часть коммерчески чувствительна, например данные о вычислениях и обучении. Поэтому сведения получают внешние проверяющие и публикуют доводы и выводы о рисках.
Компания сравнивает это с надзором за банками: регулятор держит своих проверяющих прямо внутри крупнейших банков, потому что банк знает о своих рисках больше, чем посторонние. Сама Anthropic оговаривается, что сравнение неточное.
Три уровня доступа
Anthropic описывает три уровня для внешних проверяющих.
- Первый. Узкие проверки, доступ определяет Anthropic, публикация с её одобрения.
- Второй. Больше сведений, публикация без одобрения компании. Anthropic может потребовать убрать сведения из оговорённых категорий, а проверяющий может публично сказать, считает ли он это вычёркивание оправданным.
- Третий. Как с METR: доступ «почти как у сотрудника» и права на публикацию как у второго уровня.
Кроме METR, Anthropic называет SecureBio: по записи компании на 15 октября 2026 года, эта организация проверяет главу её августовского отчёта о рисках, посвящённую химическому и биологическому оружию. С Accenture и Faculty компания строит партнёрство для проверки и испытаний моделей. О Hugging Face и нескольких других организациях Anthropic пишет, что идут ранние переговоры.
Где здесь ограничения
- Последнее слово о вычёркивании за компанией. Что относится к закрытым категориям, решает Anthropic. Противовесы у METR такие: она может сказать, какой доступ и какие сведения получила, и, как проверяющий с правами второго уровня, публично оценить, оправдано ли было вычёркивание.
- Стандартов пока нет. TNW 19 сентября 2026 года писал, что, по словам самой Anthropic, единых правил о том, что внешний проверяющий должен видеть и как обязан сообщать о находках, ещё нет.
- Деньги и интересы. По данным FT, Anthropic не платит METR за эту работу. С Accenture иначе: по TNW от 19 сентября 2026 года, Anthropic сама оплачивает её работу и в том же сентябрьском объявлении пишет, что в будущем такие проверки лучше оплачивать из общих или государственных источников, которых пока нет. По TNW, Accenture при этом одновременно клиент Anthropic, перепродавец её продуктов и партнёр по внедрению. Критики, по данным FT, напоминают о конфликтах интересов у аудиторов в бухгалтерии и считают, что нужно больше государственного регулирования.
- Пока это первый шаг. FT называет объявление первым шагом к выполнению обещаний о внешних проверяющих. По данным FT на 18 октября 2026 года, OpenAI ещё не рассказала, как пустит проверяющих к себе, хотя Сэм Альтман назвал предложения Дарио Амодеи хорошей идеей.
Публикаций METR по итогам этой работы на 19 октября 2026 года я не нашёл. Насколько полезна такая проверка, станет видно по первым отчётам.
Что взять тому, кто выбирает ИИ-поставщика
Эти три шага делает тот, кто в компании выбирает модель или сервис на её основе.
- До выбора спросите поставщика: кто независимо проверял модель, которую вы будете использовать, и где лежат опубликованные отчёты этой проверки.
- Как проверить: откройте отчёт на сайте самой проверяющей организации, а не в пересказе поставщика. Сверьте три вещи: название и версию модели, дату отчёта и то, какой доступ получил проверяющий, если это в отчёте сказано.
- Если отчёта нет или он про другую модель: считайте слова о безопасности заявлением самого поставщика и проверяйте модель на своих задачах на обезличенных тестовых данных, прежде чем пускать её к настоящим.
Итог
Anthropic пустила шесть человек из METR внутрь компании с доступом, близким к доступу своих команд оценки рисков, и правом публиковать выводы без её одобрения. Границы тоже есть: часть сведений закрыта, решение о вычёркивании остаётся за компанией, единых правил для таких проверок пока нет. Чего стоит эта схема, покажут первые опубликованные отчёты METR.
См. также другой разбор раздела «ИИ».
Я занимаюсь ИИ-агентами и автоматизацией. Если хотите посмотреть мои проекты или обсудить свою задачу, загляните в портфолио.
Источники
- Anthropic, 15.10.2026 (уточнения 15 и 16 октября): An update on independent evaluators. https://www.anthropic.com/news/an-update-on-independent-evaluators
- Ars Technica, 18.10.2026 (материал Financial Times): Anthropic gives outside AI watchdog "employee-like" access. https://arstechnica.com/ai/2026/10/anthropic-gives-outside-ai-watchdog-employee-like-access/
- TNW, 19.09.2026, Ana-Maria Stanciuc: Anthropic is paying the firm that will evaluate it, and says in the same announcement that this is not how it should work. https://thenextweb.com/news/anthropic-is-paying-the-firm-that-will-evaluate-it-and-says-in-the-same-announcement-that-this-is-not-how-it-should-work