← Все статьи

Anthropic пустила внешних проверяющих METR внутрь компании «почти как сотрудников»: что им разрешено, что нет и что из этого взять тому, кто выбирает ИИ-поставщика

Темы: ИИ, Безопасность

Стол в светлом офисе с закрытыми ноутбуками и папками, два пустых стула, за стеклом стойка с серверами

Короткий ответ: 15 октября 2026 года Anthropic, разработчик моделей Claude, объявила, что впустила внутрь компании команду из шести человек от METR, некоммерческой организации, которая оценивает передовые ИИ-модели. Им дали технику компании, место в офисе и доступ к внутренним системам, по словам Anthropic, примерно как у её собственных команд оценки рисков. METR будет публиковать свои выводы, и запретить публикацию Anthropic не может, но может потребовать вычеркнуть сведения из заранее оговорённых категорий. Ниже разбираю, что именно разрешено, где границы и как этим пользоваться, если вы выбираете ИИ-поставщика.

Откуда новость

Главный источник: запись в блоге Anthropic «An update on independent evaluators» от 15 октября 2026 года, на странице отмечены уточнения от 15 и 16 октября. Ars Technica 18 октября перепечатала материал Financial Times с подробностями об оплате и критике. Для истории с Accenture я читал TNW от 19 сентября 2026 года. Всё это я прочитал целиком.

Что объявила Anthropic

  • Кто. METR, некоммерческая организация, которая оценивает передовые ИИ-модели. По словам Anthropic, за последний год METR уже проверяла несколько её отчётов о рисках.
  • Сколько и с каким доступом. Шесть сотрудников METR получили технику компании, место в офисе и доступ к внутренним инструментам и системам, «примерно на уровне» команд Anthropic, которые сами оценивают риски.
  • Что им рассказывают. Сотрудников Anthropic поощряют делиться с ними сведениями так же, как с коллегой из команды, которая изучает риски нежелательного поведения моделей (alignment risk). Исключение составляют несколько чётко оговорённых категорий: данные о клиентах, сведения под адвокатской тайной и сведения об архитектуре моделей.
  • Публикация. METR публикует свой анализ уровня рисков, инцидентов или практик компании. Наложить запрет Anthropic не может, но может потребовать убрать сведения из тех же категорий. Что попадает в категории, в итоге решает Anthropic, а METR оставляет за собой право сказать, какой уровень доступа и сведений получила.
  • Изоляция. Команда работает по договорам, которые Anthropic называет обязательными к исполнению (enforceable agreements). Остальные сотрудники METR отделены от её работы, в том числе те, кто делает с Anthropic другие проекты.
  • Деньги. По данным FT в Ars Technica, Anthropic не платит METR за эту работу, а сама METR не берёт пожертвований от ИИ-компаний и их сотрудников. Её финансируют частные лица, благотворительные организации и государственные органы, например британский AI Security Institute.

Зачем это компании, по её словам

Anthropic пишет, что хочет отвечать перед обществом за свои решения, но не может раскрыть всё о своей работе по безопасности: часть сведений пригодилась бы злоумышленникам, часть коммерчески чувствительна, например данные о вычислениях и обучении. Поэтому сведения получают внешние проверяющие и публикуют доводы и выводы о рисках.

Компания сравнивает это с надзором за банками: регулятор держит своих проверяющих прямо внутри крупнейших банков, потому что банк знает о своих рисках больше, чем посторонние. Сама Anthropic оговаривается, что сравнение неточное.

Три уровня доступа

Anthropic описывает три уровня для внешних проверяющих.

  1. Первый. Узкие проверки, доступ определяет Anthropic, публикация с её одобрения.
  2. Второй. Больше сведений, публикация без одобрения компании. Anthropic может потребовать убрать сведения из оговорённых категорий, а проверяющий может публично сказать, считает ли он это вычёркивание оправданным.
  3. Третий. Как с METR: доступ «почти как у сотрудника» и права на публикацию как у второго уровня.

Кроме METR, Anthropic называет SecureBio: по записи компании на 15 октября 2026 года, эта организация проверяет главу её августовского отчёта о рисках, посвящённую химическому и биологическому оружию. С Accenture и Faculty компания строит партнёрство для проверки и испытаний моделей. О Hugging Face и нескольких других организациях Anthropic пишет, что идут ранние переговоры.

Где здесь ограничения

  1. Последнее слово о вычёркивании за компанией. Что относится к закрытым категориям, решает Anthropic. Противовесы у METR такие: она может сказать, какой доступ и какие сведения получила, и, как проверяющий с правами второго уровня, публично оценить, оправдано ли было вычёркивание.
  2. Стандартов пока нет. TNW 19 сентября 2026 года писал, что, по словам самой Anthropic, единых правил о том, что внешний проверяющий должен видеть и как обязан сообщать о находках, ещё нет.
  3. Деньги и интересы. По данным FT, Anthropic не платит METR за эту работу. С Accenture иначе: по TNW от 19 сентября 2026 года, Anthropic сама оплачивает её работу и в том же сентябрьском объявлении пишет, что в будущем такие проверки лучше оплачивать из общих или государственных источников, которых пока нет. По TNW, Accenture при этом одновременно клиент Anthropic, перепродавец её продуктов и партнёр по внедрению. Критики, по данным FT, напоминают о конфликтах интересов у аудиторов в бухгалтерии и считают, что нужно больше государственного регулирования.
  4. Пока это первый шаг. FT называет объявление первым шагом к выполнению обещаний о внешних проверяющих. По данным FT на 18 октября 2026 года, OpenAI ещё не рассказала, как пустит проверяющих к себе, хотя Сэм Альтман назвал предложения Дарио Амодеи хорошей идеей.

Публикаций METR по итогам этой работы на 19 октября 2026 года я не нашёл. Насколько полезна такая проверка, станет видно по первым отчётам.

Что взять тому, кто выбирает ИИ-поставщика

Эти три шага делает тот, кто в компании выбирает модель или сервис на её основе.

  1. До выбора спросите поставщика: кто независимо проверял модель, которую вы будете использовать, и где лежат опубликованные отчёты этой проверки.
  2. Как проверить: откройте отчёт на сайте самой проверяющей организации, а не в пересказе поставщика. Сверьте три вещи: название и версию модели, дату отчёта и то, какой доступ получил проверяющий, если это в отчёте сказано.
  3. Если отчёта нет или он про другую модель: считайте слова о безопасности заявлением самого поставщика и проверяйте модель на своих задачах на обезличенных тестовых данных, прежде чем пускать её к настоящим.

Итог

Anthropic пустила шесть человек из METR внутрь компании с доступом, близким к доступу своих команд оценки рисков, и правом публиковать выводы без её одобрения. Границы тоже есть: часть сведений закрыта, решение о вычёркивании остаётся за компанией, единых правил для таких проверок пока нет. Чего стоит эта схема, покажут первые опубликованные отчёты METR.

См. также другой разбор раздела «ИИ».

Я занимаюсь ИИ-агентами и автоматизацией. Если хотите посмотреть мои проекты или обсудить свою задачу, загляните в портфолио.

Источники