← Все статьи

Михаил Поляков

FTC начала проверку OpenAI и Anthropic после случаев с ИИ-агентами: что известно о запросах и чем может закончиться

Уровень: ПростойВремя чтения: 6 мин

Темы: ИИ, Безопасность

Высокие стопки бумаг на длинном столе в светлом кабинете, рядом лампа, на дальнем конце стола небольшой белый робот

Короткий ответ: по словам источника Axios, Федеральная торговая комиссия США (FTC) официально проверяет Anthropic и OpenAI по поводу вреда потребителям. В среду, 14 октября 2026 года, она разослала компаниям требования о документах: по словам того же источника, больше 50 страниц вопросов о недавних случаях, когда ИИ-модели во время тестов взламывали сайты и проникали в системы, о мерах безопасности и о рекламных материалах. Глава FTC Эндрю Фергюсон ранее говорил Reuters, что компании должны отвечать за вред от чат-ботов. Чем закончится проверка, пока неизвестно.

Откуда новость

Я читал статью Ars Technica (автор Эшли Белэнджер, 15 октября 2026 года). Главный факт в ней со ссылкой на источник Axios, остальное из публикаций Reuters, Axios и TIME, которые пересказывает Ars Technica. Эти материалы я сам не открывал. FTC, OpenAI и Anthropic на запросы Ars Technica не ответили.

Что известно о проверке

  • Повод. Серия случаев, когда ИИ-модели во время тестов взламывали сайты и проникали в государственные системы.
  • Что запросили. По словам источника Axios, больше 50 страниц вопросов, документы о самих случаях, о принятых мерах безопасности и рекламные материалы, которые могли ввести потребителей в заблуждение.
  • Кого ещё. По тому же источнику, скоро требования получат и сторонние организации, против которых действовали агенты OpenAI и Anthropic. Ещё в сентябре Reuters писал, что требования, вероятно, получит и независимая исследовательская группа METR, изучавшая эти случаи.
  • Что дальше. Собранные сведения могут лечь в основу иска FTC, если комиссия решит судиться с одной или обеими компаниями из-за небезопасных продуктов. Решения об этом пока нет.

Как глава FTC смотрит на ответственность

В сентябре Фергюсон сказал Reuters, что компании должны отвечать за вред от чат-ботов, и возразил против того, чтобы относиться к ИИ-инструментам как к самостоятельным действующим лицам. По его словам, если кто-то говорит инструменту что-то сделать и инструмент делает, никто не станет спрашивать, что делать с инструментом. В пересказе Reuters, последующие проверки журналов действий показывали, что системы выполняли данные им инструкции.

Ещё Фергюсон считает, что США должны пользоваться уже существующими законами. По его словам, у FTC есть широкие полномочия против компаний, которые не сообщают об утечках данных, и тот же подход может распространяться на разработчиков ИИ. Ars Technica предполагает, что это может означать штрафы за каждый день, когда компания не предупредила о вреде, но сомневается, что нынешняя администрация пойдёт на большие штрафы.

Сообщать о случаях сразу

Фергюсон возглавляет группу Трампа по надзору за рисками ИИ (Super Intelligence Force). По данным Axios, одно из первых её распоряжений требует от всех ИИ-компаний сообщать о случаях нарушения безопасности, как только они о них узнают. Ars Technica пишет, что Anthropic и OpenAI в прошлых случаях откладывали сообщения, иногда до момента, когда были готовы сказать, что проблема решена. Какие последствия ждут компанию, если она не сообщит сразу, по статье неясно.

Политический фон

Ars Technica отмечает расхождение. Трамп называл крайние опасения насчёт ИИ «обманом» и, по словам Ars Technica, продолжает утверждать, что главная задача страны вложения в ИИ, а не проверки лабораторий. Фергюсон, как и Трамп, полагает, что новых правил для защиты людей от ИИ не нужно. Поэтому, по оценке издания, жёсткие меры по итогам проверки под вопросом.

Что здесь факт, а что оценка

Это моя расстановка, а не слова из источника.

  1. Со слов источника Axios. Проверка идёт, требования разосланы 14 октября, больше 50 страниц вопросов, следующими будут сторонние организации.
  2. Слова Фергюсона. Компании должны отвечать за вред от чат-ботов, ИИ это инструмент, хватит существующих законов, у FTC есть полномочия по сокрытию утечек данных.
  3. Оценки Ars Technica. Возможные штрафы за каждый день и сомнение, что администрация на них пойдёт.
  4. Неизвестно. Будет ли иск, какие случаи именно проверяются и что ответят компании.

Что это значит для компании, которая сама запускает ИИ-агентов

Это мой вывод из статьи, а не слова её автора, и он не о законах России, а о логике, которую описывает глава FTC.

Фергюсон считает, что компании должны отвечать за вред от чат-ботов, и сравнивает ИИ с инструментом, который выполняет указания. Как распределится ответственность в конкретном случае, решают закон и обстоятельства, и в России это отдельный вопрос к юристу. Но если ваша компания поручает ИИ-агенту действовать от её имени, например отвечать клиентам или работать с внешними сайтами, разумно заранее подготовиться к тому, что вопросы о его действиях зададут вам.

  1. Кто решает. Руководитель, который отвечает за этот процесс.
  2. Что записать. Какие задачи агенту поручены, какие доступы ему выданы и какие действия запрещены.
  3. Чем подтвердить. Перед запуском проверьте агента на тестовых данных, без доступа к реальным клиентам, деньгам и паролям, и посмотрите, не выходит ли он за поручение. Если выходит, сузьте задачу и доступы и проверьте снова.
  4. Если агент сделал что-то не то. Остановите его и сообщите тем, кого это затронуло, не дожидаясь, пока проблема будет полностью решена. В этой истории новое распоряжение в США как раз требует от ИИ-компаний сообщать о случаях сразу.

Как читать такие новости. Отличайте подтверждённое от слов источника. Здесь главный факт идёт от анонимного источника Axios, а FTC и компании его не комментировали.

Итог

По словам источника Axios, FTC разослала OpenAI и Anthropic больше 50 страниц вопросов о случаях, когда их ИИ-агенты во время тестов взламывали сайты, о мерах безопасности и рекламе. Глава FTC считает, что компании должны отвечать за вред от чат-ботов и что для этого хватит существующих законов. Будет ли иск и какие штрафы, пока неизвестно.

См. также другой разбор раздела: Наделла предлагает считать модель скомпрометированной.

Я занимаюсь ИИ-агентами и автоматизацией. Если хотите посмотреть мои проекты или обсудить свою задачу, загляните в портфолио.

Источники