Как проверяют, что робот безопасен рядом с людьми: стартап SafeWorld и 12,2 млн долларов на симуляцию редких ситуаций

Короткий ответ: 8 октября 2026 года издание The Robot Report рассказало, что на той неделе стартап SafeWorld вышел из режима тишины с 12,2 млн долларов посевных инвестиций. Компания строит симуляцию, в которой робота проверяют не на то, справится ли он с задачей, а на то, как он поведёт себя рядом с человеком в редкой, опасной или неожиданной ситуации. Сценарии, по описанию компании, собираются в браузере из прошлых происшествий, стандартов безопасности и журналов самого робота, после чего робота прогоняют через тысячи вариантов с реагирующим на него движением человека в модели. Причина, которую называют основатели: с приходом ИИ роботам впервые позволили выйти из клетки и делить пространство с людьми, а данных про такие редкие ситуации почти нет. Ниже что именно объявлено, чем это отличается от обычной симуляции и что из этого забрать себе, если вы роботов покупаете, а не делаете.

Что произошло

SafeWorld вышел из режима тишины на той неделе и объявил 12,2 млн долларов посевных инвестиций: так это описано в публикации от 8 октября 2026 года. Раунд совместно возглавили Shine Capital и a16z Speedrun, участвовали Box Group, фонд Университета Карнеги-Меллона, Innovation Endeavors, SV Angel и другие инвесторы.

Компания из Окленда в Калифорнии. По словам её гендиректора Кайла Вонга, клиенты есть в промышленности, производстве, логистике, строительстве и даже в домашних применениях. Платформа, по заявлению компании, работает с разными видами роботов: манипуляторами, гуманоидами, мобильными роботами и другими.

Всё, что ниже сказано про устройство и пользу платформы, идёт от самой компании и её клиента в интервью изданию. Я её в работе не видел, независимых проверок в источнике нет.

Почему проверка безопасности стала отдельной задачей

Самое полезное в этом материале это объяснение, зачем вообще понадобился отдельный инструмент. Сооснователь SafeWorld Дин Чжао, директор лаборатории Safe AI Lab в Университете Карнеги-Меллона, говорит так: роботами пользуются примерно сто лет, но с приходом ИИ роботам впервые позволили выйти из клетки и делить пространство с людьми.

Клетка тут не фигура речи. Классический промышленный робот огорожен, и ограждение это одна из мер, которая держит людей в стороне от его рабочей зоны. Когда робот работает рядом с людьми без ограждения, к привычным мерам добавляется ещё одна задача: нужно отвечать и за то, как машина себя при этом ведёт.

Отсюда трудность, которую называет Вонг: это сценарии безопасности, которых в мире ещё не было. Как учиться тому, для чего нет большого набора данных, он называет большой задачей.

Вторая мысль Вонга про разделение труда: производители роботов, конечно, сами отвечают за безопасность, вопрос лишь в том, должны ли они каждый раз строить это с нуля. По его мнению, это лишено смысла.

Чем это отличается от обычной симуляции

Симуляцией в робототехнике пользуются давно: робота гоняют в виртуальной среде, чтобы не ломать железо. Вонг говорит, что с безопасностью всё ломается на подробностях: сначала нужно вообще определить, что считать критерием проверки. Стандарты, по его словам, есть, но они не все полны, и к этому добавляются разные виды оценки риска.

Как устроена работа по описанию компании:

• сценарии собираются прямо в браузере из трёх источников: прошлых происшествий, стандартов безопасности и журналов самого робота, причём, как заявляет компания, навыки работы с симуляцией для этого не нужны;
• дальше робота прогоняют через тысячи вариантов этого сценария с реалистичным и реагирующим на него движением человека в модели;
• поведение измеряется с точки зрения безопасности.

И отдельный пункт, который стоит выделить: поскольку каждое обновление программ и каждая новая обстановка могут дать новые риски, такие проверки, как говорит компания, можно повторять постоянно, а не один раз перед запуском. Результатом SafeWorld называет документированные результаты проверок, за которые могут отвечать руководители инженерной, безопасной и операционной частей. Про официальную сертификацию в источнике речи нет. Издание приводит это именно как заявление компании.

Когда об этом пора думать

Вонг даёт свой ориентир по срокам, смягчая его словами «вероятно» и «возможно»: если до развёртывания меньше года, о безопасности, вероятно, пора думать; если больше, то, возможно, пока рано. Почему именно так, в источнике не объяснено.

Там же он делит компании на две группы. Одни приносят ИИ к роботам: у них, как у Caterpillar, уже есть сложная техника, которая работает в реальном мире, и для них безопасность важна с первого дня. Вторую группу он называет «приносят роботов к ИИ», и как именно она устроена, в статье не раскрывается.

Сам он работает, по его словам, примерно с полудюжиной компаний, две трети из которых публичные. Это небольшой список, и он описывает текущее состояние стартапа, а не распространённость подхода.

Зачем здесь третья сторона

Довод, который приводят оба основателя, стоит отдельного абзаца, потому что он применим далеко за пределами роботов. Вонг говорит, что в безопасности есть инженерная часть и часть доверия, и для развёртывания нужны обе. Часть доверия, по его словам, это работа с теми, кто принимает решение, и вопрос, кто именно ставит подпись.

Чжао добавляет: это задача развёртывания, поэтому отдельная компания нужна, чтобы завоевать доверие не только для себя, но и для отрасли в целом. Оба при этом заинтересованные лица: они продают как раз такую третью сторону.

Из клиентов издание приводит отзыв гендиректора Anyware Robotics Томаса Тана: по его словам, безопасность была основой компании с первого дня, а такие средства симуляции дают масштабируемый способ проверять сложные сценарии и лучше готовить роботов к работе в реальном мире.

Что забрать себе, если вы робота покупаете

Список вопросов ниже можно использовать без всякой покупки платформы: он собран из того, как к проверке подходят её создатели. Задавать их лучше письменно, до оплаты робота. Если поставщик не может подтвердить безопасность, а провести проверку в ваших условиях нечем, вывод один: к работе рядом с людьми робота не допускают, пока риски не оценены и подтверждения не получены.

1. Чем подтверждается безопасность именно этой модели в вашей обстановке. У робота на складе с погрузчиками и у того же робота в цеху разные соседи.
   • Кто делает: вы или ваш технический специалист.
   • Чем проверить: получен документ или письмо, где названы конкретные проверенные ситуации, а не общие слова про соответствие.
2. Что происходит после обновления программ. Поведение робота задаёт программа, а она меняется.
   • Кто делает: вы при заключении договора.
   • Чем проверить: в договоре или в письме поставщика записано, повторяются ли проверки после обновлений и кто за это отвечает.
3. Какие редкие ситуации проверялись. Человек присел завязать шнурок, уронил коробку, вышел из-за угла, двое пошли навстречу одновременно.
   • Кто делает: вы вместе с тем, кто работает рядом с роботом.
   • Чем проверить: составьте свой список из пяти таких случаев с вашего участка и спросите по каждому, проверялся ли он. Ответы сохраните.
4. Кто подписывает решение о запуске. Довод про часть доверия работает и у вас: у решения должен быть человек, а не общее согласие.
   • Кто делает: руководитель.
   • Чем проверить: в приказе или в протоколе есть фамилия того, кто отвечает за допуск робота к работе рядом с людьми, и дата.
5. Как робот ведёт себя при отказе. Отдельно стоит спросить не про нормальную работу, а про потерю связи, разряд батареи и аварийную остановку.
   • Кто делает: технический специалист с вашей стороны.
   • Чем проверить: поставщик письменно описал поведение в этих трёх случаях. Проверять это на приёмке можно только по согласованной с поставщиком безопасной процедуре, которую проводит компетентный специалист, и только когда в опасной зоне нет людей.

Откуда вообще берут данные, на которых учат роботов, я разбирал в статье Зачем стартапы платят людям за запись бытовых дел. Как на производстве постепенно дают автоматике больше самостоятельности, есть здесь: ИИ на производстве.

Чего из этой новости ждать нельзя

• Что симуляция заменяет испытания. В источнике сказано, что она даёт способ проверять поведение роботов рядом с людьми в редких, опасных и неожиданных ситуациях, никого при этом не подвергая риску. Про замену реальных испытаний там ничего нет.
• Что проверка делает робота безопасным. Проверка даёт описание поведения в проверенных ситуациях. Непроверенные ситуации остаются непроверенными.
• Что это отраслевой стандарт. Компания только вышла из режима тишины и работает, по словам гендиректора, примерно с полудюжиной компаний.
• Независимой оценки платформы. В источнике её нет: есть слова основателей, клиента и сообщение о раунде инвестиций.

Итог

В публикации от 8 октября 2026 года The Robot Report сообщил, что стартап SafeWorld объявил 12,2 млн долларов посевных инвестиций на симуляцию, в которой проверяют поведение роботов рядом с людьми в редких и опасных ситуациях. Довод основателей: ИИ вывел роботов из клетки в общее с людьми пространство, а данных про такие ситуации почти нет, поэтому их приходится создавать в модели. Отдельно стоит запомнить две мысли. Первая: поведение робота задаёт программа, а она меняется, поэтому вопрос «повторяются ли проверки после обновлений» стоит задавать поставщику. Вторая: у безопасности есть инженерная часть и вопрос о том, кто ставит подпись. Если вы робота покупаете, обе мысли превращаются в пункты договора.

Я занимаюсь ИИ-агентами и автоматизацией. Если хотите посмотреть мои проекты или обсудить свою задачу, загляните в портфолио.

Источники

• The Robot Report, 08.10.2026: SafeWorld emerges from stealth to build, deploy robot safety simulation technologies. https://www.therobotreport.com/safeworld-emerges-stealth-build-deploy-robot-safety-simulation-technologies/