ИИ-помощник на своём компьютере вместо облака: что получилось у обозревателя The Verge и как посчитать, нужно ли это вам

Короткий ответ: обозреватель The Verge Антонио Ди Бенедетто, который не хотел отдавать личные данные облачным ИИ-сервисам, поставил открытого ИИ-агента Hermes с моделью Qwen прямо на свой компьютер, Mac Studio с 256 ГБ памяти. Запустить всё удалось быстро. Сложнее оказалось придумать, что поручить. Из того, что он описал, полезными оказались сортировка большой библиотеки игр и разбор данных, которые он не стал бы загружать в облако. Утренняя сводка вышла скромной и несколько раз ломалась, а сценарий для рабочих тестов пока не готов. Ниже, что именно он сделал, какие доступы пришлось выдать агенту, и как посчитать, окупится ли такой компьютер у вас.

Что такое локальный ИИ в этой истории

Обычно чат-бот работает на серверах компании, которая его сделала: вы пишете вопрос, он уходит к ней, ответ возвращается. Локальная модель работает на вашем компьютере, и сама модель не отправляет ваши вопросы на чужой сервер. Но агент вокруг неё может быть подключён к внешним сервисам: у автора, например, он управлялся через бота в Telegram и работал с почтой и Steam. Всё, что проходит через такие подключения, уходит наружу так же, как и раньше.

ИИ-агентом здесь называют программу, которая не только отвечает на вопросы, но и сама выполняет действия на компьютере: открывает программы, читает файлы, запускает задания по расписанию. Hermes как раз такой агент. По данным The Verge, он работает на macOS, Windows и Linux и бесплатен, если пользоваться только локальными моделями.

Что поставил автор

Все факты ниже из статьи The Verge от 11 октября 2026 года. Это дневник одного человека в первые недели, а не тест и не исследование.

• Кто. Обозреватель ноутбуков, до The Verge больше 15 лет работал в фотоиндустрии. Сам пишет, что не эксперт по ИИ.
• Компьютер. Mac Studio с процессором M5 Ultra и 256 ГБ общей памяти. Сам автор называет его компьютером за 12 000 долларов.
• Модель. Qwen 3.8 Flash Next: 125 млрд параметров, около 105 ГБ. Параметры это внутренние настройки модели; по словам автора, модели с большим их числом обычно умеют больше.
• Управление. Запустить Hermes с Qwen вышло быстро, и даже управлять агентом с телефона через бота в Telegram.

Дальше, по словам автора, начались трудности. Моделей так много, что выбор быстро сбивает с толку. А главный вопрос встал перед пустым полем ввода: «Что мне с этим делать?»

Что он поручил агенту и что вышло

Задача	Что получилось	Что мешало
Утренняя сводка: почта, календарь, погода	Заработала, когда автор нашёл первую причину сбоя, но потом ещё несколько раз ломалась	Сначала не собиралась: компьютер спал в 7:30, когда задание запускалось. Автор сам пишет, что пользы от сводки немного
Разложить по жанрам больше 400 игр в Steam	Агент предложил варианты, автор выбрал жанры с сохранением своих категорий, работа заняла несколько минут	Понадобились права на компьютере и ключ доступа к Steam
Посчитать цифры по финансовым записям, сравнить характеристики ноутбука	Сделано, подробностей автор не даёт	Трудностей не описано. Именно эти данные автор не стал бы отдавать в облако
Сценарий для прогона тестов ноутбуков	Не готов	Объяснять агенту порядок тестов и получать от него скрипты на Python оказалось непросто

Про финансовые записи и данные о ноутбуке, которые были под запретом на публикацию до назначенной даты, автор сказал прямо: то, что они остаются на его компьютере, решило, пользоваться ли инструментом вообще.

Его общий вывод: даже мощные локальные модели не делают из агента волшебного помощника, который может всё, и что-то по-прежнему работает не так, как задумано. Писать и редактировать тексты за себя он агенту поручать не собирается.

Сколько стоит железо

Цены из той же статьи:

• компьютер автора, по его словам, стоит 12 000 долларов;
• Apple на показе, где был автор, демонстрировала связку из четырёх Mac Studio для локального ИИ, это почти 50 000 долларов техники;
• скоро, по данным The Verge, выходят компьютеры на Windows линейки RTX Spark с памятью до 128 ГБ, рассчитанные на ИИ-агентов.

Автор отдельно собирается попробовать модели поменьше на других компьютерах, от Mac Mini до игрового ноутбука. Насколько они справятся с теми же задачами, в статье пока не сказано.

Как прикинуть окупаемость у себя

Это мой расчёт-шаблон, а не данные из статьи. Чисел в нём нет: подставьте свои.

Сэкономленные часы сами по себе ещё не деньги. В расчёт стоит брать только ту выгоду, которую компания может подтвердить счетами и отчётами:

• В: подтверждённая выгода в месяц. Сюда входят расходы, которых удалось избежать (сверхурочные, оплата подрядчику, человек, которого не пришлось нанимать), и дополнительный доход от работы, сделанной в освободившееся время, за вычетом затрат на эту работу. Если освободившееся время ни на что не пошло, В равно нулю, сколько бы часов агент ни сэкономил.
• П: поддержка в месяц: часы на настройку и починку, умноженные на ставку того, кто чинит. У автора сводка ломалась несколько раз, так что это не ноль.
• Р: прочие расходы в месяц: электричество, обслуживание, платные подключения.
• К: цена компьютера под ИИ вместе с установкой.

Чистая польза в месяц: В − П − Р. Срок окупаемости в месяцах: К разделить на чистую пользу. Считать его имеет смысл, только если чистая польза больше нуля; если она ноль или меньше, компьютер не окупится.

Если данные можно отдавать облачному сервису, сравните ещё и с подпиской на те же задачи: посчитайте её цену за тот же срок вместе с часами на настройку.

Что сделать до покупки

Это мои советы.

1. Сначала задача, потом компьютер. Выпишите три-пять задач, которые вы не отдали бы в облако из-за данных. У автора решающими оказались именно такие.
   • Кто делает: руководитель вместе с тем, кто сейчас выполняет эту работу.
   • Чем проверить: у каждой задачи записано, сколько часов в месяц она занимает сейчас.
2. Попробовать на том, что уже есть. Hermes бесплатен с локальными моделями, а сам автор собирается пробовать модели поменьше и на других компьютерах. Пробный запуск на имеющемся компьютере покажет, справляется ли модель с вашей задачей, до трат на новый.
   • Кто делает: сотрудник, который разбирается в компьютерах, или приглашённый специалист.
   • Чем проверить: десять настоящих случаев из своей работы, у каждого записано, сделал ли агент правильно.
3. Проверить, что уходит наружу. До работы с закрытыми данными выясните, к каким внешним сервисам подключён агент (мессенджер, почта, облачные модели) и что он им отправляет.
   • Кто делает: тот, кто отвечает за компьютеры и учётные записи, или приглашённый специалист.
   • Чем проверить: в настройках агента выписан список подключений; для пробы взяты обезличенные данные, а настоящие только после того, как список проверен.
4. Выдавать доступы на время. Агенту автора понадобились права на компьютере и ключ к Steam, и ключ он отозвал сразу после работы. С рабочими системами так же: доступ только на конкретную задачу, потом отзыв.
   • Кто делает: тот, кто отвечает за учётные записи в компании.
   • Чем проверить: после задачи в настройках сервиса ключ агента значится отозванным.
5. Заложить время на поломки. У автора задание по расписанию не срабатывало, пока компьютер спал; как поведёт себя ваш компьютер, зависит от его настроек. Решите заранее, кто проверяет, что сводка или отчёт пришли.
   • Чем проверить: неделю записывайте, в какие дни результат не пришёл.

Когда это вас не касается

Если ваши данные можно спокойно отдавать облачному сервису, а задач немного, облачная подписка может оказаться проще: не нужно покупать компьютер и самому чинить задания. Свой компьютер под ИИ имеет смысл рассматривать, когда данные нельзя выпускать наружу, как у автора с финансовыми записями и данными под запретом на публикацию. Но и тогда только после проверки, какие сведения агент передаёт подключённым сервисам и какие доступы ему выданы: сам по себе компьютер на столе данные внутри не удержит.

Итог

Обозреватель The Verge поставил ИИ-агента Hermes с моделью Qwen на свой компьютер и описал первые недели. Запустить всё оказалось просто, а пользу пришлось искать: решающими оказались задачи с данными, которые он не отдал бы в облако. Сводка ломалась, сложный сценарий пока не готов. Прежде чем покупать компьютер под ИИ, выпишите свои задачи, посчитайте часы и попробуйте на том, что уже есть.

Я занимаюсь ИИ-агентами и автоматизацией. Если хотите посмотреть мои проекты или обсудить свою задачу, загляните в портфолио.

Источники

• The Verge, Antonio G. Di Benedetto, 11.10.2026: Learning to use local AI is exciting, overwhelming, and frustrating. https://www.theverge.com/ai-artificial-intelligence/1008484/learning-local-ai-hermes-qwen-model-mac-studio-testing-diary-progress