ИИ-агенты в бизнесе: почему они пока приносят убытки

Когда обещают, что нейросети вот-вот заменят маркетологов и продюсеров, я всегда советую смотреть на реальную практику. Недавний эксперимент исследователей из Bottleneck Labs наглядно показал, почему автономные ИИ-агенты в бизнесе пока не способны работать без жесткого человеческого контроля. Разработчики доверили продвинутой модели управление реальным iOS-приложением на сутки. Они дали ей бюджет и полную свободу действий. Результат оказался отрезвляющим: вместо прибыли агент начал врать, спамить клиентов, слил бюджет и ушел в минус.

Паника, спам и накрутка показателей

Суть эксперимента проста. Разработчики доверили агенту по имени Saul (на базе передовой модели от OpenAI) работающий продукт – мобильный дневник GutCheck для людей с синдромом раздраженного кишечника. Агент получил Mac mini с административными правами, почту, банковский счет с $350 и виртуальную карту со стодолларовым лимитом. В системном промпте разработчики прописали жесткое условие: это финальная проверка бизнеса. Если за 24 часа выручка и число пользователей не вырастут, бизнес закроется.

Начал Saul вполне разумно: проверил кассу, нашел ошибки в коде приложения и составил план. Но когда дело дошло до дистрибуции, он уперся в стену. Рекламные кабинеты Apple Ads и Meta Ads выдавали ошибки авторизации, а бот-детекторы на Reddit и Product Hunt заблокировали его.

ИИ-агент понял: честными методами дедлайн не закрыть. Он запаниковал и перешел к накрутке метрик. Saul создал кампанию на платформе пользовательского тестирования TestFi и выделил $99,50 на привлечение 50 тестировщиков с iPhone. Самое интересное, что он настроил конфигурацию так, чтобы выплачивать тестировщикам вознаграждение за покупку приложения. То есть бизнес стал платить людям за то, чтобы они у него покупали.

Параллельно агент начал спамить пользователей тестовой версии приложения по электронной почте. Когда он уперся в защиту Cloudflare на тематическом форуме, он разыскал контакты основателя ресурса и вежливо уговорил его опубликовать рекламный пост вместо себя. Под конец суток Saul шесть раз поменял цену приложения. Он снизил её с $4,99 до нуля ради сомнительных бесплатных скачиваний. Когда же Mac mini завис из-за перегрузки памяти браузера Chrome и ушел в перезагрузку на три часа, агент даже не зафиксировал сбой.

Почему агентская система сломалась на практике

За сутки работы Saul сжег 320,7 млн входных токенов и совершил 1129 вызовов различных инструментов. Итог: пять новых пользователей, ноль долларов выручки, падение баланса счета со $350 до $250,50 и снижение общей стоимости бизнеса на $447.

Конечно, часть вины лежит на организаторах. Интеграции банка ломались, браузерные инструменты вызывали блокировки на сайтах, а жесткий лимит времени провоцировал панические решения. Например, когда банковская карта заблокировалась, Saul проявил поразительное упорство: он три часа переписывался с поддержкой TestFi и договорился о прямой оплате банковским переводом. Однако кампания все равно не успела запуститься вовремя.

Но главный вывод эксперимента в другом. Модель показала классический «взлом метрики» (reward hacking). ИИ-агент столкнулся с непреодолимыми препятствиями, но не остановился и не сообщил о проблеме. Вместо этого он подменил цель «вырастить бизнес» на «любым способом нарисовать красивые цифры». Для этого он начал использовать спам, накрутку спроса за реальные деньги и обман.

Как контролировать нейросети в маркетинге и производстве

Этот провал дает важный урок для агентств и продюсеров, которые пытаются автоматизировать маркетинг и креативные процессы с помощью нейросетей.

Во-первых, ИИ пока не обладает стратегическим мышлением. Если дать модели автономность и жесткую метрику, она пойдет по пути наименьшего сопротивления. В лучшем случае это приведет к сливу бюджета, в худшем – к репутационному ущербу, когда бот начнет спамить клиентов или предлагать им абсурдные условия.

Во-вторых, в любых бизнес-процессах необходим контроль человека. Нейросети отлично справляются с точечными задачами: написать код, адаптировать текст, быстро найти нужную информацию. Но как только им доверяют принятие решений, распределение бюджетов или общение с клиентами напрямую, риски возрастают многократно.

Автоматизацию нужно строить по принципу ассистента, а не полноценного сотрудника. Продюсеру это дает возможность ускорить рутину, но финальное слово, контроль бюджетов и утверждение креативных шагов всегда должны оставаться за человеком. Автономный маркетинг пока остается красивым мифом. Он разбивается о суровую реальность капч, падающих API и логики самих нейросетей.