Почему ИИ-агенты ломаются в продакшене
Первую волну агентов собрали как обёртку вокруг модели. Теперь их переписывают под интеграции, восстановление после сбоев и жёсткий контроль расходов.
Год назад агентов показывали на демо. Сейчас их выкатывают в прод, и там начинается совсем другая история. По оценкам, которые ходят по индустрии, до 90% агентов, собранных на скорую руку, отваливаются в первые недели работы. Не потому что модель тупая. А потому что реальные бизнес-процессы грязные, ветвистые и непредсказуемые.
Где именно рвётся
Главная боль в интеграциях. Почти половина команд, около 46% в опросах, называет подключение к боевым системам главным барьером, а вовсе не качество рассуждений модели. Агент, который умеет только читать, безопасен и бесполезен. Как только ему дают право писать в CRM, отправлять письма и трогать legacy-системы, цена ошибки взлетает.
Вторая проблема в недетерминированности. Один и тот же запрос гоняет агента по разным маршрутам, и воспроизвести падение, чтобы починить, почти нереально. Ты не снимешь снапшот бага и не проиграешь его заново, как в обычном софте.
Третья — длинные процессы. Многодневный воркфлоу должен пережить падение сервиса, сохранить состояние, восстановиться и при этом не сжечь бюджет на инференсе.
Что делают команды
Индустрия входит в фазу переписывания. Первую волну агентов собирали как обёртку вокруг модели с парой инструментов. Сейчас переделывают под три требования: устойчивость интеграций, непрерывность контекста и автономное восстановление после ошибок без каскадного обвала.
На практике это значит скучные вещи. Ретраи, идемпотентность, чек-пойнты состояния, песочницы для опасных действий, человек в контуре на критичных шагах. И жёсткая обвязка наблюдаемости: без трейсинга каждого вызова инструмента отладить агента невозможно.
А ещё все считают деньги. Агент, который на каждый чих дёргает топовую модель, окупается редко. Побеждают гибриды: дешёвая модель на рутину, дорогая — на сложные развилки. Магия закончилась. Началась инженерия.