Большинство бизнес-кейсов по AI строится на калькуляторе токенов. Входные токены на цену, выходные токены на цену, умножить на ожидаемый объём, показать совету директоров. Цифра всегда выходит обнадёживающе маленькой и почти никогда не является настоящей стоимостью.

Строки, которых не хватает

• Повторы и починка. Реальный трафик даёт некорректные ответы, таймауты и отказы. Закладывайте на 15–30% больше вызовов, чем предполагает счастливый путь.
• Поиск по базе. Построение эмбеддингов, их хранение и перестроение — регулярная статья расходов, которая растёт вместе с контентом, а не с нагрузкой.
• Рост контекста. Диалоги удлиняются, промпты обрастают инструкциями, и стоимость вызова тихо ползёт вверх от квартала к кварталу.
• Передача человеку. Каждый эскалированный случай стоит времени поддержки. При 20% эскалаций на задаче, которую человек делает за шесть минут, человеческая строка обычно многократно перекрывает токены.
• Оценка качества. Прогон регрессионного набора на каждом изменении — это и вычисления, за которые вы платите, и инженерное время, которое вы планируете.

Задержка — это стоимость, а не пожелание к доработке

Ответ за девять секунд — не «более медленная версия» ответа за две секунды, а другой продукт с другой долей отказов. Если агент стоит в оформлении заказа или в чате поддержки, задержка модели напрямую конвертируется в потерянную конверсию, и ей место в той же таблице, что и счёту за API.

Вопрос о безубыточности

Для сценария автоматизации арифметика простая, и её стоит сделать до начала разработки: сколько задача стоит сегодня в полностью нагруженных человеко-минутах, какую долю агент закрывает сам и сколько стоит остаток с учётом накладных расходов на эскалацию. Если автоматизация 60% экономит меньше, чем стоит эксплуатация и поддержка, честный ответ — чинить процесс, а не строить агента.

Агент, который безупречно закрывает 60% задачи и аккуратно передаёт остаток, лучше того, кто берётся за 100% и ошибается в 15% случаев. Вторая конструкция платит за свои ошибки дважды.

Что мы закладываем в оценку

Когда мы оцениваем AI-функцию, модель затрат идёт вместе с предложением: стоимость одного успешного результата на трёх уровнях объёма, ожидаемая доля эскалаций и точка, в которой модель поменьше или кэшированный путь становятся дешевле большой модели. Это скучный артефакт — и именно он позволяет таким проектам пережить первый счёт.