Агентство подключило к боту-консультанту флагманскую языковую модель для ИИ-агента, и десяток обращений в сутки съели месячный бюджет за одну неделю. Сценарий диалога не менялся, менялась только цифра в счёте за токены: у флагманской модели она в разы выше, чем у бюджетной версии того же разработчика.
Сама модель отвечает не только за качество ответов. Она определяет, сколько стоит каждый диалог, какой объём истории агент удержит в памяти и получится ли развернуть решение с оплатой в рублях без лишних посредников. Сценарии, базу знаний и подключённые инструменты можно собрать одинаково для разных движков, а разница в деньгах и качестве появляется именно на уровне выбранной модели. Из чего вообще собран такой агент, подробно разобрано в материале о том, что такое ИИ-агент.
На практике выбор обычно сводится к четырём вариантам: GPT от OpenAI, Claude от Anthropic, а также YandexGPT и GigaChat как локальные альтернативы. Разбираем, чем они отличаются по цене токенов, объёму контекста и пригодности для бизнес-задач.
Почему языковая модель для ИИ-агента определяет цену и качество
Агент: это модель плюс системные инструкции, подключённые инструменты (поиск по базе знаний, CRM, калькулятор, API маркетплейса) и память диалога. Но внутри этой конструкции модель отвечает за три вещи, которые нельзя компенсировать настройкой сценария.
Во-первых, качество понимания запроса и формулировки ответа на русском языке: слабая модель чаще путает контекст, выдаёт шаблонные фразы и хуже держит стиль бренда. Во-вторых, объём контекста, который модель способна удержать за один вызов: от этого зависит, сколько истории диалога, документов и инструкций помещается в один запрос без потери деталей. В-третьих, поддержка вызова функций: без неё агент не сможет надёжно обращаться к внешним инструментам, а будет пытаться угадать результат словами.
GPT от OpenAI: когда зарубежная модель оправдана
OpenAI предлагает модели трёх уровней: флагманскую, среднюю и бюджетную, и разница в цене между ними не символическая. По официальному прайсу на миллион токенов флагманская модель обходится в 10 $ за вход и 50 $ за выход при коротком контексте, и дороже при запросе длиннее 272 тысяч токенов на входе. Средняя модель стоит около 2 $ за вход и 10 $ за выход, а бюджетная версия: 0,10 $ за вход и 0,50 $ за выход. Разница между флагманом и бюджетной версией доходит до ста раз и по входу, и по выходу.
Для агента это значит, что выбор уровня модели, а не просто бренда, определяет большую часть счёта. Плотный скрипт техподдержки с короткими ответами вполне тянет бюджетная модель. Сложный консультант, который сам решает, когда уточнить вопрос, а когда позвать оператора, ощутимо выигрывает от флагмана или среднего уровня.
Минус GPT для российского бизнеса: нет официального биллинга в рублях и локального юрлица, оплата идёт через зарубежную карту или посредника, а поддержка ориентирована не на российский рынок. Технически это не делает модель хуже, но добавляет организационный риск для агентства, которое отвечает перед клиентом за стабильность сервиса.
Claude от Anthropic: ставка на инструменты и длинный диалог
Claude силён там, где агенту нужно не просто отвечать, а действовать: вызывать несколько инструментов подряд, удерживать длинную инструкцию и не терять её суть к середине диалога. Контекстное окно у актуальных моделей линейки доходит до миллиона токенов: это весь архив переписки с клиентом и объёмная база знаний в одном запросе, если такая задача стоит.
Тарифы Anthropic делятся на уровни так же, как у OpenAI: бюджетная модель стоит около 0,10 $ за вход и 0,50 $ за выход на миллион токенов при запросах до 100 тысяч токенов, средняя модель: 2 $ за вход и 10 $ за выход, а старшая: 4 $ за вход и 20 $ за выход. По деньгам Claude живёт в той же логике, что и GPT: кратно дороже за старшую модель и кратно дешевле за бюджетную на простых задачах.
Для агентства это означает, что Claude имеет смысл ставить туда, где агент активно использует инструменты и держит сложный многошаговый сценарий: бронирование, заявки с несколькими условиями, работу с документами. Какие задачи закрывает именно эта модель, подробно разобрано в статье про нейросеть Claude от Anthropic.
YandexGPT и GigaChat: когда выигрывает российский движок
У YandexGPT и GigaChat есть то, чего нет у GPT и Claude: оплата в рублях, размещение в российской инфраструктуре и готовность работать без зарубежной карты или посредника. Для агентства это снимает часть организационных вопросов на старте проекта.
По деньгам GigaChat для юрлиц считает по трём моделям: Lite стоит 0,065 рубля за 1000 токенов, Pro: 0,5 рубля, Max: 0,65 рубля, и цена одинаковая для входа и выхода. Асинхронный режим обходится вдвое дешевле синхронного, а минимальный платёж при оплате по факту: 600 рублей в месяц. YandexGPT тарифицирует похоже: Lite стоит 0,2 рубля за 1000 токенов, старшая версия Pro: 0,8 рубля, тоже без разницы между входом и выходом.
Контекстное окно у стандартных версий YandexGPT составляет около 32 тысяч токенов, для работы с объёмными документами есть отдельная версия с окном до 128 тысяч токенов. У GigaChat контекст сопоставим по порядку величины, а для диалога с клиентом или заполнения заявки хватает и стандартного окна с запасом.
Качество русского языка у обеих моделей ровное, и для задач поддержки, продаж и обработки заявок разница с GPT или Claude на практике почти не ощущается, зато разница в цене и доступности выходит в пользу российских моделей. Подробное сравнение GigaChat и YandexGPT по сценариям для бизнеса есть в статье о том, что выбрать для бизнеса.
| Модель | Цена за токены | Контекст | Валюта и размещение |
|---|---|---|---|
| GPT (бюджет / флагман) | 0,10 $ / 10 $ за вход, 0,50 $ / 50 $ за выход на 1 млн токенов | до 272 тыс. токенов в коротком режиме, больше дороже | USD, зарубежный биллинг |
| Claude (бюджет / старшая) | 0,10 $ / 4 $ за вход, 0,50 $ / 20 $ за выход на 1 млн токенов | до 1 млн токенов | USD, зарубежный биллинг |
| YandexGPT (Lite / Pro) | 0,2 ₽ / 0,8 ₽ за 1000 токенов | около 32 тыс. токенов, версия с длинным контекстом до 128 тыс. | ₽, российская инфраструктура |
| GigaChat (Lite / Pro / Max) | 0,065 ₽ / 0,5 ₽ / 0,65 ₽ за 1000 токенов | сопоставим с YandexGPT | ₽, российская инфраструктура |
Как цена токенов превращается в счёт за агента
Цена за миллион или за тысячу токенов звучит абстрактно, пока не разложить её на реальный диалог. Каждый вызов модели включает не только вопрос клиента, а всю историю переписки, системную инструкцию и результаты вызова инструментов. Чем длиннее диалог, тем толще входящий пакет токенов на каждом следующем шаге, и платите вы за него по той же ставке, что и за первое сообщение.
Отсюда три практических вывода. Короткие однотипные сценарии, статус заказа или ответ по частым вопросам, почти не зависят от выбора дорогой модели: бюджетная версия справится, а разница в счёте будет заметной. Диалоги с длинной историей и сложной инструкцией дорожают нелинейно: тридцатое сообщение в переписке стоит дороже первого, потому что модель заново читает всю историю. Кэширование повторяющейся части запроса, системной инструкции и базы знаний, у ряда провайдеров снижает стоимость этой части токенов. Это стоит уточнять в тарифах конкретного движка перед запуском агента в продакшн, потому что именно кэш часто определяет итоговый счёт при высокой нагрузке.
Как выбрать движок под конкретную задачу
Пять параметров стоит проверить до того, как модель попадёт в продакшн.
- Объём контекста. Короткий диалог поддержки укладывается в десятки тысяч токенов, работа с договорами и объёмными регламентами требует модели с окном от сотен тысяч токенов.
- Поддержка вызова инструментов. Если агент должен сам искать заказ в CRM, бронировать слот или проверять остатки на маркетплейсе, нужна модель с надёжным вызовом функций, а не просто с хорошим текстом.
- Ожидаемая нагрузка. При сотнях диалогов в день разница между флагманом и бюджетной моделью превращается в разницу бюджетов на порядок, и это стоит считать до запуска, а не после первого счёта.
- Валюта и размещение. Оплата в рублях и российская инфраструктура у YandexGPT и GigaChat закрывает вопросы биллинга и локального размещения данных, которые у GPT и Claude придётся решать отдельно.
- Качество русского языка в узкой теме. Общая репутация модели не гарантирует, что она хорошо держит терминологию вашей отрасли, это стоит проверять на реальных диалогах, а не на демо-вопросах из документации.
Частые ошибки при выборе модели
Берут флагманскую модель по умолчанию, потому что это самое узнаваемое имя, хотя задача агента: короткие ответы по трём типовым сценариям. Разница в счёте за месяц ощутима, а разницу в качестве ответа клиент не заметит.
Считают бюджет по цене одного диалога из тест-кейса, а не по типичной длине переписки с учётом истории. Реальный счёт за первый месяц оказывается выше прогноза именно из-за длины диалогов, а не из-за количества обращений.
Выбирают модель один раз и не возвращаются к вопросу. Нагрузка и сценарии агента меняются, и то, что было оптимально на старте с десятком диалогов в день, может оказаться избыточно дорогим при тысяче.
Списывают российские модели со счетов как заведомо слабые, не проверив их на своих реальных диалогах. YandexGPT и GigaChat закрывают большинство сценариев поддержки и продаж, и экономия на валюте и размещении данных часто перевешивает небольшую разницу в стиле ответа.
Частые вопросы
Какая модель дешевле: GPT, Claude или российские аналоги?
По официальным тарифам бюджетные модели GPT и Claude стоят от 0,10 $ за миллион входных токенов, что в пересчёте дешевле российских аналогов в долларах, но оплата идёт в иностранной валюте. GigaChat и YandexGPT тарифицируют в рублях: от 0,065 рубля за 1000 токенов у GigaChat Lite и от 0,2 рубля у YandexGPT Lite, без разницы между входом и выходом. Для бизнеса в России решающим часто становится не курс, а удобство оплаты и размещение данных.
Можно ли использовать GigaChat или YandexGPT бесплатно?
У обоих провайдеров есть бесплатный тестовый режим с ограниченным числом токенов в месяц и сниженной скоростью запросов, этого достаточно, чтобы прогнать прототип агента и оценить качество ответов на своих сценариях. Для продакшена с реальной нагрузкой freemium быстро заканчивается, и дальше счёт считается по платному тарифу за токены.
Нужен ли контекст в миллион токенов для обычного бота поддержки?
Нет, большинство диалогов поддержки укладываются в несколько тысяч токенов даже с учётом истории переписки и системной инструкции. Контекст в сотни тысяч токенов и выше имеет смысл, если агент должен за один вызов прочитать целиком договор, техническую документацию или объёмный прайс, а не просто ответить на вопрос клиента.
Можно ли сменить модель после запуска агента, не переписывая его с нуля?
Да, если агент спроектирован отдельно от конкретного движка: сценарий, база знаний и инструменты не привязаны жёстко к одной модели. В этом случае замена GPT на Claude или на российскую модель требует переподключения API и проверки качества ответов, а не пересборки логики агента целиком.
Нужна ли одна модель на все задачи агента?
Нет, в одном агенте часто выгодно совмещать модели: бюджетную для типовых коротких ответов и более сильную для сложных уточнений или вызова инструментов. Такой подход снижает счёт за токены без потери качества на сложных шагах диалога.
С чего начать
Прежде чем подключать модель к агенту, пройдите три шага.
- Опишите сценарии диалогов и для каждого прикиньте среднюю длину переписки с историей: это определит, какой контекст и какая модель вообще нужны.
- Соберите ожидаемую дневную нагрузку и прогоните её через тарифы двух-трёх кандидатов, чтобы сравнить не цену за токен, а цену за месяц.
- Протестируйте несколько моделей на одних и тех же реальных диалогах из вашей отрасли, а не на демо-примерах из документации провайдера.
Если разбираться в тарифах, API и архитектуре агента самостоятельно не хочется, этим занимается команда, которая проектирует и настраивает кастомных ИИ-ботов под задачу бизнеса.
