Оценка стоимости: токены, вход и выход

Перед запуском полезно понять, во что обойдётся работа API. Считают не по словам, а по токенам. Здесь мы покажем грубую формулу, простой пример и где искать актуальные цены. Если термин новый, начните с пояснения, что такое токен, дальше расчёт будет проще.

Что влияет на стоимость

Цена зависит от трёх вещей. Это число входных токенов, число выходных токенов и выбранная модель.

Чем длиннее ваш запрос и ответ, тем больше токенов и тем дороже. Разные модели стоят по-разному, поэтому выбор модели тоже влияет на счёт.

• Входные токены это ваш текст запроса.
• Выходные токены это ответ модели.
• Цена за токен зависит от модели.

Почему важна модель

Разные модели стоят по разному. Более сильная модель часто дороже, поэтому для простых задач берут модель попроще и платят меньше.

Вход и выход

Входные токены это всё, что вы отправляете, включая инструкции. Выходные токены это то, что вернула модель.

Обычно выход тарифицируется дороже входа. Поэтому длинные ответы стоят заметнее. Лимиты длины связаны с тем, как устроен запрос к API.

Почему выход дороже

Модели обычно берут больше за то, что они сами создают. Поэтому длина ответа влияет на счёт сильнее, чем длина запроса. Короткий, точный ответ часто выгоднее длинного.

Как прикинуть расход

Грубая формула простая. Возьмите примерное число токенов на один запрос, умножьте на число запросов, затем на цену модели.

Удобно сделать это в нашем калькуляторе стоимости API. Это даст ориентир, а не точную сумму, потому что длина ответов всегда немного разная.

• Оцените токены на один запрос.
• Умножьте на число запросов в день.
• Умножьте на цену модели из docs.
• Добавьте запас на длинные ответы.

Простой расчёт на Python

Грубую оценку легко записать как обычный текст. Цены тут условные, настоящие берите из документации:

tokenspercall = 800

callsperday = 200

pricepertoken = ЦЕНАИЗDOCS

daycost = tokenspercall * callsperday * priceper_token

Так вы получаете ориентир на день. Умножьте на тридцать для месяца и добавьте запас на длинные ответы. Это оценка, а не точный счёт.

1. Задайте среднее число токенов на запрос.
2. Укажите число запросов в день.
3. Подставьте цену модели из документации.
4. Перемножьте и добавьте небольшой запас.

Где смотреть цены

Актуальные цены всегда в официальной документации. Они меняются со временем, поэтому не доверяйте старым цифрам из интернета и проверяйте тариф перед запуском.

Снизить расход помогает контроль лимитов, об этом в материале про лимиты запросов. Общий обзор и другие материалы есть в разделе про API.

Проверяйте счёт регулярно

Личный кабинет показывает реальный расход. Заглядывайте туда время от времени, чтобы оценка совпадала с тем, что вы платите на деле.

Ошибки новичков

Частая ошибка это считать по словам, а не по токенам, ведь одно слово может быть несколькими токенами. Ещё одна беда это старые цены из сети, которые давно не совпадают с реальностью.

Многие забывают, что выход стоит дороже входа, и недооценивают длинные ответы. Чтобы избежать этого, считайте по токенам, берите цены только из документации и закладывайте запас. И помните: любая оценка это ориентир, а не точная сумма к оплате.

• Не считайте по словам вместо токенов.
• Не берите старые цены из интернета.
• Не забывайте про стоимость выходных токенов.
• Не принимайте грубую оценку за точную сумму.

Что считаем при оценке

Параметр	Что это	Откуда брать
Входные токены	Ваш текст запроса	Оценка или счётчик
Выходные токены	Ответ модели	Оценка по длине ответа
Цена модели	Стоимость за токены	Официальная документация
Число запросов	Сколько раз в день	Ваш план работы

Доля частей в расходе (простая иллюстрация)

Выходные токены 50%

Входные токены 35%

Запас на ошибки 15%

Как прикинуть бюджет

1

Считаем токены

Прикидываем размер запроса и ответа.

2

Берём цену

Смотрим тариф модели в docs.

3

Умножаем

Токены на цену и на число запросов.

4

Добавляем запас

Учитываем длинные ответы.

Чеклист

• Понять, что считают по токенам.
• Оценить токены входа и выхода.
• Взять цену модели из документации.
• Прикинуть число запросов в день.
• Добавить запас на длинные ответы.
• Пересчитать оценку на месяц.
• Проверить расход в личном кабинете.

Частые ошибки

Частые вопросы

В чём измеряется стоимость?

В токенах. Считают входные токены вашего запроса и выходные токены ответа, а цена зависит от модели.

Где брать актуальные цены?

Только в официальной документации OpenAI. Цены меняются, поэтому старые цифры могут быть неверны.

Можно ли узнать точную сумму заранее?

Точную нет, но можно прикинуть. Умножьте оценку токенов на цену модели и на число запросов.

Почему выход дороже входа?

Так устроены тарифы у многих моделей. Поэтому длинные ответы заметнее влияют на счёт, чем длинные запросы.

Как уменьшить расход?

Сокращайте лишние инструкции, ограничивайте длину ответа, кэшируйте повторяющиеся запросы и не шлите одно и то же дважды.

Слово это один токен?

Не всегда. Одно слово может быть несколькими токенами, особенно длинное или редкое. Поэтому считают по токенам, а не по словам.

Источники

Мы опираемся на официальную документацию. Цены и состав моделей могут меняться, проверяйте важные факты по первоисточникам.

• platform.openai.com/docs