Оценка

Вставьте текст и нажмите кнопку.

Это приблизительная оценка. Точное число токенов зависит от модели и токенизатора.

Что такое токен

Токен это кусочек текста, с которым работает модель. Подробнее в словаре: что такое токен.

Оценка помогает понять, поместится ли текст в контекстное окно.

Когда стоит применить

Оценка токенов помогает планировать длину запроса и затраты в API. Это полезно, если текст большой и важно понять, поместится ли он в контекстное окно модели.

Разбор примера

Статья на 1000 символов на русском это примерно 300 токенов. Если модель принимает 8000 токенов, такой текст легко поместится вместе с вопросом и ответом.

Чего ждать не стоит

Это оценка, а не точное число. Разные модели считают токены по-своему, точное значение дает токенизатор конкретной модели.

Частые вопросы

Разные модели считают токены по-разному. Точное число дает токенизатор модели.

Чтобы планировать длину запроса и затраты в API.

В русском словах больше символов, поэтому на тот же смысл уходит больше токенов.

Да, они тоже занимают токены, хотя и немного.