Токены: как считаются и сколько стоит запрос

Единица текста, которой оперирует модель. В среднем один токен — это часть слова: примерно 0,7–0,75 слова для русского текста. Значит, тысяча слов — это около 1300–1500 токенов.

Почему длинный текст дороже

Оплата идёт за вход и за выход. Вход — ваш промпт и весь контекст диалога. Выход — ответ модели. Чем длиннее история переписки, тем дороже каждый следующий запрос.

Главная ошибка

Вести один длинный чат месяцами. Каждый запрос тащит за собой всю историю, и стоимость растёт, хотя вы задаёте короткий вопрос.

Решение: новый чат под новую задачу.

Как экономить

• Начинайте новый чат под новую задачу
• Не грузите весь репозиторий — два-три файла
• Просите короткие ответы, когда нужен факт
• Для черновиков берите быструю модель, для финала — сильную

Видео и изображения

Там своя единица: генерация, а не токен. Стоимость зависит от модели, длины и разрешения. Видео — самая дорогая операция, один прогон может стоить как десять изображений.

Что делать

Считайте стоимость до запуска. В агрегаторах с оплатой за факт цена видна перед генерацией — это главное преимущество перед подпиской.