Как подсчитать токены OpenAI GPT перед вызовом API в NodeJS

• Подсчет токенов OpenAI перед отправкой текста в API.  

• Ценообразование основано на жетонах, цена за тысячу жетонов.  

• Недостаток текущей системы: неизвестно количество жетонов до отправки.  

• Регистрация завершения и получение объекта usage.  

• Объект usage содержит токены запроса, ввода и завершения.  

• Расчет общей стоимости на основе этих значений.  

• OpenAI предоставляет документацию и модуль tik token для подсчета токенов.  

• Создание пакета для подсчета токенов на JavaScript.  

• Импорт пакета и использование функции чата для подсчета токенов.  

• Подсчет токенов перед отправкой в API.  

• Локальный расчет без затрат.  

• Недостаток: невозможно точно предсказать количество токенов для ответа.  

• Ограничение максимального количества токенов для предотвращения спама.  

• Поддержка множества моделей и тестирование на 100% точность.  

• Приложение популярно, более 11000 скачиваний, поддерживается в рабочем состоянии.