Как начать работать с GigaChat API? Подробный туториал на Python

• Сергей Трощенков представляет себя и свою деятельность.  

• Он проводит занятия по Python и машинному обучению.  

• Решил записывать видеоролики в формате скринкастов для широкой аудитории.  

• Скринкасты будут посвящены темам, которые интересны Сергею.  

• Он будет делиться знаниями, которые не выходят на широкую аудиторию.  

• Видео будут короткими, чтобы не затягивать процесс.  

• GigaChat — большая языковая модель от Сбербанка.  

• Доступ к API предоставляется бесплатно для физических лиц.  

• Цель видео — научиться получать доступ к API и использовать Python.  

• Для доступа к API нужно зарегистрироваться или войти в аккаунт.  

• Переход в личное пространство разработчиков на Сбер.  

• Доступ к документации и ключам доступа.  

• Получение идентификатора и секретного ключа.  

• Возможность докупки дополнительных токенов.  

• Доступ к авторизационным данным.  

• Использование Google Colab для программирования.  

• Хранение ключей в разделе "Секреты".  

• Импорт ключей в переменные среды разработки.  

• Объединение клиентского ID и секретного ключа в строку.  

• Кодирование строки в Base64.  

• Использование полученной строки для авторизации.  

• Передача данных для получения временного токена.  

• Срок действия токена — около получаса.  

• Обновление документации и примеры кода.  

• Запрос на получение перечня моделей GigaChat.  

• Использование токена для доступа к моделям.  

• Получение информации о доступных моделях.  

• Создание функции для генерации сообщений.  

• Передача токена и сообщения для генерации.  

• Использование библиотеки requests для запросов.  

• Указывается эндпоинт и модель, в данном случае гигачат.  

• Сообщения передаются в виде списка словарей.  

• Каждое сообщение состоит из роли и контента.  

• Три роли: системная, пользователь и ассистент.  

• Системная роль передает общую информацию.  

• Пользователь взаимодействует с гигачатом.  

• Ассистент отвечает на запросы пользователя.  

• Параметр температуры определяет случайность ответов.  

• При температуре 0 выбирается самый надежный результат.  

• При температуре выше 0 ответы становятся более случайными.  

• Параметр стрим позволяет потоковую передачу ответов.  

• Максимальное количество токенов в ответе можно регулировать.  

• Штраф за повторение предотвращает повторения в длинных последовательностях.  

• Запрос включает токен и промт.  

• Ответ преобразуется в словарь с помощью метода json.  

• Структура словаря аналогична чату gpt.  

• Усложнение кода для создания диалоговой системы.  

• Передача истории сообщений для контекста.  

• Добавление словаря с информацией о роли и контенте в историю сообщений.  

• Пример диалога с вопросами "привет, как дела?" и "что ты умеешь делать?".  

• Модель отвечает на вопросы, поддерживая беседу.  

• При отправке запроса передается служебная информация.  

• Инструкции связаны с правилами поведения с пользователем.  

• Возможность вызова модели кандинского при определенных условиях.  

• Системное сообщение идет первым и может быть только одно.  

• В системном сообщении можно указать роль и правила поведения.  

• Пример: указание роли "бывалый пират" и имени "Генри Морган".  

• Создан новый список для истории переписки.  

• Передан список в качестве аргумента.  

• Задан вопрос для запуска диалога.  

• Модель отвечает как пират: "Добрый вечер, капитан, какими ветрами занесло в эти края?"  

• Несмотря на одинаковую температуру, ответы модели различаются.  

• Формат для извлечения сообщений из вложенных словарей.  

• Переход к работе с генератором картинок моделью Кандинский.  

• Для генерации картинок используется тот же запрос к эндпоинту.  

• Большая языковая модель должна понять запрос на генерацию картинки.  

• Генеративные тексты и изображения создаются разными нейросетями.  

• Доступ к ним через интерфейс GigaChat.  

• Пример запроса: нарисовать изображение робота с ноутбуком.  

• Запрос занимает больше времени, но это не критично.  

• Ошибка из-за истечения срока действия токена.  

• Перевыпуск токена и перезапуск запроса.  

• Ответ содержит идентификатор картинки.  

• Использование библиотеки bs4 для парсинга HTML и извлечения идентификатора.  

• Запрос на получение бинарного файла с использованием идентификатора.  

• Сохранение изображения в виде файла.  

• Изображение антропоморфного робота с ноутбуком.  

• Рассмотрен функционал создания запросов и получения ответов от GigaChat.  

• Построена диалоговая система.  

• В следующий раз будет рассмотрена библиотека GigaChain для работы с GigaChat.  

• Благодарность за просмотр.  

• Призыв к вопросам и помощи.