PIX Техническая среда совместно с Yandex Cloud: RPA + GPT

• Техническая среда для обсуждения технических вопросов, связанных с роботами и технологиями.  

• Гость - Дмитрий Рыбалка из Яндекса Клауд, отвечает за развитие платформы для разработки датасфера и модели.  

• Роботы используются для упрощения работы с языковыми моделями в продуктах компании.  

• Примеры использования: ассистент в Пикс, ассистент в Пикс-процессе, упрощение бизнес-процессов.  

• В Пикс-студии есть раздел, связанный с G5, где можно использовать различные действия и активности для работы с языковыми моделями.  

• Примеры использования: подключение к языковой модели, обращение к модели, использование стандартных функций.  

• В видео обсуждается использование языковых моделей для обработки текстовых данных.  

• Модель может быть использована для выполнения базовых запросов и ответов в определенном формате.  

• Пример использования активности для обобщения текста.  

• Модель может быть использована для сокращения и обобщения текста.  

• Пример использования активности для распознавания сущностей из документа.  

• Модель может быть использована для извлечения информации из текста, такой как имена игроков, счет матча и т.д.  

• Пример использования активности для классификации текста.  

• Модель может быть использована для отнесения текста к определенной теме или категории.  

• В видео обсуждается создание роботов для классификации новостей на основе машинного обучения.  

• Роботы могут быть использованы для определения класса новости, например, футбольной или нет.  

• Для этого создается список новостей, который затем передается в классификатор.  

• В результате получается список классов, к которым относится новость.  

• Роботы могут быть использованы в бизнес-процессах, например, для определения, относится ли новость к футбольному событию.  

• Если новость не относится к футбольному событию, она может быть проигнорирована.  

• Роботы могут быть использованы для создания помощников или ассистентов, которые могут быть загружены в виде чат-ботов или интегрированы в рабочий процесс пользователя.  

• Это позволяет пользователям взаимодействовать с роботами на своем рабочем месте, а не в телеграмме.  

• В видео обсуждается работа с большими языковыми моделями, которые имеют ограничения по контексту.  

• Для решения этой проблемы используются архитектуры, которые разбивают текст на блоки и затем используют их для ответов на вопросы.  

• Для работы с большими языковыми моделями используется база знаний, которая создается из документов, разбитых на блоки.  

• База знаний может быть использована для работы с несколькими документами и для поиска по нескольким знаниям.  

• В видео обсуждаются различные архитектуры для работы с большими языковыми моделями, включая мультиагентные задачи и взаимодействие с другими роботами.  

• В будущем планируется развитие продукта для упрощения работы с большими языковыми моделями и их применения в бизнес-процессах.  

• Яндекс Клауд - публичное облако, где разрабатываются и используются языковые модели.  

• Яндекс Клауд предлагает готовые модели для работы через API, такие как Яндекс.  

• Спичкит, Яндекс.  

• Большая языковая модель, Яндекс.  

• Транслейт и Яндекс.  

• Вижен.  

• Яндекс Клауд использует языковые модели для различных сервисов, включая поиск, Яндекс.  

• Практикум и другие продукты.  

• Яндекс разрабатывает и использует языковые модели для большого количества сервисов.  

• Языковые модели хорошо работают с текстом, генерируют тексты для маркетинговых задач, редактируют тексты, отвечают на вопросы по базе знаний, обобщают данные, интерпретируют данные, выделяют сущности из текста.  

• Языковые модели не очень хорошо справляются с рекомендательными системами, табличными данными и задачами, где нужна строгая логика или стопроцентная точность.  

• Модель G используется в режиме превью для тестирования и доступа к различным сценариям работы с текстом, включая ответы на вопросы, генерацию текста и выделение сущностей.  

• Модель также используется в саппорте, для поддержки клиентов, помощи в переформулировке ответов и генерации ответов в определенном формате.  

• Модель G доступна в двух режимах: в режиме юай консоли и в режиме плейграунд.  

• В режиме юай консоли модель доступна для разработки промт-инжиниринга, а в режиме плейграунд - для работы с моделью в реальном времени.  

• Модель G может быть дообучена в сервисе Яндекс Дотосфера для работы с конкретным контекстом.  

• Дообучение позволяет повысить качество работы модели и адаптировать ее к конкретным задачам.  

• Модель G может отвечать на вопросы, опираясь на базу знаний, которая содержит векторные представления документов.  

• Модель находит наиболее релевантные фрагменты текста и генерирует ответ на запрос пользователя.  

• В видео обсуждается создание поисковой системы на базе документации, используя векторную базу данных Яндекс.  

• Рассматриваются различные подходы, включая использование сервиса Сеч Апи в Яндекс Облаке или собственного поисковика.  

• Важно помнить о контексте при использовании собственного поисковика и обрабатывать документы перед отправкой в модель.  

• В ближайшее время ожидается появление тарифов и новых шаблонов для различных пользовательских сценариев.  

• В планах также улучшение качества модели на новых данных и увеличение размера контекста для работы с документами с большим количеством символов.  

• Обсуждается вопрос безопасности и сертификации облачных сервисов, включая Яндекс Облако.  

• В настоящее время модель живет в публичном облаке, но в будущем планируется возможность размещения моделей в контуре клиента.  

• Для обеспечения безопасности данных и запросов в модели, возможно использование маскирования данных и логирования запросов.  

• Обсуждение возможности подключения Яндекс G к Пиксу для использования в роботах.  

• Упоминание о проблемах с подключением через Пикс и использование чат G5.  

• Обсуждение работы с Яндекс G и его интеграции с Пикс.  

• Вопросы о работе с зарубежными аналогами и использовании Яндекс G для викторизации текста.  

• Обсуждение бизнес-рисков и использования Яндекс G для автоматизации работы с базой знаний.