База Знаний 2.0. Расширяем знания LLM корпоративными данными с помощью RAG

• Just AI специализируется на разговорном ИИ уже семь лет.  

• Компания фокусируется на генеративном ИИ и чат-ботах.  

• Ангелина Галькевич, продакт-менеджер, присоединилась к компании в декабре.  

• Процесс адаптации включал изучение документации, чатов и тредов.  

• Ангелина самостоятельно изучила продуктовую линейку и документацию.  

• База знаний доступна в любое время дня и ночи.  

• База знаний помогает обучать новых сотрудников и менеджеров по продажам.  

• База знаний может быть суфлером для операторов и клиентов.  

• Клиенты могут напрямую общаться с базой знаний через виджеты на сайте.  

• Ирина Савелова, центист, имеет опыт создания баз знаний и чат-ботов.  

• Ирина объясняет, что база знаний — это система, которая отвечает на вопросы на естественном языке.  

• Раньше базы знаний создавались с использованием интентов и классификаторов.  

• Процесс включал сбор вопросов и ответов, подготовку данных и создание классификаторов.  

• Новая модель требует меньше ресурсов и времени.  

• База знаний создается за пару недель одним сотрудником.  

• База знаний покрывает 100% сценариев, которые были показаны.  

• Обсуждение сложностей и преимуществ использования языковых моделей.  

• Примеры использования моделей для понимания пользователя и генерации ответов.  

• Локальные запросы не всегда обрабатываются корректно.  

• Пример с запросом о правилах оформления отпуска в компании.  

• Введение в архитектуру RAC и векторные базы данных.  

• Процесс перевода документов в векторы для понимания моделью.  

• Противоречия в данных, например, разные структуры отделов разработки.  

• Проблемы с классификацией продуктов и форматов документов.  

• Проблемы с неточным поиском по похожим текстам.  

• Примеры поиска по смыслу и по конкретным номерам.  

• Важность использования векторного поиска и ключевых слов.  

• Призыв к объединению обоих подходов для улучшения качества поиска.  

• Второй вариант поиска включает поиск по смыслу и доменным данным.  

• Обучение модели помогает лучше ориентироваться в текстах и находить смысл.  

• Для больших документов требуется более сложная архитектура.  

• Качество поиска зависит от размера документов и количества слов.  

• Чем меньше документов, тем лучше качество поиска.  

• Для больших документов требуются дополнительные подходы для улучшения качества.  

• Фильтрация документов по данным и классификация интересов пользователей.  

• Реранжирование результатов поиска улучшает итоговое качество.  

• Использование больших контекстов для моделей улучшает точность, но требует осторожности.  

• Безопасность данных включает маскирование и использование моделей отечественного производства.  

• Варианты решения будут обсуждаться на следующем вебинаре.  

• База знаний для HR: автоматизация рутинных задач и облегчение адаптации новых сотрудников.  

• База знаний для авиакомпании: автоматизация клиентской поддержки на трех языках.  

• Качественные данные: актуальность, полнота, отсутствие противоречий.  

• Стоимость создания базы знаний: около двух недель.  

• Быстрое получение ответов на вопросы сотрудников и клиентов.  

• База знаний может быть подключена к различным каналам и интерфейсам.  

• Возможность консультироваться из нескольких источников.  

• Улучшение базы знаний и добавление новых источников данных.  

• Авторефреш данных для обновления базы знаний.  

• База знаний может быть создана специалистом самостоятельно или с помощью команды.  

• Можно обратиться за помощью на указанную почту для получения прототипа за пару недель.  

• Стоимость зависит от объема базы знаний и исходных данных.  

• Вопросы будут прочитаны и ответы на них даны.  

• Вопросы касаются форматов данных, сценариев работы и обучения.  

• База знаний работает с текстовыми данными, но возможны и мультимодальные модели.  

• Обучение занимает около двух недель, если данные текстовые и без сложных форматов.  

• Если данные сложные, то обучение может занять больше времени.  

• Сроки зависят от объема данных и сложности кейса.  

• Экономический эффект от внедрения базы знаний есть, но зависит от специфики данных.  

• Ответственность за неправильные ответы лежит на заказчике.  

• Рекомендованы консорциумы и библиотеки для работы с ИИ.  

• Решаются проблемы уточняющих вопросов с помощью векторов и классификаторов.  

• Ограничения доступа к данным работают хорошо, но не отправляют все варианты поиска.  

• Используется векторизатор, обученный на парах вопрос-ответ.  

• Результаты услуги создания базы знаний зависят от кейса.  

• Можно обратиться к партнерскому менеджеру для обсуждения партнерства.  

• Обсуждение поднятого сервиса и интеграции в различные интерфейсы.  

• Поддержка разных LMS и планы по добавлению Concur.  

• Вопросы по обучению и использованию системы.  

• Зависимость стоимости от условий сотрудничества и типа LMS.  

• Примерные цены на типовые запросы от 50 до 180 рублей.  

• Возможность получения подробной информации по прайсу на почту.  

• Завершение вебинара, напоминание о вопросах в чате.  

• Благодарности спикерам за полезный материал.  

• Призыв к участникам ставить лайки и задавать вопросы после вебинара.  

• Анонс вебинара по безопасности 26 марта.  

• Представление продукта и требований законодательства.  

• Призыв к регистрации на вебинар.  

• Ответ на вопрос о возможности продажи продуктов на основе технологий.  

• Прощание и пожелания хорошего дня.