Реализация Retrieval augmented generation (RAG) в собственном ИТ-контуре АО "ДОМ.РФ"

• Александр Лукьянов, директор по цифровизации жилищной сферы, рассказывает о важности искусственного интеллекта в строительной отрасли.  

• Строительство и ЖКХ составляют 12% ВВП России, что делает внедрение ИИ экономически выгодным.  

• Уже 30% застройщиков используют ИИ, и цель - довести этот показатель до 100%.  

• ИИ может повысить производительность труда на 40%.  

• ИИ активно применяется в возведении городов и мониторинге их безопасности.  

• В России более тысячи городов, и ИИ может улучшить их развитие.  

• Для развития ИИ необходимы верифицируемые данные, которые можно доверять.  

• Проблемы включают неготовность застройщиков делиться данными и различия в программах обучения.  

• Фокус смещается на генеративный ИИ, и на сессии будут представлены практические кейсы его применения.  

• Григорий Грязнов, руководитель по данным и новым технологиям Дом.РФ, рассказывает о единой информационной системе жилищного строительства ЕИСЖС.  

• ЕИСЖС объединяет более 4000 застройщиков и 11000 строящихся домов.  

• Система генерирует огромные объемы данных, включая структурированные и бинарные артефакты.  

• Текстовые данные содержат много бизнес-смыслов, которые анализируются людьми.  

• NLP позволяет работать с естественным языком и выявлять именованные сущности.  

• Алгоритм BERT решает задачи маскирования данных и предсказания предложений.  

• Большие языковые модели требуют много ресурсов для обучения.  

• Подход RTR решает проблему, позволяя модели генерировать ответы в контексте документов.  

• Векторная база данных помогает находить релевантные чанки для ответов на вопросы пользователей.  

• Knowledge Graph помогает выбирать релевантные чанки для ответов.  

• Граф знаний представляет информацию в виде графа с узлами и ребрами.  

• Это позволяет лучше понимать и обрабатывать текстовую информацию.  

• Собираем базу знаний и создаем граф для работы с большой языковой моделью.  

• Модель может сама строить граф, анализируя текст и выявляя ключевые смыслы.  

• Важно провести нормализацию данных для работы с ограниченным контекстом модели.  

• Дедупликация и нормализация данных для работы с ограниченным объемом символов.  

• После нормализации получаем граф знаний для языковой модели.  

• При задании вопроса выбираем релевантные узлы и связанные подграфы.  

• Это улучшает качество контекста для генерации ответов.  

• Возможность использования моделей с десятками и единицами миллиардов параметров.  

• Важность выбора релевантного чанка для получения правильного ответа.  

• Использование графа знаний улучшает выбор контекста и работу с базой знаний.  

• Методы совместно с мер сем инфренсом позволяют работать с моделями с ограниченным количеством параметров.  

• Благодарность за внимание и прощание.