Подожди.....! Создайте своего собственного БЕСПЛАТНОГО чат-бота с помощью Ollama & Langchain!

• В видео демонстрируется, как использовать Long Chain и Alma для реализации системы Rag, которая позволяет подключить собственный источник данных к большой языковой модели.  

• Система Rag состоит из двух основных частей: пользователь задает вопрос, который преобразуется в цифровое представление с помощью модели встраивания.  

• Затем, используя внешний источник данных, например PDF-файл или веб-сайт, данные также встраиваются, и результаты хранятся в базе данных под названием VectorStore.  

• VectorStore выполняет семантический поиск с использованием входного вопроса и выбирает набор встроенных векторов из внешнего источника данных.  

• Эти релевантные данные затем используются в качестве контекста для большой языковой модели или LLM для расширения своих знаний.  

• В видео показано, как установить Lang Chin, Chroma DB и Beautiful Soup для работы с Alma.  

• Затем устанавливается Alma Embeddings, которая преобразует текст в цифровое представление.  

• Создается файл на Python, который импортирует необходимые библиотеки из L Chain.  

• Определяется LLM, который используется в системе Rag.  

• Указываются URL-адреса для получения дополнительных данных для LLM и загрузки их в набор документов.  

• Определяется разделитель текста, который преобразует документы в набор фрагментов определенного размера.  

• Определяется векторное хранилище, которое применяет модель встраивания к каждому фрагменту данных и сохраняет их в базе данных.  

• Определяется векторное хранилище как средство поиска данных, которое выполняет семантический поиск и выбирает наиболее релевантные фрагменты для использования в качестве контекста для LLM.  

• В видео демонстрируется, как построить цепочку и задать вопрос LLM без использования Rag.  

• Определяется шаблон приглашения в чат, который используется для подключения LLM к цепочке.  

• Затем запускается код, который показывает, что без использования Rag LLM ничего не знает об Alma.  

• Затем демонстрируется, как построить цепочку с использованием Rag, чтобы соединить указанные URL-адреса в качестве базы знаний для LLM.  

• Определяется новый шаблон приглашения, который содержит контекстную часть и часть вопроса.  

• Определяется цепочка рассылки, которая требует контекста и передает его в приглашение.  

• Затем запускается код, который показывает, что с использованием Rag LLM может предоставить более релевантные ответы на конкретные запросы.