Учебник Flowise Ollama | Как загрузить локальный LLM в Flowise

• Модели OpenAI мощные и недорогие.  

• Видео покажет, как создать чат-бота на локальном компьютере с помощью Flow Wise и OLA.  

• OLA позволяет запускать модели LM локально и интегрируется с моделями с открытым исходным кодом.  

• Скачайте и установите OLA с сайта oala.com.  

• Запустите OLA вручную через терминал.  

• Выберите модель, например, LLaMA 2, и загрузите её.  

• Запустите OLA с помощью команды "oala serve".  

• Убедитесь, что OLA запущена, открыв URL в браузере.  

• Создайте новый чат-поток в Flow Wise и добавьте цепочку разговоров.  

• Добавьте модель чата "Chat OLA" и узел буферной памяти.  

• Сохраните поток и проверьте его работу.  

• Создайте чат-бота, который может загружать данные с веб-сайтов и отвечать на вопросы.  

• Добавьте цепочку контроля качества для поиска в диалоговом режиме.  

• Используйте модель чата "Chat OLA" и векторное хранилище.  

• Добавьте модель встраивания и загрузчик документов для веб-сайта.  

• Сохраните чат-бота и проверьте его работу.  

• Задайте вопросы о веб-странице и получите правильные ответы.  

• Использование моделей с открытым исходным кодом имеет свои ограничения, но может быть увлекательным.