Установка приватного GPT в Windows (чат с локальными документами с помощью local LLM) CPU & GPU

• Клонирование репозитория с GitHub.  

• Установка Python 3.11 и среды conda.  

• Установка поэзии и компилятора C++.  

• Установка MinGW и make для скриптов.  

• Загрузка и сохранение текста с веб-сайта NBA.  

• Загрузка текста в приватный GPT и вопросы о текущей победной или проигрышной серии "шпор".  

• Использование Cuda для ускорения работы приватного GPT.  

• Вопросы о количестве очков, набранных Джеймсом Харденом в последних матчах "Клипперс".  

• Автор объясняет, что для корректной работы Hugging Face необходимо установить компакт-диск в каталог установки репозитория.  

• После этого он запускает приложение, используя новое приглашение Anaconda, и проверяет, что BLAS является одним из установленных компонентов.  

• Автор демонстрирует использование Hugging Face, задавая вопросы о количестве очков, набранных Джеймсом Харденом.  

• Он также объясняет, что в пользовательском интерфейсе нет возможности удалить файлы, с которыми общаешься в чате, но можно добавить дополнительные файлы в список.  

• Если нужно удалить все файлы, можно использовать команду "makewipe".  

• Автор завершает установку, используя команду "make run", и объясняет, что для изменения используемой модели Hugging Face нужно изменить настройки в файле YAML.  

• В целом, установка Hugging Face была сложной, требующей множества зависимостей и методов установки, таких как поэзия и шоколад, которые автор раньше не использовал.