ЛЕГКО обучите Ламу 3.1 и загрузите в Ollama.com

• LLaMA 3.1 не знает пользовательских данных, поэтому нужно обучать модель.  

• В этом уроке будет обучена модель с 8 миллиардами параметров.  

• Будут показаны шаги по обучению модели на пользовательских данных и сохранению её в Hugging Face и OARMA.  

• Цель - обучить модель программированию на Python.  

• Видео покажет, как настроить модель, загрузить данные, провести тренировку и сохранить модель.  

• Автор рекомендует подписаться на канал для новых обновлений.  

• Использование Mast Compute и кода купона для скидки.  

• Установка необходимых пакетов и создание файла app.py.  

• Импорт необходимых библиотек и настройка модели.  

• Определение маркера конца предложения и создание функции для форматирования подсказки.  

• Использование функции load dataset для загрузки данных.  

• Преобразование данных в требуемый формат для обучения модели.  

• Использование модели быстрой языковой модели и метода getpeft для обучения параметров.  

• Определение тренера и настройка параметров обучения.  

• Сохранение модели и токенизатора в Hub.  

• Сохранение модели и токенизатора в Hub.  

• Использование модели в приложении.  

• Сохранение модели в OARMA и тестирование её работы.  

• Сохранение модели в формате gguf.  

• Создание модели и запуск OARMA для тестирования.  

• Сохранение модели в OARMA.  

• Модель и токенизатор сохраняются в формате gguf.  

• Используются три метода квантования: q, k, и 85 км.  

• Все версии модели загружаются в одно место.  

• Создается файл модели с расширением .mo.  

• Указывается путь к файлу ggf.  

• Можно скопировать относительный путь и вставить его в файл модели.  

• Используется команда для установки Oarama на Linux.  

• Создается файл модели с указанием пути и имени пользователя.  

• Модель загружается и тестируется с помощью команды oama run.  

• Генерируется ключ SSH и копируется в нужное место.  

• Открытый ключ добавляется в Oarama через раздел "Настройки".  

• Модель автоматически сохраняется в Oarama.  

• Модель доступна для использования на любом компьютере.  

• Возможность создания и обучения собственной модели.  

• Призыв к подписке и лайкам.