Как сделать свою LoRA для Flux? Два способа, которые подойдут для low vram (8GB / 16GB) #нейросети

• Видео посвящено тренировке LORA для модели Flux.  

• Будут показаны два способа: с использованием отдельной программы и в конфиге.  

• Оба способа подходят для видеокарт с 8 ГБ памяти.  

• LORA — метод адаптации нейросетей для модификации существующих моделей.  

• Позволяет адаптировать модели для выполнения специфических задач без полного переобучения.  

• Пример: обучение модели рисовать в импрессионистском стиле.  

• Можно тренировать модели для создания изображений в специфических стилях.  

• Нельзя использовать для кардинальных изменений архитектуры модели.  

• Не подходит для сложных и специфических задач.  

• Установка программы Pinocchio и Flux Jim.  

• Процесс установки может занять длительное время.  

• Важно следовать инструкциям и проверять наличие необходимых пакетов.  

• В Pinocchio есть три колонки: LORA Info, терминал и настройки.  

• Выбор памяти видеокарты: 8, 12, 16, 20, 24 ГБ.  

• Указание названия LORA и триггерного слова.  

• Выбор базовой модели для тренировки.  

• Repit Image: количество повторений каждого изображения в процессе обучения.  

• Эпохи: максимальное количество эпох для обучения модели.  

• Train Steps: количество шагов для генерации изображений на основе текстовых подсказок.  

• Настройка параметров LORA завершена.  

• В следующей части будет тренировка LORA в конфиге.  

• Все изображения должны быть квадратными, размером 512x512.  

• Изображения загружаются без кириллицы в папку.  

• Можно добавить описание к изображениям, но это не обязательно.  

• Для простых объектов и стилей можно не добавлять описание.  

• Модель может автоматически распознать, что на изображении.  

• Если используете кэпшены, проверьте их правильность.  

• Настройте лора инфо и дата сет.  

• Нажмите "трейнинг" для запуска тренировки.  

• Программа будет скачивать модели и зависимости, что может занять много времени.  

• Если модели уже скачаны, поместите их в папку с программой.  

• Проверьте, чтобы файлы моделей назывались так же, как в папке.  

• После загрузки моделей начнется процесс тренировки.  

• Длительность зависит от количества изображений и параметров тренировки.  

• Рекомендуется запускать тренировку в нерабочее время.  

• После завершения тренировки в папке аутпут появится лора.  

• Откройте конфи и добавьте ноду лоры.  

• Перестройте зависимости и выберите свою лору.  

• Тестируйте лору, генерируя изображения и сравнивая их с исходными.  

• Установите конфи и скачайте все модели флюкса.  

• Скачайте и установите ноды для тренировки лоры в конфи.  

• Настройте дата сет и тренировочные параметры.  

• Выберите модели и параметры для тренировки.  

• Укажите размер дата сета и триггерное слово.  

• Настройте параметры нетворк дим и нетворк альфа для выразительности и контроля веса.  

• Укажите количество шагов для тренировки.  

• Оптимальное значение для моделей флюкса - от двух до пяти тысяч шагов.  

• Настройте другие параметры по необходимости.  

• Сплит мод позволяет разделить процесс обучения на более мелкие сегменты.  

• Полезно для видеокарт с ограниченной памятью, например, менее 16 ГБ.  

• В примере использовалось 8 ГБ видеопамяти из 16 ГБ.  

• Включает четыре одинаковых сегмента для сохранения лора через определенное количество шагов.  

• Позволяет создавать несколько файлов лора с разной степенью обучения.  

• Полезно для тестирования и сравнения результатов на разных шагах обучения.  

• Графики показывают динамику обучения модели.  

• Важно, чтобы модель постепенно снижала свои показатели.  

• Настройки включают размер картинок, путь к папке, триггерное слово и гиперпараметры.  

• Тренировка начинается после выбора параметров и сохранения лора.  

• В консоли отображается прогресс бар и примерное время тренировки.  

• Проверка лора проводится в воркфлоу с рисовалкой флюкса.  

• Ссылки и тайм-коды в описании.  

• Призыв к подписке, лайкам и поддержке.  

• Рекомендация тренировать собственные стили и использовать чужие только для личных целей.