PyTorch | Урок #1 | От А до Я: Сверточная нейросеть. Dogs vs Cats

• Михаил продолжает обучение программированию на Python и изучению нейронных сетей.  

• В прошлом видео они писали классификатор для распознавания цифр из MNIST.  

• Сегодня они будут писать нейронную сеть для распознавания кошек и собачек.  

• Михаил предлагает курсы для фундаментального изучения машинного обучения и нейронных сетей.  

• Михаил рекомендует бесплатные курсы, такие как видео от Три Блу Ван Браун.  

• Он также упоминает книгу Николенко "Глубокое обучение" и курс Воронцова.  

• Михаил подчеркивает важность знания математики и статистики для изучения нейронных сетей.  

• Михаил объясняет, что в прошлом видео они использовали Google Colab.  

• Теперь они будут использовать многофайловые проекты с конфигурационными файлами.  

• Михаил показывает свой проект "Тулубокс ФНН", который он использует для управления обучением нейронных сетей.  

• Михаил загружает датасет с Kaggle и распаковывает его.  

• Он объясняет, как изолировать Python и библиотеки для предотвращения проблем с зависимостями.  

• Михаил начинает писать код для распознавания кошек и собачек, используя командную строку и Python.  

• Михаил напоминает этапы подготовки датасета, трансформации аргументов, подготовки дата-лоудера, архитектуры сети, оптимизатора и функции потерь.  

• Он планирует написать кастомный датасет для своих задач.  

• Михаил рекомендует использовать документацию и туториалы для лучшего понимания процесса.  

• Дата-сеты бывают двух видов: дата-сеты и мэп-сеты.  

• Дата-сеты позволяют хранить данные в виде хэш-таблиц.  

• Для создания дата-сета нужно унаследовать от модуля.  

• Необходимо реализовать операции len и getitem.  

• Дата-сет можно использовать как обычный список или массив.  

• В конструкторе нужно передать две строки с путями к папкам.  

• Рекомендуется использовать str для визуального обозначения типа переменной.  

• Нужно получить список фотографий из папок.  

• Рекомендуется сортировать фотографии для предсказуемости структуры дата-сета.  

• Нужно запомнить пути к папкам для дальнейшего использования.  

• Это позволяет обращаться к папкам в будущем.  

• Возвращаем элементы дата-сета по отдельности.  

• Создаем переменную класса для определения типа фотографии.  

• Дата-сет состоит из двух частей: первая часть для первой папки, вторая часть для второй папки.  

• Индекс элемента должен быть в диапазоне от 0 до длины дата-сета.  

• Функция склеивает две строки в одну, чтобы получить правильный путь к изображению.  

• Использование функции path join для корректного склеивания путей.  

• Импортируем библиотеку OpenCV для загрузки изображений.  

• Загружаем изображения и используем их в нейронной сети.  

• Использование Shift+Tab для вызова документации.  

• Краткое описание при однократном нажатии, подробное при двойном нажатии.  

• Возможность прокрутки документации в ноутбуке.  

• Путь к изображению и режим загрузки.  

• Возможность загрузки изображений в различных форматах.  

• Возвращение изображения и класса для корректности.  

• Создание датасетов для обучения и валидации.  

• Использование трейн докс паф для передачи путей.  

• Компактный формат написания кода.  

• Проблемы с форматом RGB и BGR.  

• Необходимость перевода изображений в RGB формат.  

• Использование подсказок для правильного перевода.  

• Важность сортировки данных для предсказуемости результатов.  

• Лексико-графический порядок сортировки.  

• Проблемы с разным размером изображений.  

• Необходимость нормализации изображений для нейронных сетей.  

• Использование готовых библиотек для нормализации.  

• Преобразование изображений в формат float для работы с вещественными числами.  

• Обращение к первому каналу изображения.  

• Суммирование всех каналов и деление на три.  

• Проблемы с переполнением при использовании восьмибитного формата.  

• Перевод в формат float для устранения проблем.  

• Нормализация изображения до диапазона от нуля до единицы.  

• Нейронные сети используют другую нормализацию.  

• Транспонирование изображения для правильного порядка.  

• Преобразование в тензор и создание словаря.  

• Использование словаря для хранения данных.  

• Создание датасета для обучения и тестирования.  

• Уменьшение размера изображений для обучения.  

• Применение интерполяции для уменьшения размера.  

• Написание даталоадера для обучения и тестирования.  

• Исключение последнего элемента из датасета для обучения.  

• Подготовка к написанию архитектуры модели.  

• Написание архитектуры нейронной сети.  

• Использование сверточных нейронных сетей для распознавания цифр.  

• Введение в свертки и их работу.  

• Изображение как матрица пикселей.  

• Влияние соседних пикселей на результат.  

• Использование маленьких полносвязных нейронных сетей.  

• Создание фильтра для свертки.  

• Проблема уменьшения размера изображения.  

• Использование пазинга для сохранения размера.  

• Применение фильтра к каждому пикселю.  

• Размер шага страйт.  

• Одномерная свертка и её параметры.  

• Скалярное умножение и суммирование.  

• Пример выходного изображения.  

• Преобразование интенсивности пикселей в наличие вертикальных линий.  

• Возможность выделения горизонтальных и диагональных линий.  

• Примеры дополнительных сверток для различных задач.  

• Деление на девять для выделения общей интенсивности света.  

• Применение фильтра для изменения цвета.  

• Демонстрация сверток с помощью GIMP.  

• Применение матрицы для размытия изображения.  

• Нормализация для предотвращения искажений.  

• Увеличение резкости изображения.  

• Использование фильтров для выделения границ и переходов.  

• Применение базовых фильтров для улучшения изображения.  

• Создание 32-64 фильтров для обработки изображений.  

• Применение функции активации ReLU.  

• Использование Leaky ReLU для улучшения результатов.  

• Применение MaxPooling для улучшения градиентов.  

• Прописывание сверток и функций активации.  

• Применение нескольких сверток для улучшения изображения.  

• Использование адаптивного aver для уменьшения размера изображения.  

• Оптимизация архитектуры нейронной сети.  

• Использование кросс-энтропийного оптимизатора Adam.  

• Определение количества параметров и их влияние на производительность.  

• Прописываем тренировочный цикл, аналогичный предыдущему.  

• Берем количество эпох, значение лоса и точности на каждой эпохе.  

• Получаем словарь, который разбиваем на сэмпл и мэч сэмпл лейбл.  

• Убираем ненужные принты из нейронной сети.  

• Возникают ошибки, связанные с неправильным написанием кода.  

• Модель не обучается, нужно разобраться в причинах.  

• Модель не обучается, возможно, из-за старых параметров.  

• Прогресс есть, но модель все еще примитивна.  

• Планируется улучшение сверточной нейронной сети в будущем видео.  

• Видео завершено, можно сделать домашнее задание.  

• Призыв подписаться на канал и задавать вопросы.  

• Надежда на то, что зрители получили знания и научились писать код.  

• Остановка обучения, изменение параметров.  

• Модель стала более примитивной, но все еще работает.  

• Проверка модели на тесте, результаты схожи с тренировочными данными.  

• Увеличение размера нейронной сети улучшает результаты.  

• Модель становится более сложной и способной запоминать больше информации.  

• Благодарность зрителям и призыв к самостоятельному изучению.