#9. Использование CPU и GPU на примере простой НС | Нейросети на PyTorch

• Сергей Балакирев продолжает курс по нейронным сетям.  

• Рассматривается реализация нейронной сети, которая определяет, нравится ли парень девушке.  

• На вход подаются значения +1 или 0, соответствующие наличию квартиры, любви к тяжёлому року и привлекательности парня.  

• Используется функция активации, которая выдаёт 1, если сумма на нейроне больше или равна 0,5, и 0 в противном случае.  

• Работа нейронной сети описывается через векторно-матричные операции: вычисление суммарных значений на нейронах скрытого слоя, использование матрицы весов связей и функции активации.  

• Программа задаёт функцию активации и функцию для работы нейронной сети.  

• Передаются параметры: наличие квартиры, любовь к тяжёлому року и привлекательность.  

• Формируются векторы и матрицы для выполнения векторно-матричных операций.  

• Вычисляется сумма на скрытых нейронах с помощью матричной операции.  

• Сумма пропускается через функцию активации.  

• Вычисляется выходной сигнал через скалярное произведение вектора с результатом на нейронах скрытого слоя.  

• Демонстрация работы программы: при передаче 0 на вход получается 1 на выходе, при передаче 1 — 0.  

• Подчёркивается простота реализации простой нейронной сети.  

• Обсуждается оптимизация вычислений для сложных нейронных сетей с помощью графических процессоров GPU.  

• Упоминается поддержка GPU в PyTorch для новых карт NVIDIA.  

• Проверка поддержки GPU через функцию `is_available()` в модуле `torch`.  

• Определение переменной `device` для работы с GPU или CPU.  

• Тензоры могут размещаться на центральном процессоре CPU или на графическом процессоре GPU.  

• Использование метода `device` для определения устройства тензора.  

• Перенос тензоров между устройствами с помощью методов `to` и `from`.  

• Настройка генератора случайных чисел для GPU с помощью функций `manual_seed()` и `manual_seed_all()`.  

• Отключение стохастического режима работы GPU для предсказу  

• Определение переменной `device` для определения поддержки графического процессора.  

• При создании тензоров параметр `device` присваивается соответствующему значению.  

• Результаты вычислений сохраняются на графическом процессоре, нет необходимости переносить данные.  

• Запуск программы показывает, что она работает корректно.  

• Изменение параметров `0` и `0` не влияет на результат.  

• Для маленькой нейронной сети выигрыш от использования GPU минимален, возможно, даже замедление работы из-за дополнительной копии тензоров.  

• Чем крупнее нейронная сеть, тем выше будет выигрыш от использования GPU.