Глубинное обучение, 2018. ФКН ВШЭ. Лекция 9: Дифференцируемое программирование

• 00:00:12

  Введение

  • • В видео рассказывается о курсе по дифференцированию программирования в нейросетях. 

• 00:00:24

  Мотивация

  • • Встраивание алгоритмов в нейросети позволяет использовать сложные архитектуры и переносить их на другие задачи. 

  • • Это также позволяет комбинировать существующие методы и нейросети для решения сложных задач. 

• 00:04:55

  Первый алгоритм

  • • В примере рассматривается задача распознавания последовательности рукописных символов. 

  • • Можно использовать нейросеть с пулингом для выбора символов и обучения с помощью стохастической оптимизации. 

• 00:07:11

  Структурный пулинг

  • • Структурный пулинг - это ситуация, когда внутри сети используется комбинаторная оптимизация для выбора элементов. 

  • • Это позволяет использовать сложные алгоритмы и не запускать их на проходе назад при обучении. 

• 00:08:11

  Заключение

  • • Видео завершается обсуждением важности конкретных позиций, которые алгоритм выбрал, а не самого алгоритма. 

• 00:11:15

  Пример использования динамического программирования

  • • В видео приводится пример использования динамического программирования для обучения модели, которая учитывает структуру. 

  • • Модель состоит из унарных и парных потенциалов, которые оценивают качество меток и структуру соответственно. 

• 00:16:15

  Заключение

  • • В видео подчеркивается важность понимания динамического программирования и его применения для обучения нейронных сетей. 

• 00:27:00

  Структурный софт макс

  • • Структурный софт макс - это метод, который использует структурный софт макс для оптимизации функций потерь. 

  • • Проблема заключается в вычислении нормировочной константы, которая является суммой по всем возможным конфигурациям. 

• 00:28:03

  Обучение с использованием структурного пулинга и структурного софт макса

  • • Обучение с использованием структурного пулинга и структурного софт макса позволяет оптимизировать функции потерь, которые содержат структурные слагаемые. 

  • • Алгоритм обучения состоит из прохода вперед, вычисления функции потерь и прохода назад. 

• 00:30:34

  Введение

  • • В видео обсуждается алгоритм динамического программирования, который используется для решения задачи суммирования. 

  • • Алгоритм основан на экспоненте и факторах произведения, которые являются суммами и произведениями парных и унарных факторов. 

• 00:31:55

  Реализация алгоритма

  • • Алгоритм динамического программирования состоит из функций Белмана, которые содержат суммы произведений факторов. 

  • • Функция Белмана вычисляется рекурсивно, и после вычисления всех функций можно получить ответ, суммируя их в последней позиции. 

• 00:34:20

  Обучение моделей

  • • Алгоритм может быть использован для обучения моделей по методу максимального правдоподобия. 

  • • В видео также упоминается вариационный вывод, который используется для приближения сложного распределения простым. 

• 00:36:03

  Применение алгоритма

  • • Алгоритм успешно применяется в задачах сегментации изображений, где используются полно связные сверточные сети. 

  • • Добавление структурной компоненты к модели улучшает сегментацию, выделяя тонкие структуры. 

• 00:37:52

  Дифференцирование по входу алгоритма

  • • В видео обсуждается возможность дифференцирования алгоритма по входу, что позволяет использовать его в приложениях, где сложно определить критерии остановки. 

• 00:39:51

  Пример использования алгоритма дифференцирования

  • • В качестве примера рассматривается задача распознавания рукописных символов, где используется гауссовская мрф (каусовская серое случайное поле). 

  • • Задача состоит в поиске максимума квадратичной формы, а алгоритм дифференцирования используется для вычисления градиентов функции потерь по параметрам модели. 

• 00:48:01

  Заключение

  • • В заключение видео автор подчеркивает, что алгоритмы дифференцирования могут быть использованы для улучшения работы моделей машинного обучения. 

  • • Также обсуждаются другие сложные операции, в которых используются энергетические формулы. 

• 00:48:05

  Дифференцируемое программирование

  • • В видео обсуждается метод дифференцирования выхода алгоритма, который позволяет оптимизировать алгоритмы с помощью нейросети. 

  • • Этот метод был разработан в 2019 году и позволяет дифференцировать дискретные алгоритмы. 

• 00:49:39

  Три способа дифференцированного программирования

  • • В видео рассматриваются три способа дифференцированного программирования: структурное пуллинг, разворачивание итерации алгоритма в слои нейросети и прямое аналитическое дифференцирование выхода алгоритма по входу. 

  • • Каждый из этих способов имеет свои преимущества и недостатки, но в целом они позволяют оптимизировать алгоритмы с помощью нейросети. 

• 00:52:29

  Зачем встраивать алгоритмы в нейросети

  • • Встраивание алгоритмов в нейросети позволяет расширить библиотеку слоев и использовать продвинутые наработки в области линейной алгебры и машинного обучения. 

  • • Использование алгоритмов также позволяет использовать знания о задаче для улучшения архитектуры нейросети.