[Коллоквиум] Стохастическая аппроксимация, современный взгляд (Александр Гасников)

• Докладчик представляет обзор основных результатов в области стахастической аппроксимации, включая результаты по оценке мат ожидания и градиента функции.  

• Обсуждаются условия, при которых можно получить нижние оценки для градиента функции.  

• Докладчик переходит к обсуждению математики, которая ему интересна в этой проблематике.  

• Обсуждаются результаты, полученные Вудворсом из ребра, и их применение в стахастической аппроксимации.  

• Докладчик объясняет, как можно улучшить эти результаты, и обсуждает условия, при которых они верны.  

• В видео обсуждается неравенство, которое является оптимальным для метода оптимизации.  

• Автор объясняет, что это неравенство не является грубым, и если есть сильная выпуклость, то можно разделить на мю.  

• Автор также упоминает, что этот подход был получен в 2020 году и является результатом работы в области оптимизации.  

• Автор приводит еще один результат, который показывает, что первое слагаемое может быть убито числом и операцией, стремящейся к плюс бесконечности.  

• Он также объясняет, что если дисперсия равна нулю, то первое слагаемое будет равно нулю.  

• Автор подчеркивает, что эти результаты не могут быть улучшены, но могут быть улучшены в деталях.  

• Он также упоминает, что линейная сходимость имеет место до определенной окрестности, и что для правильного схождения метода необходимо изменить сам метод.  

• В видео обсуждается, как константа Липшица и другие параметры влияют на сходимость стахастической выпуклой оптимизации.  

• Обсуждается, как эти параметры могут быть заменены на дисперсию и корреляционную матрицу.  

• В видео предлагается уточнение результатов, основанное на использовании корреляционной матрицы вместо дисперсии.  

• Обсуждаются работы Руперта, Юдицкого и других ученых, которые внесли вклад в эту область.  

• В видео обсуждаются оценки максимального правдоподобия и их связь с результатами стахастической выпуклой оптимизации.  

• Автор предлагает формулу для оценки максимального правдоподобия, которая учитывает корреляционную матрицу и объем выборки.  

• В видео обсуждается оценка минимальной дисперсии, которая получается из принципа максимума правдоподобия.  

• Эта оценка может быть получена из простой процедуры, которая доступна для вычисления и может быть остановлена в любой момент.  

• В видео сравниваются оценки максимального правдоподобия и оценки минимальной дисперсии.  

• Оказывается, что оценка максимального правдоподобия является частным случаем оценки минимальной дисперсии, полученной из принципа максимума правдоподобия.  

• В видео упоминается работа полика-Юдитского, которая получила более тонкую оценку, сравнивая мат ожидания с усредненной траекторией в квадрате.  

• Эта поправка учитывает гладкость функции и другие характеристики.  

• В видео обсуждается переход к сходимости по аргументу, что приводит к оценке, которая делится на мю.  

• В результате получается оценка, которая имеет порядок ню в квадрате н.  

• Обсуждается оценка параметра и сходимость в методе полика Юдитского Руперта.  

• Упоминается работа Майкла Джордана и его коллег, которые доказали, что оценка не может быть улучшена.  

• Вводится неравенство Рау-Крамера, которое позволяет улучшить сходимость.  

• Упоминаются работы Цыпкина и его коллег, которые предложили процедуру улучшения сходимости.  

• Обсуждаются результаты на уклонение и большие уклонения, которые часто содержат лишние логарифмы.  

• Упоминается статья Майкла Джордана и его коллег о линейной стохастической аппроксимации, где они сделали только квадратичную ошибку.  

• В видео обсуждается оптимальная оценка и дисперсия для случайных векторов.  

• Показано, что если использовать предобуславливание, то можно получить более точную оценку, чем с помощью неравенств Рао-Крамера.  

• Автор объясняет, что его заинтересовала эта тема из-за возможности найти единомышленников и обсудить доказательства.  

• Обсуждается использование псевдоградиентных методов и условия сходимости.  

• Показано, что процедура клипирования может быть использована для получения интересных результатов даже при тяжелых хвостах распределения.  

• В 2019 году Бартлет и Джордан получили результат, что если у сто градиента есть соответствующий момент, то оценка для скорости сходимости процедуры будет иметь нижнюю оценку.  

• Этот результат не улучшаем, но может быть разрушен, если альфа стремится к нулю.  

• Можно рассмотреть седловые точки и условия минимума, а также динамику типа икс к плюс один равняется икс к минус.  

• Показано, что оператор, который мы здесь писали, имеет сжимающий оператор.  

• Гипотеза: все, что я сейчас рассказывал, можно перенести на силовые задачи и получить интересные результаты.  

• Можно выбирать параметрическое семейство функций и до конца анализировать и рассчитывать результаты.  

• Современная сток- оптимизация дошла до того, что можно аналитически искать функцию липунова и квадратичную функцию.  

• Это позволяет делать локальные результаты и надеяться на глобальные исследования методов с точки зрения глобальной сходимости.  

• Обсуждается оценка для рабасной оптимизации, которая показывает, что при определенных условиях можно достичь лучших результатов, чем при использовании других алгоритмов.  

• Упоминается, что эти оценки могут быть получены с помощью полиномиально эффективного алгоритма, который является конструктивным и соответствует нижним оценкам.  

• Автор упоминает, что такие же оценки были получены в других работах, но с использованием разных подходов и предположений.  

• Обсуждается возможность улучшения оценок при использовании предобуславливания и обсуждаются условия, при которых это возможно.  

• Автор подчеркивает, что результаты, полученные в этой работе, могут быть использованы для разработки эффективных алгоритмов, не основанных на точных функциях липунова или синтетических оценках.  

• Обсуждаются возможности обобщения результатов на задачи с ограничениями и проекции, а также возможность использования этих результатов для решения классических задач оптимизации.  

• В видео обсуждаются результаты мат статистики, которые имеют фундаментальное значение для статистики и стохастической оптимизации.  

• Важным результатом является теорема о свойствах оценки максимального правдоподобия и программа Фишера, которая до конца не была реализована.  

• Обсуждается проблема равномерно минимальной дисперсии для процедур стохастической оптимизации.  

• В 1970-х годах были опубликованы статьи, которые не были замечены и забыты.  

• В видео говорится о конкуренции в области стохастической оптимизации и новых подходах, которые могут быть интересными.  

• Важность изучения работ 1970-х годов подчеркивается.  

• Обсуждаются методы тайм-скеллинга и седловые точки в стохастической оптимизации.  

• Упоминается, что в некоторых случаях можно использовать разномасштабный тайм-скеллинг для выравнивания обусловленности.