Ян ЛеКун "Математические препятствия на пути к искусственному интеллекту человеческого уровня"

• Приветствие от Брайана Кроу, президента AMS.  

• Лекция названа в честь Джосайи Уилларда Гиббса, физика-математика.  

• Гиббс — один из основателей статистической механики и векторного исчисления.  

• Ян Лакун — профессор компьютерных наук, науки о данных, нейробиологии и других областей.  

• Известен работами в области компьютерного зрения и глубокого обучения.  

• Разработал формат DJVU и получил множество наград, включая премию Touring Award в 2018 году.  

• Обсуждение возможности создания ИИ человеческого уровня в ближайшие десятилетия.  

• Оптимистичные оценки и скептицизм относительно сроков достижения цели.  

• Важность ИИ для повседневной жизни: умные очки, голосовое управление и другие устройства.  

• Неэффективность машинного обучения по сравнению с людьми и животными.  

• Контролируемое обучение: система корректирует параметры на основе сравнения с желаемым результатом.  

• Обучение с подкреплением: система получает обратную связь без указания правильного ответа.  

• Самообучение произвело революцию в ИИ, но его возможности ограничены.  

• Большие языковые модели и чат-боты используют самообучение.  

• Животные и люди быстро осваивают новые задачи и имеют здравый смысл.  

• Авторегрессионные модели предсказывают следующее слово или символ в последовательности.  

• Система обучается воспроизводить входные данные на выходе.  

• Минимизация расхождения между входной и выходной последовательностями с помощью градиентной оптимизации.  

• Авторегрессионное прогнозирование хорошо работает при больших объёмах данных.  

• Проблема дивергентного процесса: множество возможных последовательностей символов.  

• Поддерево правильных ответов составляет лишь крошечное подмножество гигантского дерева возможных последовательностей.  

• Вероятность ошибки при создании символа увеличивается экспоненциально с ростом количества символов.  

• Авторегрессионные LLM обречены из-за невозможности исправления ошибок.  

• Необходимость поиска альтернативных подходов к созданию ИИ.  

• Обучение больших языковых моделей на больших наборах данных не приведёт к ИИ человеческого уровня.  

• Даже кошки обладают удивительным пониманием физического мира, которое сложно воспроизвести.  

• Десятилетний ребёнок может выполнять задачи с первого раза благодаря хорошей ментальной модели мира.  

• 17-летний подросток может научиться водить машину за 20 часов практики.  

• Современные системы ИИ не могут создать самоуправляемые автомобили пятого уровня.  

• Задачи, сложные для человека, например, вычисление интеграла или игра в шахматы, компьютеры решают лучше.  

• Человеческий интеллект специализирован, а не универсален.  

• Современный компьютер обучается на 20 триллионах символов, что эквивалентно 10^14 байт.  

• Четырёхлетний ребёнок получает больше информации через зрение, осязание и слух, чем все тексты, когда-либо созданные людьми.  

• Младенцы усваивают базовые знания о мире через наблюдение и взаимодействие.  

• Они понимают постоянство объектов, стабильность и интуитивную физику.  

• Для достижения ИИ человеческого уровня нужны системы, способные изучать модели мира на основе наблюдений.  

• AMI должен обладать постоянной памятью, способностью планировать действия и рассуждать.  

• Текущие LLM и нейронные сети ограничивают возможности логического вывода фиксированным количеством слоёв.  

• Оптимизация может улучшить логический вывод, позволяя системам искать решения среди множества возможных вариантов.  

• Вторая система в психологии отвечает за сознательные и планируемые действия, такие как создание чего-то нового или доказательство теоремы.  

• Системы ИИ должны быть способны использовать вторую систему для решения сложных задач.  

• Модель вычисляет скалярное число, измеряющее степень несовместимости между входным сигналом x и возможным выходным сигналом y.  

• Логический вывод выполняется путём минимизации этой энергии.  

• Энергетическая функция f приближает понятие Гиббса.  

• Моделирование зависимости между переменными с помощью энергетической функции более общее, чем изучение функции от x до y.  

• Существует множество y, совместимых с x, например, множество способов перевода с английского на французский.  

• Не существует единого правильного вывода, речь идёт о неявных функциях.  

• Диаграмма внутренней структуры энергетической функции включает круглые формы для переменных и прямоугольники для целевых функций.  

• Модули представляют детерминированные функции, например, нейронную сеть.  

• Целевые функции измеряют степень выполнения задачи и наличие ограждений для предотвращения опасных действий.  

• Модель мира предсказывает результат выполнения последовательности действий.  

• Градиентный спуск используется для нахождения последовательности действий, минимизирующей достижение целей.  

• Система выполняет логический вывод посредством оптимизации.  

• Классический подход к оптимальному управлению включает модель мира и последовательность действий.  

• Пример с ракетой и космической станцией иллюстрирует использование динамической модели и функции затрат.  

• Модель предпланетного управления широко используется в робототехнике.  

• Скрытые переменные представляют неизвестную информацию о мире.  

• Планирование в условиях неопределённости требует учёта скрытых переменных.  

• Проблема иерархического планирования остаётся нерешённой для систем ИИ.  

• Иерархическое планирование позволяет планировать действия на разных уровнях абстракции.  

• Пример поездки в Париж иллюстрирует необходимость планирования на высоком и низком уровнях.  

• Системы ИИ не могут автоматически выполнять иерархическое планирование.  

• Когнитивная архитектура включает модель для подражания, целевые функции, актёра и модуль восприятия.  

• Автор предлагает направления для исследований в области ИИ.  

• LLM не являются решением для создания ИИ человеческого уровня.  

• Авторегрессионное прогнозирование видео не работает из-за сложности представления функций плотности вероятности в многомерном непрерывном пространстве.  

• Нормализация энергетических функций оказывается трудно  

• GEPA — это совместная встраиваемая прогностическая архитектура.  

• В генеративных архитектурах минимизируется ошибка прогнозирования.  

• GEPA обрабатывает x и y с помощью кодировщиков, которые вычисляют абстрактное представление.  

• Кодировщики вычисляют представление x и y.  

• Прогноз выполняется в пространстве представления.  

• Архитектура GEPA исключает непредсказуемые детали из представления.  

• Система предсказывает события на видео, исключая детали, которые невозможно предсказать.  

• Пример: система не предсказывает текстуру пола и стен.  

• GEPA эффективнее генеративных архитектур.  

• Предлагается отказаться от генеративных архитектур в пользу GEPA.  

• Обучение GEPA включает изучение энергетической функции.  

• Проблема коллапса: энергетическая функция может стать плоской.  

• Контрастивные методы: генерация контрастных образцов для увеличения их энергии.  

• Регуляризованные методы: минимизация объёма пространства с низкой энергоёмкостью.  

• Преобразование энергетической функции в распределение вероятностей.  

• Неразрешимость функции разделения требует использования приближений.  

• Методы успешно применяются для предварительной подготовки зрительной системы.  

• Примеры: модель CLIP от OpenAI.  

• Регуляризация предотвращает коллапс системы.  

• Оценка информационного содержания и минимизация его объёма.  

• Контрастивные методы делают векторы из кодера разными.  

• Нормализация векторов для заполнения пространства.  

• Для эффективного построения измерений требуется большое количество строк.  

• При небольшом количестве строк легко создать случайные векторы, указывающие ортогональные направления.  

• Методы построения измерений работают лучше при небольшом количестве строк относительно размера матрицы.  

• VIRAG означает дисперсию в дисперсии, ковариационную регуляризацию.  

• Идея метода: максимизация дисперсии каждой переменной и минимизация недиагональных членов ковариационной матрицы.  

• Цель — декоррелировать переменные и сделать столбцы матрицы представления ортогональными.  

• При определённых условиях VIRAG делает переменные попарно независимыми.  

• Минимизация информационного содержания переменной достигается через максимизацию энтропии распределения.  

• Изменение свободной энергии используется для минимизации информационного содержания.  

• VIRAG применяется для поиска коэффициентов PDE через пространственно-временное решение.  

• Система обучается создавать идентичные представления двух окон решения.  

• Общее для разных окон решения — это коэффициенты PDE.  

• Методы, основанные на дистилляции, хорошо работают, но теоретически менее обоснованы.  

• Минимизация функции, которая не минимизируется с помощью сетки и спуска, создаёт проблемы.  

• Эти методы используются для самостоятельного изучения особенностей изображений.  

• IGEPA хорошо справляется с изучением представлений изображений.  

• Видео JAPA использует маскирование фрагментов видео для обучения нейронной сети.  

• Системы могут классифицировать действия в видео и выполнять подобные действия.  

• Системы реагируют на физически невозможные события, например, исчезновение объекта или самопроизвольное изменение формы.  

• Это позволяет системам усвоить простую форму здравого смысла.  

• Система управляет манипулятором робота, достигая конкретной цели.  

• Обучение кодировщика и ролевой модели позволяет предсказывать результирующий эффект действий.  

• Модель мира используется для планирования последовательности действий.  

• Отказ от генеративных моделей в пользу архитектур совместного встраивания.  

• Предпочтение моделей, основанных на энергии, вероятностным моделям.  

• Использование регуляризованных методов вместо коактивных.  

• Важность моделей производственного контроля и планирования.  

• Решение проблем в течение следующего десятилетия может привести к созданию интеллектуальных систем, способных планировать и рассуждать.  

• Использование платформ с открытым исходным кодом — ключ к успеху в развитии ИИ.  

• Успех в развитии ИИ может сделать его мощным усилителем человеческого интеллекта.