Сергей Марков: Перспективы AGI, RAG-боты, будущее AI-систем | Подкаст «Ноосфера» #102

• Прогресс в ИИ будет продолжаться, но не всегда будет выглядеть как революция.  

• Появятся более сложные агентные системы, способные выполнять множество действий.  

• ИИ сможет разбираться в физике, химии, биологии и математике.  

• Подкаст "На сферу" перешел рубеж в 100 выпусков и продолжает тему ИИ.  

• Гость подкаста - Сергей, научный администратор и популяризатор ИИ.  

• Сергей - специалист по машинному обучению, руководитель команды из 300 человек.  

• Занимается разработкой больших языковых моделей и других проектов в области ИИ.  

• Книга написана за шесть лет и охватывает историю и текущее состояние ИИ.  

• Книга предназначена для популяризации ИИ и объяснения его возможностей.  

• ChatGPT стал первым общедоступным сервисом, демонстрирующим возможности больших языковых моделей.  

• Релиз ChatGPT вызвал медийный шум и изменил восприятие ИИ среди широкой публики.  

• Прогресс в способности ИИ рассуждать был плавным, но значительным.  

• Современные модели могут строить логические цепочки рассуждений и интерактивные системы ИИ.  

• Быстрое мышление: мгновенное понимание и ответы.  

• Медленное мышление: размышления и анализ альтернатив.  

• Многие интеллектуальные задачи требуют медленного мышления.  

• Моделирование медленного мышления с помощью больших языковых моделей.  

• Моделирование цепочек рассуждений и графов.  

• Важность для интерактивного искусственного интеллекта.  

• Системы для многостадийных интеллектуальных задач.  

• Использование внешних инструментов и взаимодействие с другими моделями.  

• Примеры использования инструментов людьми для решения задач.  

• Использование калькулятора для вычислений.  

• Обращение к поисковым машинам для фактологических знаний.  

• Примеры сложных задач, требующих использования инструментов.  

• Обучение моделей на цифровом следе человечества.  

• Моделирование реального мира через тексты и видео.  

• Неточность моделей мира, как и у людей.  

• Использование моделей для предсказания результатов выборов.  

• Моделирование рассуждений людей разных социальных групп.  

• Сходство поведения цифровых двойников с реальным сообществом.  

• Возможность сознания в больших языковых моделях.  

• Эволюционный путь человека и его отличие от ИИ.  

• Философский характер вопроса о понимании моделей.  

• Проблема субъективной психологической реальности в ИИ.  

• Отсутствие потока времени и текущего состояния психики у моделей.  

• Модели как гигантские формулы для распределения вероятностей.  

• Модель не меняет свое внутреннее представление при общении с людьми.  

• Все веса модели остаются неизменными, в отличие от человеческого мозга.  

• Модель имеет аналог краткосрочной памяти, но не долгосрочной.  

• Важен момент замыкания модели на себя.  

• Социальные организмы моделируют поведение других для адаптации.  

• Модель не может отождествить себя с субъектом, так как не моделирует себя.  

• Для создания модели с сознанием требуется мультиагентное взаимодействие.  

• Это вычислительно дорого и требует значительных ресурсов.  

• Вопрос о том, как отличить симуляцию сознания от настоящего, остается сложным.  

• Вопрос о том, как отличить симуляцию сознания от настоящего, остается сложным.  

• Тест Тьюринга и другие методы могут помочь в этом.  

• Пока что мы далеки от создания универсального искусственного интеллекта.  

• Языковые модели часто генерируют ложную информацию.  

• Идея рега заключается в предоставлении генеративным моделям инструментов поиска.  

• Это позволяет комбинировать мощь поисковых моделей с генеративными.  

• Рег полезен для узко-доменных задач, таких как консультации в промышленности.  

• Модель может использовать техническую документацию для ответов на вопросы.  

• Важно правильно соединить генерацию ответов и фактологию для конкретной задачи.  

• Обсуждение перспектив развития нейронных сетей.  

• Разделение на инженерные и фундаментальные направления.  

• Примеры: автомель, сел флеинг, новые типы нейросетей.  

• Обсуждение сетей Колмогорова-Арнольда и их отличия от традиционных нейронных сетей.  

• Идея использования выучиваемых пороговых функций.  

• Сравнение с другими функциями активации, такими как в трансформерах.  

• Проблемы с устойчивостью и сложностью обучения больших моделей.  

• Необходимость осторожности в громких заявлениях.  

• Примеры успешных и неудачных экспериментов с сетями Колмогорова-Арнольда.  

• Важность развязывания "бутылочного горлышка" в нейронных сетях.  

• Примеры подходов, таких как микчеров экс-эксперт с.  

• Использование таких подходов в реальных проектах.  

• Поддержка неортодоксальных подходов и радикальных экспериментов.  

• Необходимость экстраординарных доказательств для громких заявлений.  

• Важность проверки результатов на публичных бенчмарках.  

• Обсуждение теории Анохина и её связи с машинным обучением.  

• Важность формулирования проверяемых последствий теории.  

• Призыв к экспериментальной проверке теоретических предсказаний.  

• Создание нейросети, которая сжимает изображения в компактное векторное представление.  

• Разделение нейросети на кодировщик и декодер для обучения на разных задачах.  

• Использование предобученного кодировщика для распознавания объектов и манипулирования изображениями.  

• Идея взята из работ Хинтона и других когнитивистов 70-х годов.  

• Когнитивисты показали, что человеческая память устроена иначе, чем компьютерная.  

• Нейрофизиологические данные 70-х годов стали основой для современного машинного обучения.  

• ИИ может помогать в создании новых теорий, например, переоткрытие закона всемирного тяготения.  

• Стивен Вольфрам использует язык для описания математики и физики, обучая большие лингвистические модели.  

• Вопрос о прогрессе в обучении ИИ на математических и физических языках.  

• В 20-х годах Гедель и Эрбран доказали неполноту формальных систем.  

• В 30-х годах развивались различные формальные системы, которые оказались эквивалентными.  

• Теоретически, все системы, включая естественный язык, эквивалентны и могут описывать любые задачи.  

• Проблема удобства описания задач в разных системах.  

• Формальные системы лучше определены и снимают проблему неопределенности.  

• Полезные абстракции, выученные на естественном языке, могут переноситься между системами.  

• Генерация гипотез возможна с помощью случайных источников, но большинство таких гипотез бессмысленны.  

• Наука работает с правдоподобными гипотезами, которые объясняют наблюдаемые факты и имеют проверяемые последствия.  

• В 50-х годах создавались системы, которые могли придумывать новые теоремы.  

• Генерация гипотез сталкивается с проблемой большого дерева возможностей.  

• Комбинаторный взрыв затрудняет анализ всех возможных вариантов.  

• Игры, такие как шахматы, служат хорошей моделью для решения этой проблемы.  

• AlphaGo использует две нейронки: полиси нетворк для генерации вероятностей ходов и нетворк для оценки позиций на глазок.  

• Метод Монте-Карло используется для генерации траекторий развития событий.  

• Модель изучает лишь небольшую долю альтернатив, но они оказываются правдоподобными и осмысленными.  

• Аналогично AlphaGo, большие языковые модели могут генерировать правдоподобные гипотезы.  

• Интуиция исследователей помогает им оценивать целесообразность гипотез.  

• Качество моделей мира внутри больших языковых моделей будет улучшаться, что повысит качество генерируемых гипотез.  

• Будущее ИИ включает расширение возможностей моделей и улучшение агентности и мультимодальности.  

• Прогресс будет продолжаться, но не достигнет уровня интеллектуального взрыва.  

• Появятся более сложные агентные системы, способные выполнять множество действий.  

• Машины будут работать с множественными источниками данных и делать множественные запросы.  

• Много людей работают над этим направлением, но многие заявления о достижениях в ближайшие годы могут быть маркетингом.  

• Термин "искусственный общий интеллект" был придуман Марком Гурудом в конце 90-х.  

• Это была теоретическая концепция для отличия специализированных систем ИИ от универсальных.  

• Определение "общего" ИИ вызывает вопросы: какие задачи считаются посильными для людей и в каких условиях?  

• Некоторые исследователи, как Сэм Альтман, переопределяют ИИ, чтобы избежать критики.  

• Люди будут решать многие задачи эффективнее, чем большие модели, и это займет много времени.  

• Ожидания по поводу быстрого прогресса в ИИ могут быть завышены, но реальный прогресс будет значительным.  

• ИИ изменит мир, создавая новые продукты, сервисы и индустрии.  

• Важно использовать технологии для позитивных изменений, а не для разрушения.  

• Будущее ИИ зависит от нашего взаимодействия и ответственности.  

• Благодарность участникам за участие в подкасте.  

• Призыв подписываться на подкаст и смотреть новые выпуски.