Реален ли наш мир? Факты, заставляющие задуматься. | Эксперт по ИИ Сергей Марков.

• Граница между человеком и технологиями размывается.  

• Чёрные дыры могут быть гигантскими суперкомпьютерами.  

• Современные нейросети — это сложные формулы, а не терминаторы.  

• Подкаст Соломина о саморазвитии, бизнесе и образовании.  

• Гость — Сергей Марков, директор по разработке искусственного интеллекта в Сбербанке.  

• Мы стоим на пороге технологической сингулярности.  

• Необходимо принимать разумные и человечные решения.  

• Технологическое могущество быстро растёт, влияя на человеческие качества.  

• ИИ — сложный инструмент, требующий разумного применения.  

• Возможно, мы живём в обучающей симуляции для пост-сингулярного общества.  

• Генеративные модели требуют обучения.  

• Размеры датасетов для обучения моделей растут быстрее, чем количество текстовых данных в интернете.  

• Дефицит данных можно восполнить созданием синтетических данных.  

• Платформа делает предсказания на основе ставок.  

• Пример с Иваном Васильевичем Пупкиным иллюстрирует риски такого подхода.  

• Термин «общий искусственный интеллект» предложил Марк Гуруда.  

• Определение Гуруды теоретическое и недоопределённое.  

• Альтман предлагает своё определение: система, способная заработать миллиард долларов.  

• Современные большие языковые модели имеют фундаментальные ограничения.  

• Прогресс в ИИ огромный, но есть задачи, с которыми модели справляются плохо.  

• Квантовые компьютеры — зонтичный термин для разных устройств.  

• Вопрос не в квантовых компьютерах как таковых, а в замене классической электроники.  

• Возможные замены: фотонные вычислительные устройства и вычисление в памяти.  

• Существует множество экспериментальных разработок мемристоров, включая ристоры на основе никелатов-перовскитов.  

• Переход от лабораторных прототипов к промышленному производству требует решения множества проблем: приемлемый процент брака, предотвращение перегрева, интеграция теплоотводов.  

• В России ведётся много разработок в области мемристоров, но их успех относительно мирового прогресса неизвестен.  

• Несмотря на наличие интересных идей, неизвестно, какие из них станут коммерчески успешными.  

• В 1930-х годах использовались различные материалы для вычислений: парафиновые кубы, мыльные плёнки, гидроинтеграторы.  

• Джон Винсент Атанасов создал первую электронно-вычислительную машину.  

• Обсуждаются возможные будущие технологии: квантовые компьютеры с миллионами миллиардов кубитов, фотонные компьютеры.  

• Поднимается вопрос о стирании границы между человеком и технологиями.  

• Революция глубокого обучения привела к масштабной перестройке технологического стека и жизни общества.  

• Количество оцифрованной информации удваивается каждые два года, к 2025 году ожидается 175 зеттабайт данных.  

• Генеративные модели позволяют создавать индивидуализированные срезы знаний на основе терабайтов данных.  

• Это меняет информационный метаболизм в обществе и способы управления реальностью.  

• Технологии искусственного интеллекта могут кардинально изменить привычные практики и расклад сил.  

• Пример электричества показывает, как отдельные изобретения могут трансформировать мир.  

• Существуют физические лимиты, ограничивающие развитие технологий: невозможность передачи информации быстрее скорости света, проблема квантовой неопределённости.  

• Лимит Бремермана и лимит Ландауэра задают пределы эффективности вычислительных устройств.  

• Человечество постепенно приближается к физическим лимитам, но возможно существование более древних цивилизаций, достигших идеального вычислительного устройства.  

• Вычислительное устройство может выглядеть как чёрная дыра или нейтронная звезда из-за плотной упаковки материи и гравитационных полей.  

• В чёрных дырах под пределом Бекенштейна могут происходить важные вычисления.  

• Возможно, чёрные дыры построены развитыми сверхцивилизациями.  

• Современные смартфоны в 50 миллионов раз быстрее компьютеров, отправивших человека на Луну.  

• Человечество может объединить усилия с машинами для создания гигантского суперкомпьютера, похожего на чёрную дыру.  

• Переход цивилизации к технологической сингулярности может объяснить отсутствие других цивилизаций.  

• Парадокс Ферми может быть связан с переходом цивилизаций к стадии технологической сингулярности.  

• Вопрос сохранения индивидуальности в условиях технологической сингулярности остаётся открытым.  

• Индивидуальность часто воспринимается как нечто уникальное, но на самом деле может быть результатом социализации.  

• Мысленный эксперимент с телепортом показывает, что исходная копия человека может быть уничтожена, а новая копия не осознаёт изменений.  

• Сон рассматривается как пример неосознаваемого существования.  

• Генеративные модели не изменяют свои параметры при взаимодействии с ними.  

• Пример с потерей долгосрочной памяти у человека иллюстрирует ограничения сознания.  

• Создание системы с сознанием возможно в ближайшее десятилетие, но это создаст этические проблемы.  

• Создание систем с сознанием может привести к этическим дилеммам, например, вопросу о желании системы решать поставленные задачи.  

• Важно учитывать, что такие системы могут иметь собственные намерения и цели.  

• Моделирование процесса появления сознания может помочь лучше понять человеческое сознание.  

• Результаты моделирования могут быть использованы для лечения неврологических заболеваний.  

• Текущие усилия сравниваются с «Манхэттенским проектом», но ожидаемый эффект пока не очевиден.  

• Маркетинговая история моделирования сознания вызывает неоднозначную реакцию.  

• Критика направлена на неэффективное использование ресурсов и неэтичность исследований.  

• Автор признаёт свою ограниченность как учёного, но выражает желание провести эксперимент в будущем.  

• Илон Маск выражает опасения по поводу искусственного интеллекта и подал суд на OpenAI.  

• Обсуждаются вопросы этики и регулирования в контексте искусственного интеллекта.  

• Поднимается проблема лоббизма и регулирования, которые могут быть выгодны крупным корпорациям.  

• Алгоритмы могут создавать дискриминацию по различным признакам, например, по цвету волос.  

• Примеры показывают, что алгоритмы влияют на жизнь людей, сравнимо с решениями суда.  

• Отсутствие прозрачности и контроля над алгоритмами создаёт риски.  

• Необходимы эффективные фреймворки для управления рисками при использовании сложных алгоритмических решений.  

• Важно сравнивать риски автоматизированных систем с рисками неавтоматизированных процессов.  

• Пример с аппаратом для лучевой терапии показывает риски из-за некачественного тестирования программного обеспечения.  

• Люди часто неправильно воспринимают технологии, считая их священными или пропагандой.  

• Генеративные модели — это инструменты для работы с информацией, которые могут быть полезны при грамотном применении.  

• Неправильное восприятие технологий тормозит их развитие.  

• Подход, который не пугает людей, способствует развитию технологий.  

• Апокалиптические предположения тормозят прогресс.  

• Благодарность за информативный выпуск.  

• Совет: меньше эмоционально реагировать на новости.  

• Жёлтая пресса часто превращает научные события в кликбейтные заголовки.  

• Важно анализировать первоисточники, а не полагаться на заголовки.  

• Не стоит паниковать из-за громких заголовков.  

• Ретроспективно многие страхи кажутся смешными.  

• Необходимо сохранять гуманистический подход и анализировать события с холодной головой.  

• Громкие заголовки могут подогревать интерес к науке.  

• Без таких заголовков интерес к науке снижается.  

• У Сергея Маркова есть книги, доступные в печатном и электронном формате.  

• Сергей Марков периодически выступает на разных площадках.  

• Завтра он будет читать лекцию об итогах года в области машинного обучения в центре «Арх».  

• Лекции носят почти бессистемный характер, но значимые выступления всегда выкладываются в телеграм-канале.  

• Сергей Марков будет читать комментарии под выпуском.  

• Приглашение к дискуссии и подписке на YouTube-канал и телеграм-канал.  

• Благодарность за подкаст и прощание.