МОЗГ ПРОТИВ НЕЙРОСЕТЕЙ. КТО УМНЕЕ? Семихатов, Сурдин, Марков

• Обсуждение семейной группы МТС и скидок на связь.  

• Упоминание о Луне как идеальной стартовой площадке.  

• Необходимость изготовления материалов на месте с помощью аддитивных технологий.  

• Роль инженерных знаний и искусственного интеллекта в этом процессе.  

• Первые упоминания термина в 1955 году в работах Джона Маккарти.  

• Дартмутский семинар 1956 года как место первого официального использования термина.  

• Искусственный интеллект как отрасль науки и технологии, занимающаяся автоматизацией интеллектуальных задач.  

• Примеры интеллектуальных задач: игра в крестики-нолики, сложение в уме.  

• Эффект Маккорда: снижение признания интеллектуальности задач при автоматизации.  

• Пример с шахматами и программой Deep Blue.  

• Мозг как сложнейшее электрохимическое устройство с огромным количеством нейронов и синапсов.  

• Сравнение вычислительных возможностей мозга и современных программ.  

• Физические процессы, лежащие в основе распознавания образов.  

• Интуитивные ходы в шахматах и их анализ.  

• Избыточное восприятие технического прогресса и его влияние на восприятие интеллекта.  

• Пример с игрой го и программой AlphaGo.  

• Возможность достижения новых высот в любой момент.  

• Программы магистратуры в Центральном университете для продвижения по карьере.  

• Программа для тех, кто уже имеет образование или опыт в дизайн-индустрии.  

• Обучение управленческим компетенциям и углублению навыков в продуктовом и коммуникационном дизайне.  

• Обучение в Москве у международных экспертов и преподавателей из МГУ и МФТИ.  

• Государственный диплом и помощь в стажировке и трудоустройстве.  

• Сильные студенты и опытные наставники создают вдохновляющую атмосферу.  

• Пример студентки, которая пришла в магистратуру для получения управленческих навыков.  

• Грант покрывает до 75% стоимости обучения на весь срок.  

• Для участия нужно пройти тестирование и собеседование.  

• ИИ — большая дисциплина с тривиальными и фронтирными задачами.  

• Обыватели часто ожидают от ИИ решения сложных задач, которые ещё не решены.  

• Гомеостат Росса-Эшби как первый прототип искусственных нейронных сетей.  

• Журналисты предсказывали, что машины заменят людей.  

• Человеческий мозг потребляет мало энергии и справляется с множеством задач.  

• Электроника пока уступает человеческому мозгу в некоторых аспектах.  

• Лимиты Бремермана и теорема Марголоса-Левитина ограничивают возможности вычислений.  

• Необходимость поиска новых физических субстратов для вычислений.  

• Задачи, связанные со свёртыванием белков и генеративной биохимией.  

• Экспоненциальный рост времени вычислений при увеличении размерности задачи.  

• Переход от детерминистских программ к машинному обучению.  

• Системы, которые учатся и могут выполнять задачи, не предусмотренные изначально.  

• Пример спичечного автомата, который учится играть в крестики-нолики.  

• Метод проб и ошибок как примитивный способ обучения.  

• Использование машинного обучения для расшифровки зашифрованных сообщений.  

• Применение в годы Второй мировой войны.  

• Использование одинаковых ключей для шифрования двух сообщений делает их уязвимыми для криптоанализа.  

• Операция «исключающее или» позволяет легко расшифровать сообщения, если они зашифрованы одним ключом.  

• Статистические аномалии в комбинациях сообщений могут быть использованы для обнаружения одинаковых ключей.  

• В начале 1940-х годов было разработано механическое устройство для перебора вариантов сообщений.  

• Устройство останавливалось при обнаружении пары сообщений с одинаковыми ключами по статистическим аномалиям.  

• Гомеостат состоит из блоков с электролитом и поплавком, которые изменяют сопротивление в цепи.  

• При отклонении стрелки более чем на 15 градусов срабатывает шаговый искатель, подставляя случайные резисторы.  

• Система адаптируется к возмущениям, сохраняя гомеостаз подобно биологическим системам.  

• Теория оптимизации позволяет подбирать параметры математической модели для минимизации целевой функции.  

• Нейронные сети используются для языкового моделирования и решения задач распознавания образов.  

• Первая искусственная нейронная сеть была описана в 1943 году.  

• Задача: система должна распознавать наличие котика на фотографии.  

• Фотографии преобразуются в наборы чисел, которые подставляются в формулу для распознавания.  

• Ошибка распознавания используется как обратная связь для настройки параметров системы.  

• Метод обратного распространения ошибки позволяет рассчитать градиент направления изменения параметров.  

• Оптимизация параметров ведётся в многомерном пространстве с учётом инерции и момента.  

• Задача машинного обучения сводится к поиску глобального оптимума в пространстве параметров.  

• Градиентный поиск иллюстрируется на примере астрономической обсерватории в Грузии.  

• Туман на горе создаёт препятствие для наблюдения за звёздами.  

• Метод градиентного поиска помогает найти оптимальное решение в сложных условиях.  

• Группа людей в тумане использует метод градиентного поиска для определения направления движения.  

• Они находят башню телескопа, следуя «самому крутому направлению».  

• Для успешного градиентного спуска поверхность должна быть гладкой, без разрывов и острых скал.  

• Человек и автоматизированные методы ищут оптимальную архитектуру нейронных сетей.  

• Возникают вопросы о выборе пороговых функций и моделировании человеческого мозга.  

• Нейроны обмениваются электрическими импульсами и выполняют операции над входами.  

• Каждый нейрон имеет входы и выходы, обрабатывая сигналы с учётом весов.  

• Фрейд в конце XIX века предположил существование контактных барьеров между нейронами.  

• Современные исследования выявили шесть молекулярных механизмов, влияющих на проходимость этих барьеров.  

• Цифровые машины сталкиваются с проблемой «бутылочного горлышка фон Неймана»: разделение хранения и обработки данных.  

• Видеокарты лучше справляются с задачами благодаря матричным вычислителям, но всё равно имеют ограничения.  

• Современные технологии не позволяют создавать трёхмерные вычислительные матрицы с эффективными элементами для отвода тепла.  

• Большие схемы требуют точных технологий и высокого процента брака.  

• Нейроморфные системы изучают альтернативы классическим электронным архитектурам.  

• Исследуются физические субстраты, которые могут заменить классическую электронику.  

• Человек решает многие задачи лучше, чем компьютеры, например, пишет стихи и рисует картины.  

• Компьютеры пока плохо справляются с задачами реального физического мира, такими как управление роботами.  

• Автоматические водители плохо справляются с незнакомыми ситуациями на дороге.  

• Пример с человеком на обочине показывает ограничения современных систем.  

• Нейроморфные системы могут эмулировать работу мозга на основе фон-неймановской архитектуры.  

• Большие языковые модели обучаются и способны выполнять различные задачи: разговаривать человеческим голосом, писать стихи, делать интонации, смеяться, шутить, понимать шутки, рисовать видео по заказу.  

• Возникает вопрос о сознательности и интеллекте таких систем.  

• Мозг можно описать набором математических операций, но сознание остаётся невычислимым.  

• Упоминается Роджер Пенроуз и его теория о невычислимости сознания.  

• Сознание возникло как результат эволюции социальных существ, которым необходимо предсказывать поведение других представителей своего вида.  

• Психическая модель другого существа замкнулась на себя, что привело к появлению представления о себе как о другом.  

• Эмоции важны для выживания, но субъективно испытываемые ощущения возникают только при наличии рефлексии и сознания.  

• Пример с Алисой показывает, что машины могут распознавать эмоции, но не могут их проявлять.  

• Обратная связь в машинах сравнивается с болью, но остаётся вопрос о возможности боли у машин.  

• Обсуждается проблема соотношения физических процессов в организме с субъективным мироощущением.  

• Сознание — эмерджентное свойство системы, а не отдельного элемента.  

• Большие языковые модели могут генерировать новые тексты, которых их не учили.  

• Язык представляет собой статистическую систему с закономерностями, которые можно анализировать.  

• Нейронные сети предсказывают вероятности следующих букв в тексте, а затем генерируют текст на основе этих вероятностей.  

• Блок внимания в трансформерных моделях имеет квадратичную вычислительную сложность от длины контекста.  

• Люди также используют механизм внимания, фокусируясь на опорных точках при переводе текста.  

• Машины могут генерировать грамматически правильные, но невозможные утверждения.  

• Они обосновывают свои ответы, как это делают студенты на экзамене.  

• любую интеллектуальную задачу можно представить в виде задачи продолжения текста.  

• Примеры задач: перевод слов, игра в шахматы, описание картинки, вождение автомобиля.  

• Реагирующее действие — это выход, например, необходимость нажать тормоз.  

• Мир можно представить как текст, которым можно управлять.  

• Человеческий мозг обрабатывает информацию в виде электрических сигналов.  

• Нейронные сети могут решать сложные задачи, основываясь на текстах.  

• Большие языковые модели обучаются на огромном корпусе текстов.  

• Они могут предсказывать следующее слово по предыдущему.  

• Модели способны генерировать осмысленные тексты.  

• Собирается весь интернет, удаляются дубликаты и мусор.  

• Объём корпуса текстов может достигать десятков терабайт.  

• Модель учится предсказывать следующее слово по предыдущему.  

• Пример: «шумел сурово брянский».  

• Модель может написать книгу.  

• Пример: «книга естественного интеллекта».  

• Система вырабатывает высокоуровневые абстракции для минимизации ошибки прогноза.  

• Аналогия с восприятием в мозге: от простых к сложным паттернам.  

• Модель может создавать новые тексты, не повторяя известные.  

• Настройка параметров генерации позволяет выбирать не всегда самые вероятные ответы.  

• Промт инжениринг позволяет управлять генерацией текстов.  

• Подсказки в левом контексте направляют внимание модели.  

• После предобучения на триллионах текстов модель дообучается на целевом корпусе.  

• Модель опирается на выученные абстракции и представления.  

• ИИ используется в вождении автомобилей, медицинских диагнозах и управлении ядерным оружием.  

• Поднимается вопрос о регулировании и ответственности при использовании ИИ.  

• Биологический мозг имеет ограничения по скорости обработки информации.  

• ИИ помогает компенсировать эти ограничения, расширяя возможности человеческого интеллекта.  

• Люди существуют в ограниченном диапазоне температур, ускорений и концентрации кислорода.  

• Подавляющее количество мест во Вселенной опасны для человека.  

• Сенсорные лимиты ограничивают способность человека обрабатывать информацию.  

• Некоторые интеллектуальные задачи люди не хотят решать.  

• Проблема масштабирования: необходимость колл-центров с тысячами операторов.  

• Важно правильно управлять новыми технологиями для их безопасного использования.  

• Технологии могут стать проводником воли других людей.  

• Пример с противопехотной миной иллюстрирует риски использования ИИ.  

• Необходимо стремиться к тому, чтобы технологии усиливали достоинства человека.  

• Люди часто боятся последствий своих действий, в отличие от компьютеров.  

• Цели для ИИ должны формулироваться человеком.  

• Эпоха быстрого технологического прогресса требует от людей человечности и ответственности.  

• Современные нейросети разрабатываются на основе готовых языков программирования и фреймворков.  

• Python популярен для разработки нейросетей, но высокопроизводительные вычисления происходят на другом уровне.  

• Алгоритмы принимают решения, влияющие на жизнь людей, например, при выдаче кредитов или анализе резюме.  

• Решения алгоритмов могут быть непрозрачными и не поддаваться проверке.  

• Отсутствие механизмов защиты прав в ситуациях с алгоритмами создаёт риски.  

• Судебный процесс между почтовой службой Великобритании и её сотрудниками показал дефекты учётной системы.  

• Ошибки алгоритмов привели к потере работы, судебным искам и разрушению судеб.  

• Медицинский излучатель ТЕРА-25 выдал смертельные дозы облучения пациентам.  

• Автоматизированные системы могут обеспечить более высокий уровень безопасности благодаря возможности многократных испытаний.  

• Пример с таксистом, который заснул за рулём, иллюстрирует риски, связанные с человеческими ошибками.  

• Машины с автоматическим управлением соблюдают правила лучше, чем люди.  

• Проблема переноса ответственности с человека на программу.  

• Социальные существа сталкиваются с трудностями в распределении ответственности.  

• Необходимо искать новые способы распределения ответственности в контексте использования ИИ.  

• Законодатели долго занимались вопросами безопасности транспорта.  

• Пример с лифтами: если лифт падает, важно определить виновного.  

• Существуют системы сертификации и регулярного обслуживания лифтов.  

• При возникновении опасной ситуации проверяют, были ли приняты необходимые меры.  

• Если меры не были приняты, ответственность ложится на виновного.  

• Искусственный интеллект становится частью нашей жизни.  

• Важно понимать ИИ, чтобы использовать его сознательно и квалифицированно.  

• Необходимо стремиться к использованию ИИ во благо.  

• Призыв ставить лайки и подписываться на канал.  

• Напоминание о важности внимания к своему и чужому интеллекту.  

• Прощание и пожелание всего доброго.