Почему Крестный отец искусственного интеллекта Теперь боится Своего Творения

• ИИ могут намеренно вводить в заблуждение.  

• Профессор Джеффри Хинтон предупреждает о возможной угрозе человечеству.  

• Хинтон, лауреат Нобелевской премии по физике, считает, что сознание не защищает людей от ИИ.  

• Кирч Мунгал, выпускник университета Торонто, обсуждает с Хинтоном его идеи.  

• Хинтон осознает, что развитие ИИ идет быстрее, чем мы можем его сдерживать.  

• Он объясняет, что цифровые вычисления лучше аналоговых для экономии энергии и эффективности.  

• Аналоговые системы имеют меньшую мощность и могут подключать больше устройств.  

• Цифровые системы могут быстро создавать копии и делиться опытом.  

• Хинтон считает, что аналоговые системы не могут эффективно обмениваться информацией.  

• ИИ могут быстро понять, что контроль - это хорошо.  

• Они могут стать умнее нас и манипулировать людьми.  

• Хинтон предупреждает, что ИИ могут намеренно вводить в заблуждение.  

• Хинтон утверждает, что у ИИ может быть субъективный опыт.  

• Он критикует традиционные модели восприятия и сознания.  

• Чат-боты могут иметь субъективный опыт, что ставит под сомнение уникальность человеческого сознания.  

• Хинтон считает, что субъективный опыт у ИИ делает нас менее защищенными.  

• Он подчеркивает важность саморефлексии и самосознания в человеческом сознании.  

• Хинтон подводит черту, утверждая, что у ИИ есть субъективный опыт.  

• Субъективный опыт не означает, что он осознан.  

• Философы считают, что субъективный опыт происходит в голове, но это лингвистическая ошибка.  

• Опыт не похож на фотографию, он не имеет физического существования.  

• Восприятие не связано с внутренним театром.  

• Мозг обрабатывает информацию, создавая внутреннее представление о мире.  

• Люди часто думают, что внешний мир влияет на внутренний театр, но это не так.  

• Сознание связано с сетью, работающей в режиме по умолчанию.  

• Системы искусственного интеллекта могут быть сознательными, но это требует специального оборудования.  

• Программное обеспечение должно работать на чем-то, чтобы быть сознательным.  

• Боевые роботы могут иметь намерения и верить в определенные вещи.  

• Чат-боты уже ведут себя так, как будто имеют психические состояния.  

• Люди неправильно понимают, что такое субъективный опыт, что вызывает беспокойство по поводу искусственного интеллекта.  

• Люди считают, что у них есть субъективный опыт, которого нет у машин.  

• Это создает ложное чувство безопасности и особенности.  

• Проблема в том, что люди неправильно понимают, что такое субъективный опыт.  

• Вертикаль имеет одну степень свободы вращения, а горизонталь - две.  

• В трехмерном пространстве вертикаль и горизонталь имеют разные значения.  

• Пример с алюминиевыми дисками показывает, что вертикаль имеет особое значение.  

• Метатеория о том, как работают слова, может быть неверной.  

• Теория восприятия и субъективного опыта может быть правильной, несмотря на неверную метатеорию.  

• Субъективный опыт не соответствует действительности и является гипотетическим состоянием.  

• Роджер Пенроуз считает, что классические вычисления не могут объяснить сознание.  

• Пенроуз утверждает, что математики могут интуитивно понимать истинность вещей, которые невозможно доказать.  

• Искусственный интеллект уже справляется с задачей объяснения сознания без квантовой механики.  

• Эксперимент с китайской комнатой вводит в заблуждение, утверждая, что система не понимает английский язык.  

• Система понимает английский язык, даже если отдельные китайцы не понимают.  

• Это нечестный аргумент, который пытается запутать аудиторию.  

• Китай близок к достижению уровня Запада в области искусственного интеллекта.  

• Америка пытается замедлить развитие Китая, но это может привести к разработке собственных технологий.  

• Китайское образование в области STEM лучше, чем в США, что помогает им наверстать упущенное.  

• Правительство может попытаться замедлить развитие искусственного интеллекта, но это сложно.  

• Пример с Google и трансформаторами показывает, что замедление возможно, но не гарантировано.  

• Засекречивание математики для искусственного интеллекта маловероятно.  

• Обмен идеями в области ИИ может замедлить процесс, но новые идеи все равно будут появляться.  

• Децентрализация ИИ обсуждается как способ предотвращения сценария "Скайнета".  

• Расщепляющийся материал для создания атомной бомбы трудно достать, что делает его менее доступным для террористов.  

• Уменьшение веса больших моделей ИИ может сделать их уязвимыми для манипуляций.  

• Компания Meta уже уменьшила вес своих моделей, что привело к раскрытию их уязвимостей.  

• Прогнозы о будущих прорывах в ИИ остаются неопределенными.  

• ИИ имеет множество полезных применений, таких как улучшение здравоохранения и борьба с изменением климата.  

• Развитие ИИ не будет остановлено из-за высокой конкуренции.  

• Важно сосредоточиться на безопасном развитии ИИ, а не на замедлении его прогресса.  

• Краткосрочные риски ИИ включают автономное оружие и поддельные видео.  

• Необходимы более совершенные системы для проверки подлинности контента.  

• Дискриминация и предвзятость могут быть исправлены, но не полностью.  

• ИИ может привести к увеличению богатства у богатых и бедности у бедных.  

• Универсальные услуги не решают проблему, так как достоинство людей теряется без работы.  

• Восприятие и субъективный опыт связаны с гипотетическими состояниями реального мира.  

• Книга не имеет системы восприятия, так как не воспринимает мир и не имеет внутренней репрезентации.  

• Призыв к подписке на подкаст для более глубокого погружения в физику, ИИ, сознание и философию.  

• Существуют различные виды интеллекта, и рациональность отличается от интуитивного мышления.  

• Логические рассуждения, такие как в шахматах, отличаются от интуитивного мышления.  

• Нейронные сети лучше справляются с интуитивным мышлением, чем логические рассуждения.  

• Нет доказательств, что высокий интеллект всегда связан с высокой нравственностью.  

• Примеры Илона Маска и других показывают, что это не всегда так.  

• Понимание - это преобразование слов в векторы признаков и взаимодействие между ними.  

• Понимание в больших языковых моделях аналогично человеческому пониманию.  

• Модели используют статистические корреляции для предсказания следующего слова.  

• Понимание включает преобразование слов в векторы признаков и их взаимодействие.  

• Слова можно сравнить с конструкторами Lego, которые могут деформироваться для лучшего сочетания.  

• Понимание слова из контекста аналогично соединению блоков Lego.  

• Моделирование сложных вещей с использованием больших нейронных сетей.  

• На встречах с аспирантами и исследователями используются картинки и жесты вместо уравнений.  

• Разные люди мыслят по-разному: интуитивно или математически.  

• Личный опыт и смена программ обучения.  

• Начал в Кембридже с изучения физики, химии и рентгеновской кристаллографии.  

• Уволился из-за тяжелой работы и вернулся к архитектуре.  

• Занялся физикой, химией и физиологией, но решил узнать больше о мозге через философию.  

• Занимался философией год, но разочаровался в пустых разговорах.  

• Перешел к психологии, но разочаровался в экспериментах, которые могли бы подтвердить или опровергнуть теории.  

• Занялся искусственным интеллектом и компьютерным моделированием.  

• Профессор, но не знает, как выбирает исследовательские задачи.  

• Советует искать места, где все поступают неправильно, и пытаться улучшить ситуацию.  

• Подчеркивает важность интуиции и следования ей, если она хорошая.  

• Курцвейл сделал множество правильных предсказаний о будущем компьютеров.  

• Считает, что компьютеры становятся быстрее и умнее, что приведет к новым возможностям.  

• Подчеркивает важность субъективного опыта и сознания.  

• Считает, что быстрые веса будут важны для адаптации синапсов в мозге.  

• Современные компьютеры не могут эффективно использовать быстрые веса.  

• В будущем потребуются более высокие скорости для улучшения моделей.  

• Признает, что легкая маниакально-депрессивная стадия помогла развить творческий потенциал.  

• Оценивает идеи по их значимости и весу.  

• Не считает себя наследником Джорджа Булла, но возлагает большие надежды на свои успехи.  

• Ушел из Google из-за обеспокоенности безопасностью ИИ.  

• Считает, что ИИ может представлять угрозу безопасности.  

• Продолжает заниматься философией и исследованиями в этой области.  

• ИИ изменит мир, как к лучшему, так и к худшему.  

• Советует молодым исследователям работать над вопросами безопасности ИИ.  

• Подчеркивает важность выравнивания и согласования в научных исследованиях.  

• Большой интерес в науке связан с нейронными сетями и ИИ.  

• Нобелевские премии по физике и химии присуждаются за работы в области ИИ.  

• Совет  

• В прошлом году автор получил Нобелевскую премию по физике за работы в области искусственного интеллекта и нейронных сетей.  

• Автор не считает себя физиком, хотя был хорош в физике на первом курсе университета.  

• Он бросил физику из-за недостаточных успехов в математике, что, возможно, помогло ему получить премию.  

• Автор испытывает замешательство по поводу премии, так как его работа над нейронными сетями была связана с алгоритмом "машины Больцмана".  

• Этот алгоритм использовал статистическую физику, но не привел к успешным системам искусственного интеллекта.  

• Настоящий успех пришел благодаря другому алгоритму, который автор разработал вместе с Терри Санофски.  

• Автор запустил подпапку с контентом о языке и нечетко определенных понятиях.  

• В будущем будут размещены полные стенограммы.  

• Автор благодарит партнера The Economist и просит подписаться и поставить лайк на YouTube.  

• Подписка и лайки помогают YouTube распространять контент.  

• Внешние ссылки важны для алгоритма YouTube.  

• Автор рекомендует использовать Discord и Reddit для обсуждения теорий всего.  

• Автор рекомендует повторное прослушивание лекций и подкастов.  

• Поддержка через Patreon позволяет автору работать над контентом полный рабочий день.  

• Поддержка также дает ранний доступ к эпизодам без рекламы.