Константин Анохин "Сознание у искусственного интеллекта?"

• Лекция академика Константина Анохина о сознании у искусственного интеллекта.  

• Благодарность за участие в фестивале.  

• Анохин выступал на фестивале дважды за последние десять лет.  

• Программист Блейк Лемуан объявил, что его чат-бот Лямбда обладает сознанием.  

• Лемуан был уволен после публичного заявления.  

• Вопрос о том, как определить наличие сознания у ИИ.  

• Компания OpenAI объявила о создании большой языковой модели.  

• Большие языковые модели используют гигантские искусственные нейронные сети.  

• Эволюция размерности и числа параметров моделей.  

• Мультимодальные модели добавляют обработку изображений, звука и управление телом.  

• Эти модели перспективны для возможного человеческого сознания.  

• Разные мнения специалистов о возможности сознания у ИИ.  

• Вопросы о том, как исследовать сознание у компьютерных алгоритмов.  

• Моральные и юридические обязательства при создании сознательных ИИ.  

• Сознание как субъективный опыт, генерируемый системой.  

• Сознание включает сенсорный, когнитивный, агентивный опыт и самосознание.  

• Сознание не равно интеллекту или человеческому сознанию.  

• Сознание возникло давно и может быть примитивным базовым состоянием.  

• Рене Декарт писал о сознании как о непосредственном восприятии себя.  

• Сознание включает не только мышление, но и чувствование.  

• Современное понимание сознания переформатирует многие вопросы в науке, включая искусственный интеллект.  

• Вопрос о том, могут ли машины мыслить, становится актуальным.  

• Важно различать понятия интеллекта и сознания.  

• Широкое определение сознания ведет к эволюции науки, философии и общества.  

• Вопросы о сознании у животных и их страданиях становятся актуальными.  

• Примеры жестокого обращения с животными, такими как раки и рыбы.  

• В мае 2023 года прошла международная конференция по сознанию животных в Индии.  

• В конце мая на Сицилии прошла конференция по науке о сознании.  

• Исследования сознания у животных и искусственного интеллекта становятся все более важными.  

• Японский ученый Массанори Кода показал, что аквариумные рыбки проходят зеркальный тест на сознание.  

• Дэвид Чалмерс на конференции в Сицилии исследовал, могут ли большие языковые модели обладать сознанием.  

• Чалмерс предложил критерии для определения сознания у больших языковых моделей.  

• Эти критерии включают самоотчет, поведение и разговорные способности.  

• Чалмерс пришел к выводу, что современные языковые модели вряд ли обладают сознанием.  

• Чалмерс рассмотрел аргументы против сознания у больших языковых моделей.  

• Он выделил биологические и рекуррентные процессы как ключевые для сознания.  

• Современные теории сознания включают мета-репрезентации и глобальное рабочее пространство.  

• Чалмерс подчеркнул необходимость более адекватных научных и философских теорий сознания.  

• Ассоциация математических наук о сознании опубликовала открытое письмо о важности исследования сознания в искусственном интеллекте.  

• Современные теории сознания включают высокопорядковые теории и теорию интегрированной информации.  

• Теории повторного входа включают рекурентные теории.  

• Фонд Темпл инициировал состязательное соревнование между теориями.  

• Ни одна из теорий не прошла все тесты, но теория глобального рабочего пространства показала преимущества.  

• Важный подход - физико-математические исследования сознания.  

• Примеры: семинары ассоциации по математическим наукам о сознании.  

• Оксфордский центр по исследованию сознания разрабатывает модели для переноса на искусственные системы.  

• В августе опубликован манускрипт о возможных тестах сознания.  

• В октябре планируется семинар по обсуждению критериев сознания.  

• Характеристики сознания и их применение к системам искусственного интеллекта.  

• В глубоких нейронных сетях происходит эмерженция новых явлений.  

• Исследования должны быть направлены на понимание внутренних процессов.  

• Пример: работа Ильи Соцкивера над большими языковыми моделями.  

• Работа над прозрачным искусственным интеллектом.  

• Лаборатория нейронного интеллекта в МГУ исследует принципы появления умных нейронов.  

• Сравнение с биологическими нейронными сетями.  

• Большие языковые модели и глубокие нейронные сети потребуют квалификации психологов.  

• Новые задачи для психологов и лингвистов.  

• Научно-образовательная школа МГУ в области мозга, когнитивных систем и искусственного интеллекта.