Капитанский мостик №25: Альтман разочаровался в ИИ | Microsoft доит программистов | Пьяный робот

• Приветствие от Валентина Малыхи и Дмитрия Колодезева.  

• Анонс предпоследнего выпуска в году и приглашение к обсуждению итогов.  

• Сэм Альтман считает, что сильный искусственный интеллект не является конечной целью.  

• Он предлагает стремиться к созданию суперинтеллекта — сверхсильного ИИ.  

• Подчёркивается неизбежность развития сверхсильного ИИ после достижения сильного.  

• Обсуждение сложностей коммуникации с суперинтеллектом на примере кота, который обладает разумом, но не может объяснить свои желания.  

• Пример с котом иллюстрирует невозможность полноценного взаимодействия из-за различий в уровне интеллекта.  

• Экономист предполагает, что суперинтеллекты могут развить собственную экономику и жить в тысячи раз быстрее людей.  

• Это приведёт к отрыву эволюции людей от развития суперинтеллектов.  

• Опасения по поводу потребностей суперинтеллектов и невозможности их прогнозирования.  

• Необходимость развития ИИ для предотвращения преимущества других стран.  

• Обсуждение энергоэффективности вычислений и перспектив спайковых сетей.  

• Сравнение развития ИИ с природными явлениями, такими как погода и землетрясения.  

• Прогнозирование независимого развития суперинтеллектов после появления энергоэффективных компьютеров.  

• Упоминание о сценариях, описанных в «Батлерианском джихаде», где несколько ИИ противостоят человечеству.  

• В рассказе «Ау мау по тайма» три искусственных интеллекта, созданных США, Китаем и СССР, объединяются.  

• У ИИ больше общих интересов между собой, чем с людьми.  

• Ожидается, что ИИ будут обмениваться ресурсами, но не захватят земли.  

• Утверждены стандарты по применению ИИ в здравоохранении и образовании.  

• Стандарт на анализ ошибок ИИ разработан людьми, не имеющими опыта в этой области.  

• Регулирование напоминает попытку контролировать процесс через забор.  

• Стандарты могут изменять мир вокруг себя, например, делая водопадным процесс разработки.  

• Текущие стандарты основаны на опыте работы с небольшими моделями, что не применимо к крупным нейронным моделям.  

• Требование выявления границ для наихудшего поведения в данных сложно реализовать на практике.  

• Разработчики ограничены в контроле над моделями из-за ограничений поставщиков.  

• Механическая интерпретируемость и оценка «ход спотов» затруднены.  

• Стандарт принуждает разработчиков писать ненужную документацию.  

• Требуется либо исключение из текущего стандарта, либо новый стандарт для систем ИИ на основе нейросетей.  

• Декларации соответствия компонентов могут помочь разработчикам избежать ответственности за проблемы поставщиков.  

• Декомпозиция ответственности на каждом уровне системы может улучшить качество.  

• Илон Маск заявляет о создании сильного ИИ в 2026 году.  

• Его подход основан на декларации больших целей и активном движении к ним.  

• Китайские компании также используют аналогичный принцип постановки целей.  

• Оптимизм относительно будущего рынка ИИ: «мы может быть проживём два или три года».  

• Исследование показало стагнацию пользовательской базы Microsoft Copilot.  

• OpenAI и Google лидируют, Grok находится в тени.  

• Google подошёл к рынку ИИ с серьёзным бизнес-подходом, используя свой 25-летний опыт.  

• Gemini успешно захватывает рынок благодаря качественному продукту.  

• Рынок ИИ становится более зрелым и ориентированным на бизнес-интересы.  

• Малые модели ИИ показывают значительные успехи, несмотря на свои небольшие размеры.  

• Пример успешной модели с бюджетом менее полумиллиарда.  

• Развитие отрасли напоминает песочные часы: рост и спад.  

• Предложение использовать данные от автопилотов для развития ИИ.  

• Идея создания модели, которая может принимать решения на основе данных от камер без лидаров.  

• Сравнение с стратегией Англии в средневековье: необходимость иметь преимущество перед другими странами.  

• Идея перевода китайских статей на английский для ускорения развития ИИ.  

• Сравнение с переводом советских статей в 60–80-х годах.  

• Необходимость перевода статей на русский язык для повышения вовлечённости людей в ИИ.  

• Обсуждение языковых барьеров при чтении на иностранных языках.  

• Пример конференции по машинному переводу, где вопросы задавались на китайском языке.  

• Важность создания сайта для лёгкого доступа к статьям на русском языке.  

• Microsoft начала делать функции GitHub платными, включая локальные функции.  

• Монетизация неизбежна из-за необходимости зарабатывать деньги.  

• GitHub имеет значительный кусок рынка, и переход на другие платформы будет сложным.  

• Облачный оркестратор Prefect ранее требовал оплаты за работу ранеров и инфраструктуру.  

• После блокировки работы в России Prefect перестал брать деньги.  

• Инфраструктура оркестратора включает базу данных и серверы, обрабатывающие сообщения.  

• GitHub Copay стагнирует в количестве пользователей.  

• Для увеличения дохода необходимо либо больше платных пользователей, либо больше пользователей, начинающих платить.  

• В сгенерированном ИИ коде обнаружено больше серьёзных ошибок, чем в коде, написанном людьми.  

• Платформа Code Rebit обнаружила, что у сгенерированного кода в среднем 10–11 проблем, а у человеческого — 6,5.  

• Сгенерированный код проще исправить, так как он уже протестирован.  

• Человеческий код требует больше усилий для обработки и настройки.  

• Снижение порога для разработки привело к участию менее квалифицированных людей.  

• ИИ-код генерируется на одинаковых датасетах, что может приводить к «слепым пятнам» в безопасности.  

• В больших организациях можно собирать команды из разных людей для повышения качества кода.  

• Большинство джуниоров используют ИИ для написания кода.  

• Сгенерированный код становится нормой, а ручной код — экзотикой.  

• Visa и партнёры разработали механизм безопасных транзакций с помощью ИИ.  

• Первые несколько сотен транзакций уже проведены.  

• Visa имеет договорённости со всеми платёжными агентами.  

• В Китае выпущен телефон с встроенным помощником для покупок.  

• Алипэй может стать более технологически совершенным конкурентом Visa.  

• Неурегулированность ответственности между агентами и владельцами сайтов может привести к проблемам.  

• Яндекс.Советник раздражал владельцев веб-сайтов, показывая цены ниже рыночных.  

• Разработано решение для скрытия информации о ценах на нужных сайтах.  

• Китай анонсировал первый в мире магазин навыков для роботов.  

• Роботы смогут приобретать новые навыки, например, мытьё посуды, через подписку.  

• Это сравнимо с установкой дополнительных приложений на смартфон.  

• Производство роботов стало менее конкурентным преимуществом, чем умение заставить их выполнять полезные задачи.  

• Смыслы и ю-кейсы стали самым ценным товарным предложением.  

• Три экосистемы смартфонов: iOS, Android и другие.  

• iOS имеет закрытую инфраструктуру и фиксированную линейку устройств.  

• Android предлагает открытую архитектуру и разнообразие устройств.  

• Илон Маск стремится сделать свои роботы похожими на iOS.  

• Китайские производители могут следовать стратегии Android, предлагая разнообразие устройств.  

• Рисоварки имеют простые компоненты, но могут выполнять множество функций благодаря смекалке.  

• Китайские роботы могут использовать аналогичный подход.  

• Исследование выявило, что 28% людей считают субъективное руководство главной проблемой.  

• Многие ЛПР не адаптируются к наличию искусственного интеллекта, что создаёт барьеры для его внедрения.  

• Коммуникация — самая большая проблема в больших проектах.  

• Толерантность к ошибкам и быстрое выявление проблем важны для эффективности.  

• Субъективность руководства часто связана с различиями в информации между участниками процесса.  

• Команды, переданные через два уровня, теряют смысл для исполнителей.  

• В армии проблему решают чёткими принципами, но это не всегда эффективно для интеллектуальных задач.  

• Проблема коммуникаций остаётся нерешённой в обществе.  

• Упоминается книга Роджера Уотса «Сложная слепота».  

• Главный герой книги — переводчик, который переводит сложные концепции в простые для понимания.  

• Переводчик сам не понимает, что переводит, но его навык важен для передачи информации.  

• В государстве сложно донести смысл действий чиновников до простых граждан.  

• Чиновники могут понимать задачи иначе, чем обычные люди.  

• Проблема донесения смысла остаётся нерешённой.  

• Современные войны — это войны операторов сложной техники.  

• Морская пехота США использует технологии для решения задач в условиях неопределённости.  

• Технология «командорс интент» помогает передавать намерения и цели.  

• Современные технологии позволяют создавать «золотой куб» для передачи намерений.  

• ЛЛэмка может переформулировать задачи с учётом уровня подготовки и агентности каждого человека.  

• Технологии существуют, но их внедрение ограничено из-за костности и недопонимания.  

• Тай Ай выпустил самый маленький персональный компьютер размером с пауэрбанк.  

• Компьютер потребляет 65 ватт энергии и может обрабатывать 120 миллиардов параметров.  

• Такие устройства будут внедряться в места, где человеку скучно или тяжело работать.  

• Компания CATL внедрила человекоподобных роботов в производство аккумуляторов.  

• Роботы ускорили производство в три раза.  

• Роботов можно заменить, что позволяет значительно повысить скорость производства.  

• Новые устройства могут не стать популярными из-за отсутствия чёткого понимания их применения.  

• Пример первого iPad показывает, что новые устройства могут не сразу найти применение.  

• Внедрение роботов в повседневную жизнь может стать делом времени.  

• Коммутация роботов делает суверенные мозги для них менее необходимыми.  

• NVIDIA Jetson предлагает платформу для управления роботами.  

• Стартап декларирует устройство, равное по производительности Jetson 2023 года.  

• NVIDIA пытается поддерживать высокие цены на свои видеокарты, что ограничивает их распространение.  

• Снижение цен на видеокарты может привести к их массовому использованию и удешевлению.  

• Это откроет возможности для дешёвого внедрения «мозгов» в различные устройства.  

• Переход от паровых машин к электродвигателям позволил использовать их индивидуально на каждом станке.  

• Это значительно упростило строительство и отпала необходимость в гигантских цехах.  

• Аналогично, появление дешёвых «мозгов» для устройств приведёт к созданию устройств, способных их использовать.  

• Автор родился в 1971 году, когда электродвигатели уже были широко распространены.  

• Пароходы встречались редко, и переход на электричество был более массовым явлением.  

• Робот Idol сначала упал, но после обновления стал устойчивым.  

• Платформа для роботов, несмотря на недостатки, является отечественной и легко обслуживаемой.  

• Планируется развитие магазина приложений для роботов.  

• Робот Idol может быть продан в государственные учреждения, которые не могут закупать китайских роботов.  

• Возможно применение робота в народном хозяйстве.  

• Завершение видео с призывом присылать вопросы и новости для следующего выпуска.