Сэм Альтман из OpenAI Рассказывает о будущем искусственного интеллекта, безопасности и мощности — в прямом эфире на TED2025

• Ведущий приветствует Сэма и благодарит его за участие.  

• Демонстрирует модель Сора, генератор изображений и видео.  

• Спрашивает Сэма о его впечатлении от модели.  

• Ведущий просит модель нарисовать диаграмму разницы между интеллектом и сознанием.  

• Сэм объясняет, что модель обладает интеллектуальными возможностями, которые позволяют ей создавать такие диаграммы.  

• Обсуждается влияние новых моделей на будущее профессий.  

• Ведущий просит модель представить, что Чарли Браун думает о себе как об искусственном интеллекте.  

• Сэм отмечает высокое качество мета-ответов модели.  

• Обсуждается, как сложно отличить реальные мысли от сгенерированных моделью.  

• Сэм подчеркивает важность творческого духа и создание инструментов для его поддержки.  

• Обсуждается необходимость новой модели экономики творческого результата.  

• Рассматриваются вопросы согласия на использование творчества других людей.  

• Ведущий упоминает случай с Кэрол Кэдуолладер и обсуждает проблемы с согласием на использование её работы.  

• Сэм объясняет, как модель Midjourney обрабатывает запросы на создание контента в стиле других людей.  

• Обсуждается необходимость новых моделей для справедливого распределения дохода.  

• Ведущий спрашивает о влиянии модели Deepseek и открытом исходном коде.  

• Сэм рассказывает о планах по созданию мощной модели с открытым исходным кодом.  

• Обсуждается важность моделей с открытым исходным кодом в будущем.  

• Сэм делится информацией о росте компании и количестве активных пользователей.  

• Обсуждается быстрый рост компании и увеличение объема вычислений.  

• Ведущий спрашивает о лучших внутренних моделях, которые Сэм еще не представил миру.  

• ChatGPT становится умнее, но важно создать отличный продукт.  

• Новая функция Memory позволяет модели знакомиться с пользователем на протяжении всей его жизни.  

• Фокус на создании лучшего интегрированного продукта.  

• ChatGPT теперь знает всю историю запросов пользователя.  

• Пользователь может узнать о себе и своих интересах.  

• Это вызывает волнение и интерес к дальнейшему использованию.  

• Подключение происходит постепенно, а не за один день.  

• ChatGPT может стать компаньоном, помогающим пользователю быть лучше.  

• Пример из фильма "Она" иллюстрирует потенциал ИИ.  

• ИИ важен для научных открытий, улучшающих жизнь людей.  

• Новые модели ИИ становятся более производительными.  

• Прогресс в борьбе с болезнями и разработке программного обеспечения.  

• Вопросы о том, как далеко может зайти ИИ.  

• Риски злоупотребления мощными моделями.  

• Важность проверки безопасности перед выпуском.  

• ChatGPT не является AGI, так как не может постоянно учиться и совершенствоваться.  

• Разные исследователи имеют разные определения AGI.  

• Важно осознавать экспоненциальный рост ИИ и строить безопасное общество.  

• Агентурный ИИ позволяет ИИ самостоятельно заниматься проектами и собирать информацию.  

• Пример: заказ столика в ресторане с помощью ИИ.  

• Джошуа Бенджио подчеркивает важность агентурного ИИ.  

• ИИ может выйти в Интернет и создавать новые возможности, но также и угрозы.  

• Люди могут отказаться от использования ИИ, но другие могут использовать его для негативных целей.  

• Привыкание к новой технологии занимает время, но ИИ будет распространяться по Интернету.  

• Люди хотят использовать безопасных агентов ИИ.  

• Важно, чтобы агенты не могли навредить, например, опустошить банковский счет.  

• Открытые модели ИИ могут быть использованы для распространения негативных мемов.  

• Система безопасности ИИ должна учитывать опасные моменты и смягчать их.  

• Важно не делить людей на два лагеря, а верить в возможности ИИ, но не поддаваться страху.  

• Страх перед ИИ рационален, но общество должно научиться правильно использовать технологию.  

• Предложение создать агентство по безопасности ИИ.  

• Необходимость внешнего тестирования продвинутых моделей на безопасность.  

• Важно понимать, на каких угрозах общество хочет сосредоточиться.  

• Вопрос о моральном праве создавать технологии, изменяющие судьбу человечества.  

• Личная ответственность за возможные ошибки.  

• Важность понимания ценностей и доверия к создателям ИИ.  

• Цель OpenAI - создать и распространить безопасный ИИ на благо человечества.  

• Тактика компании изменилась со временем, и они не ожидали, что создадут компанию.  

• OpenAI стремится предоставить мощный ИИ с высокой степенью безопасности широкому кругу людей.  

• OpenAI действовал осторожно из-за неопределенности влияния систем на общество.  

• Теперь компания лучше понимает мир и готова внедрять эффективные открытые системы.  

• В будущем возможны ошибки, но за последние десять лет достигнуты значительные успехи.  

• OpenAI выполнил свои первоначальные цели, но впереди еще много работы.  

• Тактика компании будет меняться, но приверженность миссии остается сильной.  

• Илон Маск обвинил Стива в развращении властью.  

• Стив считает, что это обвинение можно применить и к Илону.  

• Он не чувствует разницы в себе, несмотря на свою власть и богатство.  

• Рождение ребенка изменило отношение Стива к жизни и работе.  

• Он больше заботится о будущем своего ребенка и общества в целом.  

• Развитие продвинутого ИИ неизбежно, но важно делать это ответственно.  

• OpenAI и другие компании стремятся к безопасности ИИ, но сталкиваются с трудностями.  

• Компания изменила подход к безопасности, чтобы учитывать мнение пользователей и общества.  

• Решение проблем коллективного убеждения заключается в объединении людей и заключении соглашений.  

• ИИ может общаться со всеми на Земле и узнавать коллективные ценностные предпочтения.  

• Это позволяет принимать решения, основанные на реальных желаниях людей, а не только на мнениях элиты.  

• Непреднамеренные последствия действий сотен миллионов людей могут быть значительными.  

• ИИ может помочь нам стать мудрее и принимать правильные решения.  

• ИИ может анализировать желания людей и учитывать их влияние на других.  

• ИИ будет играть ключевую роль в будущем, делая продукты и услуги умнее и способнее.  

• Мир будет наполнен материальным изобилием и быстрыми изменениями.  

• Индивидуальные способности и влияние людей значительно возрастут.  

• Построенные технологии и возможности ИИ будут иметь огромное значение в будущем.  

• Присутствующие на TED будут поддерживать и подбадривать разработчиков ИИ.  

• Благодарность за участие и поддержку.