Андрей Карпати: Программное Обеспечение Меняется (Снова)

• Приветствие бывшего директора по искусственному интеллекту Tesla Андре Карпати.  

• Обсуждение изменений в программном обеспечении в эпоху искусственного интеллекта.  

• Подчёркивание уникальности текущего момента для входа в индустрию.  

• Объяснение карты GitHub как инструмента для анализа программного обеспечения.  

• Введение понятия «программное обеспечение 20» — нейронные сети и их параметры.  

• Пример использования Hugging Face и Atlas Models для управления параметрами моделей.  

• Переход от фиксированных функций нейронных сетей к программируемым с помощью больших языковых моделей.  

• Введение понятия «программное обеспечение 30» — подсказки на английском языке для LLM.  

• Пример классификации настроений с помощью Python, нейронных сетей и LLM.  

• Описание процесса развития автопилота в Tesla: удаление кода C++ и увеличение роли нейронных сетей.  

• Перенос функциональности из одного приложения в другое.  

• Важность владения разными парадигмами программирования для работы в отрасли.  

• Сравнение LLM с коммунальными службами: капитальные вложения в обучение, операционные расходы через API.  

• Требования к LLM: низкая задержка, высокое время безотказной работы, стабильное качество.  

• Возможность переключения между различными типами LLM.  

• LLM как фабрики с высокими капитальными затратами.  

• Быстрое развитие технологических древов в лабораториях LLM.  

• Сосредоточение секретов исследований и разработок в лабораториях LLM.  

• LLM сравниваются с операционными системами, а не с простыми товарами, такими как электричество.  

• Экосистемы программного обеспечения становятся сложнее, включая конкурирующих поставщиков с закрытым и открытым исходным кодом.  

• LLM можно рассматривать как новый тип компьютера с эквивалентом центрального процессора и контекстными окнами, похожими на память.  

• Приложения LLM можно загружать и запускать на разных платформах, аналогично VS Code.  

• Пример с загрузкой приложения на разные платформы: GPT, Cloud, Gemini Series.  

• Из-за высокой стоимости вычислительных ресурсов LLM централизованны в облаке.  

• Пользователи взаимодействуют с ИТ через сеть, как тонкие клиенты.  

• Мини-компьютеры Mac могут быть полезны для некоторых задач LLM.  

• Общение с LLM в текстовом режиме напоминает работу с операционной системой через терминал.  

• Графический интерфейс для всех задач LLM ещё не разработан.  

• LLM меняют направление распространения технологий, делая их доступными для широкой аудитории.  

• Первые пользователи LLM — обычные люди, а не правительства или корпорации.  

• LLM рассматриваются как стохастические имитации людей с энциклопедическими знаниями и памятью.  

• Они обладают сверхспособностями, но также имеют когнитивные нарушения, такие как галлюцинации и ошибки в самопознании.  

• Контекстные окна LLM сравниваются с рабочей памятью, требующей прямого программирования.  

• Ограничения безопасности LLM включают доверчивость и риск утечки данных.  

• Фильмы «Воспоминание» и «51-е свидание» иллюстрируют проблемы с контекстными окнами и их влияние на повседневную жизнь.  

• Необходимо учитывать когнитивные недостатки ИИ при его использовании.  

• Важно найти баланс между преодолением недостатков и использованием сверхчеловеческих способностей ИИ.  

• Пример приложения для программирования с частичной автономией — Cursor.  

• Cursor сочетает традиционный интерфейс и интеграцию с LLM.  

• LLM управляют контекстом и организуют обращения к моделям.  

• Графический интерфейс упрощает проверку работы систем и ускоряет процесс.  

• Визуальные изменения помогают лучше интерпретировать данные.  

• В Cursor можно настроить степень автономности ИИ.  

• Примеры команд: изменение фрагмента кода, всего файла или всего репозитория.  

• «Недоумение» имеет похожий функционал с Cursor.  

• Возможность выбора уровня автономии: быстрый поиск, исследование, глубокое исследование.  

• ГИС помогают ускорить процесс верификации.  

• Визуальные представления облегчают аудит систем.  

• Важно контролировать гиперактивность ИИ.  

• Работа небольшими порциями помогает избежать ошибок.  

• Конкретные подсказки увеличивают вероятность успешной проверки.  

• ИИ нужно «держать на привязи» для предотвращения ошибок.  

• Создание отдельных приложений для преподавателей и студентов.  

• Промежуточные варианты курсов помогают убедиться в их качестве.  

• Пример частичной автономии из Tesla: графический интерфейс автопилота и ползунок автономности.  

• История успешного тестирования самоуправляемого автомобиля в 2013 году.  

• Несмотря на 12 лет работы, проблема автономии всё ещё не решена полностью.  

• Автомобили Waymo выглядят автономными, но часто требуют участия человека.  

• Программное обеспечение для управления агентами сложное и требует осторожности.  

• Костюм Железного человека сочетает функции дополнения и агента.  

• Текущая задача — создавать продукты с частичной автономией и пользовательским интерфейсом.  

• Важно автоматизировать процесс проверки генерации у человека.  

• Появился новый язык программирования, основанный на английском языке.  

• Vibe-кодирование позволяет любому стать программистом без длительного обучения.  

• Раньше для работы с ПО требовалось 5–10 лет обучения, теперь это не так.  

• Автор создал приложение Menugen с помощью Vibe-кодирования.  

• Приложение генерирует изображения меню на основе фотографий.  

• Реализация приложения оказалась сложнее, чем ожидалось, из-за необходимости интеграции с DevOps.  

• Агенты могут взаимодействовать с программной инфраструктурой через текстовые файлы.  

• Markdown упрощает понимание документации для LLM.  

• Примеры служб, переводящих документацию для LLM: Vercel и Stripe.  

• Необходимо адаптировать документы, чтобы они были понятны LLM.  

• Vercel заменяет «нажатия кнопок» эквивалентными командами curl для LLM.  

• Адаптация документации открывает новые возможности для взаимодействия с агентами.  

• Модельные контекстные протоколы от Anthropic позволяют агентам напрямую общаться с цифровой информацией.  

• Инструменты, такие как git ingest, преобразуют данные из репозиториев GitHub в формат, удобный для LLM.  

• Deep Wiki от Devin анализирует репозитории и создаёт документацию, которая также полезна для LLM.  

• В будущем LLM смогут взаимодействовать с окружением, но сейчас это сложно и дорого.  

• Необходимо упростить доступ LLM к информации, чтобы они могли эффективно работать.  

• Программное обеспечение должно адаптироваться к новым возможностям LLM.  

• Сейчас подходящее время для внедрения LLM в индустрию.  

• LLM сравниваются с утилитами, фабриками и операционными системами.  

• Инфраструктура должна быть адаптирована для работы с LLM, как с подверженными ошибкам элементами.  

• LLM сравниваются с костюмом Железного человека, который будет развиваться в течение следующего десятилетия.  

• Ожидается перемещение ползунка от ручного управления к автоматическому.  

• Автор выражает интерес к участию в этом процессе.