Андрей Карпати: Программное Обеспечение Меняется (Снова)

• Приветствие бывшего директора по искусственному интеллекту Tesla Андре Карпати.  

• Обсуждение изменений в программном обеспечении в эпоху искусственного интеллекта.  

• Подчёркивание уникальности текущего момента для входа в индустрию.  

• Объяснение карты GitHub как инструмента для анализа программного обеспечения.  

• Введение понятия «программное обеспечение 20» — нейронные сети и их параметры.  

• Пример использования Hugging Face и Atlas Models для управления параметрами моделей.  

• Переход от фиксированных функций нейронных сетей к программируемым с помощью больших языковых моделей.  

• Введение понятия «программное обеспечение 30» — подсказки на английском языке для LLM.  

• Пример классификации настроений с помощью Python, нейронных сетей и LLM.  

• Описание процесса развития автопилота в Tesla: удаление кода C++ и увеличение роли нейронных сетей.  

• Перенос функциональности из одного приложения в другое.  

• Важность владения разными парадигмами программирования для работы в отрасли.  

• Сравнение LLM с коммунальными службами: капитальные вложения в обучение, операционные расходы через API.  

• Требования к LLM: низкая задержка, высокое время безотказной работы, стабильное качество.  

• Возможность переключения между различными типами LLM.  

• LLM как фабрики с высокими капитальными затратами.  

• Быстрое развитие технологических древов в лабораториях LLM.  

• Сосредоточение секретов исследований и разработок в лабораториях LLM.  

• LLM сравниваются с операционными системами, а не с простыми товарами, такими как электричество.  

• Экосистемы программного обеспечения становятся сложнее, включая конкурирующих поставщиков с закрытым и открытым исходным кодом.  

• LLM можно рассматривать как новый тип компьютера с эквивалентом центрального процессора и контекстными окнами, похожими на память.  

• Приложения LLM можно загружать и запускать на разных платформах, аналогично VS Code.  

• Пример с загрузкой приложения на разные платформы: GPT, Cloud, Gemini Series.  

• Из-за высокой стоимости вычислительных ресурсов LLM централизованны в облаке.  

• Пользователи взаимодействуют с ИТ через сеть, как тонкие клиенты.  

• Мини-компьютеры Mac могут быть полезны для некоторых задач LLM.  

• Общение с LLM в текстовом режиме напоминает работу с операционной системой через терминал.  

• Графический интерфейс для всех задач LLM ещё не разработан.  

• LLM меняют направление распространения технологий, делая их доступными для широкой аудитории.  

• Первые пользователи LLM — обычные люди, а не правительства или корпорации.  

• LLM рассматриваются как стохастические имитации людей с энциклопедическими знаниями и памятью.  

• Они обладают сверхспособностями, но также имеют когнитивные нарушения, такие как галлюцинации и ошибки в самопознании.  

• Контекстные окна LLM сравниваются с рабочей памятью, требующей прямого программирования.  

• Ограничения безопасности LLM включают доверчивость и риск утечки данных.  

• Фильмы «Воспоминание» и «51-е свидание» иллюстрируют проблемы с контекстными окнами и их влияние на повседневную жизнь.  

• Необходимо учитывать когнитивные недостатки ИИ при его использовании.  

• Важно найти баланс между преодолением недостатков и использованием сверхчеловеческих способностей ИИ.  

• Пример приложения для программирования с частичной автономией — Cursor.  

• Cursor сочетает традиционный интерфейс и интеграцию с LLM.  

• LLM управляют контекстом и организуют обращения к моделям.  

• Графический интерфейс упрощает проверку работы систем и ускоряет процесс.  

• Визуальные изменения помогают лучше интерпретировать данные.