От нейропроцессоров до AI-решений. Что важно знать бизнесу? Опыт NVIDIA и советы для бизнеса.

• Руслан хвалит команду за многолетнюю работу над программой.  

• Отмечает важность анализа мероприятий и взаимодействия с аудиторией.  

• Благодарит за приглашение и разнообразие аудитории.  

• Возможность создания интерактивного контента.  

• Три блока тем: поиск возможностей, технологии и тренды.  

• Пример формата: один час лекции и обсуждение в неформальной обстановке.  

• NVIDIA как компания, производящая процессоры и графические процессоры.  

• Параллельные вычисления и их применение в гейминге.  

• Переход от компьютерной графики к другим задачам с параллельными вычислениями.  

• Закон Мура и необходимость новых способов ускорения вычислений.  

• Параллельные вычисления как прослойка между приложениями и процессорами.  

• Применение технологии в различных областях, включая нейросети.  

• Нейросети как маргинальная тема в 90-х.  

• Статья AlexNet в 2011-2012 годах, показавшая, что нейросети можно обучать быстро.  

• Экспоненциальный рост применения нейросетей в различных задачах.  

• Важность параллельных вычислений для обучения нейросетей.  

• Примеры успешного применения нейросетей в различных задачах.  

• Признание значимости нейросетей в современном мире.  

• Появилась новая категория чипов: нейропроцессоры и суперкомпьютинг.  

• Современные чипы могут выполнять задачи, которые раньше требовали суперкомпьютеров.  

• Каждая компания может приобрести суперкомпьютер с разумным бюджетом.  

• Мощности дата-центров ограничены на каждую компанию в каждой стране.  

• Важно оптимизировать использование энергии для увеличения вычислений.  

• Новые чипы должны быть энергоэффективными, а не просто быстрыми.  

• Выбор чипа зависит от задачи, бюджета и доступности на рынке.  

• Флагманский чип будет доступен к концу 2024 года.  

• Существуют чипы для обучения моделей и для инференса.  

• Инференс используется для предсказаний и обработки новых данных.  

• Важно оптимизировать инференс для большого портфеля моделей.  

• Автор отвечает за инференс и разработку моделей в компании.  

• Проекты по искусственному интеллекту часто не доходят до промышленной эксплуатации.  

• Важно правильно использовать технологии и увеличивать финансирование при успехе.  

• Автор работал над проектом метапикселя для улучшения визуального контента.  

• Проект метапикселя был закрыт из-за других приоритетов.  

• Важно определить, что такое искусственный интеллект и как его использовать.  

• Искусственный интеллект ИИ рассматривается с двух точек зрения: бизнес-результат и технология.  

• ИИ охватывает автоматизацию задач от простых скриптов до сложных рекомендательных систем.  

• Пример: создание рекомендательной системы для фильмов на основе пересечения тегов пользователей и фильмов.  

• Усложнение задач требует учета множества переменных, таких как актеры, цветовая гамма, предыдущие просмотры и т.д.  

• Объединение данных о пользователях и фильмах для создания рекомендаций.  

• Использование машинного обучения для предсказания рейтинга фильмов на основе исторических данных.  

• Сильный ИИ рассматривается как достижимая цель.  

• Тест Тьюринга: задача, чтобы компьютер был неотличим от человека в чате.  

• Оценка качества моделей ИИ и их эволюция.  

• Команда отвечает за оценку качества моделей ИИ.  

• Использование стандартных бенчмарков для оценки моделей.  

• Быстрое изменение и адаптация моделей ИИ.  

• Генеративный ИИ отличается от предиктивного ИИ.  

• В предиктивном ИИ метка успеха ограничена, в генеративном ИИ пространство ответов бесконечно.  

• Пример: генерация рекомендаций для мероприятий в Кремниевой долине.  

• Использование людей для оценки моделей через канонический корпус вопросов.  

• Ответы от моделей оцениваются людьми по шкале от 1 до 5.  

• Сравнение моделей через A/B тестирование и сбор статистики.  

• Использование LLM для оценки моделей по различным аспектам.  

• Обучение LLM на данных от людей и использование их для создания больших моделей.  

• Построение пирамиды моделей, где каждая следующая модель улучшает предыдущую.  

• Реализация серии проектов на базе ИИ с хорошим ROI.  

• Создание портфеля проектов для диверсификации рисков.  

• Принятие неудач как часть процесса и важность быстрой реакции на обратную связь.  

• Пример компании, которая быстро адаптировалась к новым технологиям.  

• Внедрение модели Stable Diffusion, которая генерирует изображения из текста.  

• Создание модели, которая в четыре раза быстрее конкурентов, за три недели.  

• В компании царит культура доверия и самообучения.  

• Ошибки признаются и быстро исправляются.  

• Культура имплементирована во все проекты и проекты быстро реагируют на вызовы рынка.  

• Команды внутри компании работают как мини-стартапы.  

• Компания быстро адаптируется к изменениям рынка.  

• Культура компании делает её адаптивной, но может быть неэффективной при хаотичном подходе.  

• Портфель проектов диверсифицирует риски и помогает понять выхлоп от каждого проекта.  

• Инвестиции в платформу для повторяющихся компонентов проектов.  

• Платформа позволяет минимизировать дублирование работы и улучшает бизнес-процессы.  

• Платформа объединяет технологии, процессы и культуру.  

• Это позволяет компании создавать и развивать ИИ-проекты.  

• Платформа применима как в крупных корпорациях, так и в небольших группах.  

• ИИ-технологии стали более доступными и демократичными.  

• Для создания прототипа достаточно инициативы и документации.  

• Промт-инженеринг помогает обучать машины и оптимизировать бизнес-процессы.  

• Не стоит сразу нанимать супер-специалистов.  

• Важно двигаться постепенно и анализировать направление развития бизнеса.  

• Совместное движение с клиентами помогает определить оптимальные шаги для развития.  

• Платформа предоставляет леверч и центр компетенций.  

• Команда должна быть самодостаточной, привлекать специалистов только при необходимости.  

• Важно иметь дорожные карты и уметь контролировать качество и бюджетирование.  

• Начинать самостоятельно рискованно, лучше работать с партнерами.  

• Важно не откладывать внедрение ИИ на потом, чтобы не отставать от конкурентов.  

• Разбиваем цели на фазы и используем карту для их достижения.  

• Первая фаза: работа с партнером, который лидирует в проектах.  

• Вторая фаза: трансфер знаний от партнера для внутренних сотрудников.  

• Третья фаза: создание ИИ-платформы на основе повторяющихся компонентов.  

• Виртуализация кипы белти с использованием ИИ.  

• Разметка данных не только для обучения моделей, но и для генерации новых ответов.  

• Гибридный интеллект: объединение ИИ и человека в операционном цикле.  

• Внедрение ИИ для автоматизации задач, которые раньше выполнял человек.  

• Пример с обработкой фотографий: 90% работы автоматизировано, 10% - ручная доработка.  

• Эволюция моделей: постепенное улучшение и проверка на регрессию.  

• Запуск обучения продуктовому мышлению вокруг ИИ как можно раньше.  

• Инициатива должна исходить от владельца бизнеса или команды внедрения.  

• Важно преодолевать резистентность и внедрять ИИ, несмотря на возможные ограничения.  

• Важно правильно выстроить культуру в компании, чтобы сотрудники поддерживали внедрение ИИ.  

• Не стоит бояться, что ИИ уволит часть команды; важно устранить неэффективности в бизнес-процессах.  

• Люди должны решать сложные когнитивные задачи, а рутину автоматизировать.  

• Исследования показывают, что увеличение количества картинок на единицу товара увеличивает конверсию и продажи.  

• Команда контента может обрабатывать до 12 картинок на товар, что требует автоматизации.  

• Гибридный подход: часть работы выполняется ИИ, часть – людьми, что позволяет сохранить команду и увеличить эффективность.  

• Важно обучать сотрудников, чтобы они сами предлагали идеи по внедрению ИИ.  

• Переход от модели продажи ИИ к модели, где сотрудники сами предлагают идеи.  

• Использование платформы для масштабирования и успешного внедрения ИИ.  

• Проект по автоматизации разработки чипов с помощью ИИ.  

• Чат-бот помогает инженерам находить нужную документацию и генерировать ответы.  

• Гибридный подход: ИИ ускоряет поиск документов, но инженеры продолжают выполнять сложную работу.  

• Компания должна постоянно адаптироваться к новым технологиям и вызовам.  

• Построение процессов для внедрения новых моделей и технологий.  

• Интеграция новых моделей в существующие процессы для достижения максимальной эффективности.  

• Внедрение AI требует сложного процесса, который нужно оптимизировать.  

• Процесс будет упрощаться с каждым годом.  

• Профессиональные разработчики и дата-инженеры становятся менее необходимыми.  

• Софт-инженеры могут выполнять задачи, ранее требовавшие профессиональных дата-инженеров.  

• Эти специалисты умеют работать с фронтендом, мобильной разработкой и бэкендом.  

• Они могут создавать системы на основе спецификаций.  

• Число пользователей AI растет, достигнув 600 миллионов.  

• Это составляет около 10% населения.  

• Пользователи научились взаимодействовать с системами, как с поисковыми.  

• Пользователи изобрели свои языки общения с поисковыми системами.  

• Эти языки были внедрены как расширенные запросы.  

• В будущем системы будут лучше следовать инструкциям, что станет важным фактором оценки.  

• Люди должны научиться правильно формулировать запросы для AI.  

• Существуют курсы по промт-инжинирингу.  

• Постепенное обучение и практика помогут улучшить взаимодействие с системами.