ИИ МАСКА УМНЕЕ ChatGPT? СЕКРЕТ СУПЕРКОМПЬЮТЕРА Colossus | РАЗБОР

• Илон Маск построил суперкомпьютер для тренировки ИИ за 122 дня.  

• Компания XAI была создана для разработки ИИ, несмотря на скептицизм.  

• Маск выпустил чат-бота Grock, который демонстрирует впечатляющие результаты.  

• XAI была основана 9 марта 2023 года в Неваде и перенесена в Сан-Франциско.  

• Официальная миссия компании — понять истинную природу вселенной.  

• Команда XAI включает разработчиков, создавших важные инновации в машинном обучении.  

• Команда XAI разработала оптимизатор Adam и технологии нормализации.  

• Обнаружены состязательные примеры для ИИ.  

• Технологии включают трансформер XL и автоформализацию.  

• Первым продуктом XAI стал чат-бот Grock, выпущенный в ноябре 2023 года.  

• Grock имеет доступ к платформе X и может использовать актуальную информацию.  

• Grock может ругаться и флиртовать, что делает его уникальным.  

• Сравнение хамелеона и экрана смартфона.  

• Обзор смартфона Meizu M21: процессор, экран, память и камеры.  

• Технологии Meizu позволяют добавлять оперативную память из внутреннего хранилища.  

• Первая модель Grock содержала 33 миллиарда параметров.  

• Grock 1 достиг 63.2% на тесте HUMANKIND и 73% на тесте MMLU.  

• Grock 2 работает с изображениями и показывает результаты лучше ChatGPT.  

• XAI использовала мощности серверов X и OpenAI для обучения.  

• В сентябре 2024 года был построен Колоссус с 100 тысячами графических процессоров.  

• Колоссус использует стойки с жидкостным охлаждением и уникальные серверы.  

• Колоссус спроектирован под жидкостное охлаждение.  

• Система охлаждения включает два контура для подачи и отвода воды.  

• Чиллеры охлаждают воду на несколько градусов для повторного использования.  

• Серверы соединены высокоскоростными каналами Ethernet на 400 Гбит/с.  

• Каждый сервер имеет девять таких подключений, обеспечивая общую пропускную способность 3.6 Тбит/с.  

• Используются сетевые карты NVIDIA BlueField 3 с встроенными процессорами.  

• Оптоволоконные кабели индивидуально нарезаны и промаркированы.  

• Кабельные трассы напоминают речное русло, что важно для обслуживания.  

• Используется распределенная система хранения на базе NVMe накопителей.  

• Батареи Tesla Megapack сглаживают колебания потребления энергии при обучении нейросетей.  

• Комплекс потребляет 150 МВт энергии, что достаточно для питания 100 тысяч домов.  

• В 2024 году компания привлекла 6 миллиардов долларов инвестиций.  

• Планируется увеличить количество GPU до миллиона.  

• Вопрос о необходимости таких энергозатрат и пространства.  

• Столкновение двух подходов: классический и квантовый.  

• Google представил квантовый процессор Willow, который выполняет вычисления за пять минут.  

• Квантовые компьютеры могут обрабатывать данные, недоступные классическим машинам.  

• Противостояние классического и квантового подходов.  

• Важность качества данных, а не только мощности.  

• Будущее за гибридными системами.  

• Технологии развиваются быстрее, чем когда-либо.  

• Будущее за гибридными системами.  

• Благодарность за просмотр.