Как работают Видеокарты? Исследуем архитектуру GPU [Branch Education на русском]

• Видеокарты выполняют огромное количество вычислений каждую секунду.  

• Для запуска современных игр, таких как Cyberpunk, требуется около 36 триллионов вычислений в секунду.  

• Это число можно представить как 4400 планет Земля, работающих вместе.  

• Видео рассматривает принцип работы видеокарты в двух частях.  

• Первая часть исследует компоненты видеокарты и архитектуру GPU.  

• Вторая часть изучает вычислительную архитектуру GPU и его применение в видеоиграх, майнинге биткоинов и ИИ.  

• GPU имеет более 10 тысяч ядер, а CPU — 24 ядра.  

• GPU мощнее по объему вычислений, но медленнее по скорости.  

• CPU универсальнее, могут выполнять разнообразные программы и инструкции.  

• GPU менее гибкие и выполняют только простые инструкции.  

• GPU состоит из чипа GA102 с 28.3 миллиардами транзисторов.  

• Чип разделен на семь кластеров, каждый с 12 потоковыми мультипроцессорами.  

• Внутри каждого мультипроцессора находятся 4 варпа, 32 шейдерных ядра и 1 тензорное ядро.  

• Ядра CUDA выполняют операции умножения-сложения и другие простые операции.  

• Они работают с 32-битными числами с плавающей запятой и целыми числами.  

• Видеокарта с 10496 ядрами на частоте 1.7 ГГц производит 35.6 триллиона вычислений в секунду.  

• Чип GA102 содержит контроллеры графической памяти, кэш-память и движок GigaThread.  

• Видеокарта имеет порты для подключения мониторов, разъем для питания и контакты PCI Express.  

• Важные компоненты: модуль регулировки напряжения, радиатор и 24 ГБ графической памяти GDDR6X SDRAM от Micron.  

• Время загрузки видеоигр уходит на перемещение 3D-моделей с SSD в графическую память.  

• Графический процессор имеет кэш второго уровня размером 6 МБ.  

• Для отрисовки сцены данные постоянно передаются между графической памятью и GPU.  

• 24 чипа графической памяти передают 364 бита данных одновременно.  

• Пропускная способность составляет около 1.15 терабайта в секунду.  

• Оперативная память имеет ширину шины 64 бита и пропускную способность 64 ГБ/с.  

• GDDR6X и GDDR7 используют трехуровневую амплитудно-импульсную модуляцию PAM3.  

• PAM3 кодирует биты в троичные разряды с напряжением 0, 1 и -1.  

• Это позволяет передавать 276 двоичных битов с помощью 176 троичных цифр.  

• GDDR6X использовала P4, но переход на P3 улучшил соотношение сигнал/шум и энергоэффективность.  

• Micron разрабатывает высокоскоростную память HBM для чипов ИИ.  

• HBM3.1 может содержать до 192 ГБ памяти вокруг чипа ИИ.  

• Видеоигры и майнинг биткоинов выполняют чрезвычайно параллельные операции.  

• Графические процессоры используют принцип SIMD одна инструкция, множество данных.  

• Одна инструкция обрабатывает множество данных, распределяя вычисления между ядрами.  

• Преобразование вершин из пространства модели в мировое пространство требует одной инструкции для множества данных.  

• Пример: ковбойская шляпа с 14 тысячами вершин преобразуется в мировое пространство.  

• Это позволяет камере определять положение объектов в сцене.  

• Потоки объединяются в варпы, затем в блоки потоков и сетки.  

• SIMD требует синхронного выполнения потоков, SIMT позволяет асинхронное выполнение.  

• SIMT улучшает гибкость и эффективность обработки ветвлений в программном коде.  

• Видеокарты использовались для майнинга биткоинов из-за их высокой производительности.  

• Алгоритм SHA-2  

• Алгоритм SHA-256 создает случайный номер билета на основе входных данных.  

• Изменение значения nonce генерирует новый случайный номер.  

• Победителем становится первый хэш с первыми 80 битами равными нулю.  

• Награда за выигрышный билет составляет три биткоина.  

• Видеокарты выполняли тысячи итераций алгоритма с разными значениями nonce, генерируя около 95 миллионов хэшей в секунду.  

• Современные компьютеры с ASIC генерируют 250 триллионов хэшей в секунду, что эквивалентно 2600 видеокартам.  

• Использование видеокарт для майнинга биткоинов стало неэффективным.  

• Тензорные ядра выполняют сложные операции умножения и сложения матриц параллельно.  

• Нейронные сети и генеративный ИИ требуют триллионов до квадриллионов таких операций.  

• Тензорные ядра обрабатывают большие матрицы.  

• Ядра трассировки лучей рассмотрены в отдельном видео.  

• Благодарность спонсорам и подписчикам за поддержку.  

• Призыв поддержать канал и посмотреть другие видео.