Как работают Видеокарты? Исследуем архитектуру GPU [Branch Education на русском]

• Видеокарта выполняет около 36 триллионов вычислений в секунду.  

• Для сравнения: игра «Марио 64» в 1996 году требовала всего 100 миллионов вычислений в секунду.  

• Чтобы достичь вычислительной мощности видеокарты, потребовалось бы около 4400 планет Земля.  

• GPU имеет более 10 тысяч ядер, а CPU — всего 24 ядра.  

• Аналогия: GPU — грузовой корабль, CPU — пассажирский самолёт.  

• GPU быстрее обрабатывает большие объёмы данных, но медленнее выполняет небольшие вычисления.  

• CPU универсальнее, может выполнять разнообразные программы и инструкции.  

• Чип GPU содержит 28,3 миллиарда транзисторов.  

• Чип разделён на семь графических процессорных кластеров GPC.  

• Каждый кластер содержит 12 потоковых мультипроцессоров SM.  

• Внутри SM находятся варпы с ядрами CUDA, тензорными ядрами и ядрами трассировки лучей.  

• Ядра CUDA выполняют базовые арифметические операции, используемые в видеоиграх.  

• Тензорные ядра применяются для геометрических преобразований и работы с нейронными сетями.  

• Ядра трассировки лучей используются для алгоритмов трассировки лучей.  

• Видеокарты 3080, 3090, 3080 Ti и 3090 Ti используют один и тот же дизайн чипа GA102.  

• Дефекты в чипах изолируются и отключаются, что влияет на количество активных ядер.  

• Разные видеокарты отличаются максимальной тактовой частотой и количеством графической памяти.  

• Ядро CUDA содержит схему из 410 тысяч транзисторов.  

• Выполняет операцию FM с 32-битными числами с плавающей запятой.  

• Обрабатывает отрицательные числа и выполняет простые операции, такие как побитовый сдвиг и битовое маскирование.  

• Контроллеры графической памяти, контроллеры NVLink и интерфейс PCIe.  

• Быстрая кэш-память второго уровня объёмом 6 МБ.  

• Движок GigaThread управляет графическими кластерами и потоковыми мультипроцессорами.  

• Модуль регулировки напряжения преобразует 12 В в 1,1 В.  

• Радиатор с четырьмя тепловыми трубками переносит тепло от процессора к вентиляторам.  

• 24 ГБ графической памяти GDDR6X SDRAM, произведённой компанией Micron.  

• Время загрузки видеоигры связано с перемещением трёхмерных моделей с SSD в чипы графической памяти.  

• Графический процессор имеет кэш второго уровня размером 6 МБ для хранения данных.  

• Для отрисовки сцены данные постоянно передаются между графической памятью и GPU.  

• 24 чипа графической памяти передают 364 бита данных одновременно, обеспечивая пропускную способность около 1,15 ТБ/с.  

• Оперативная память имеет ширину шины 64 бита и пропускную способность около 64 ГБ/с.