NVLink Bridge NVIDIA P3651 Ampere / Hopper 2-Way 900-53651-0000-000

NVLink Bridge NVIDIA P3651 Ampere / Hopper 2-Way: высокоскоростное соединение двух GPU

NVLink Bridge NVIDIA P3651 Ampere / Hopper 2-Way 900-53651-0000-000 — фирменный двухслотовый мост NVIDIA NVLink для высокоскоростного прямого соединения двух совместимых профессиональных GPU. Мост используется с серверными ускорителями NVIDIA A100 PCIe на архитектуре Ampere и NVIDIA H100 PCIe на архитектуре Hopper.

NVLink обеспечивает прямой обмен данными между двумя графическими процессорами, позволяя передавать информацию по высокоскоростному GPU-to-GPU соединению вместо использования только системной шины PCIe. Это особенно важно для AI, Deep Learning, LLM, HPC и других распределённых вычислительных задач, где два ускорителя постоянно обмениваются большими объёмами данных.

Модель P3651 рассчитана на конфигурацию с двумя соседними GPU и расстоянием в два PCIe-слота. Перед установкой необходимо проверить не только совместимость конкретных видеокарт, но и физическое расположение PCIe-слотов на материнской плате или серверной платформе.

Совместимость с NVIDIA A100 и H100 PCIe

NVLink Bridge P3651 используется с совместимыми PCIe-ускорителями NVIDIA поколений Ampere и Hopper. В частности, данный партномер предусмотрен для NVIDIA A100 40GB PCIe, NVIDIA A100 80GB PCIe и NVIDIA H100 PCIe.

При этом важно учитывать конструкцию серверных A100 и H100: для полноценного NVLink-соединения пары этих ускорителей используется три моста P3651 одновременно. На каждом GPU предусмотрено несколько NVLink-коннекторов, поэтому установка только одного моста не является полной штатной конфигурацией для A100 или H100 PCIe.

При использовании трёх мостов между двумя совместимыми A100 PCIe или двумя H100 PCIe суммарная максимальная пропускная способность NVLink-соединения достигает 600 ГБ/с.

Для чего используется NVIDIA NVLink

В обычной Multi-GPU-системе обмен данными между видеокартами может выполняться через PCIe и системную инфраструктуру. NVLink создаёт специализированный высокоскоростной канал непосредственно между графическими процессорами, что позволяет уменьшить задержки и повысить скорость обмена в приложениях, умеющих использовать такую конфигурацию.

Это особенно востребовано в рабочих нагрузках, которые распределяются между двумя GPU и требуют интенсивного обмена данными:

• LLM и генеративный ИИ: распределённый инференс и обучение крупных нейросетевых моделей.
• Deep Learning: обучение моделей на нескольких GPU и обмен тензорами между ускорителями.
• HPC: научные и инженерные вычисления, распределённые между несколькими GPU.
• AI-серверы: построение двухпроцессорных GPU-конфигураций с быстрым межпроцессорным соединением.
• CUDA: приложения с поддержкой прямого Peer-to-Peer обмена между GPU.
• Аналитика данных: задачи, использующие несколько ускорителей для обработки крупных наборов информации.

Технические характеристики NVIDIA P3651

• Производитель: NVIDIA
• Модель: P3651
• Партномер: 900-53651-0000-000
• Тип: NVIDIA NVLink Bridge
• Конфигурация: 2-Way
• Количество соединяемых GPU: 2
• Расстояние между GPU: 2 PCIe-слота
• Совместимые поколения: NVIDIA Ampere / Hopper для поддерживаемых PCIe GPU
• Совместимые серверные GPU: NVIDIA A100 PCIe и NVIDIA H100 PCIe
• Максимальная пропускная способность полной NVLink-конфигурации: до 600 ГБ/с между двумя совместимыми GPU
• Количество мостов для полной конфигурации A100 PCIe: 3
• Количество мостов для полной конфигурации H100 PCIe: 3

NVLink Bridge для NVIDIA A100 PCIe

NVIDIA A100 PCIe поддерживает соединение с одной соседней A100 через NVLink. Для правильной работы и получения максимальной пропускной способности используются три моста P3651, соединяющие соответствующие NVLink-коннекторы двух ускорителей.

Полная конфигурация обеспечивает максимальную пропускную способность до 600 ГБ/с. Такая схема может использоваться как с NVIDIA A100 40GB PCIe, так и с A100 80GB PCIe при условии совместимости конкретной серверной платформы.

NVLink Bridge для NVIDIA H100 PCIe

Для NVIDIA H100 PCIe применяется тот же двухслотовый NVLink Bridge NVIDIA P3651. Как и в случае с A100 PCIe, для полной конфигурации пары H100 необходимо использовать три одинаковых моста.

Соединение позволяет двум H100 обмениваться данными через NVLink с суммарной максимальной пропускной способностью до 600 ГБ/с. Это особенно полезно для распределённых AI- и HPC-задач, интенсивно использующих передачу данных между двумя ускорителями.

Важно: NVLink не объединяет память автоматически

Установка NVLink Bridge сама по себе не превращает память двух видеокарт в единую общую видеопамять для любого приложения. Например, наличие двух GPU по 80 ГБ не означает, что каждое программное обеспечение автоматически увидит один GPU со 160 ГБ VRAM.

Использование ресурсов нескольких ускорителей и распределение моделей или данных между ними зависит от конкретного программного обеспечения, CUDA-приложения и используемого режима Multi-GPU. NVLink прежде всего обеспечивает более быстрый прямой обмен данными между совместимыми GPU.

Требования к установке

Перед покупкой и установкой NVIDIA P3651 необходимо проверить модель ускорителей и расположение PCIe-слотов. Мост имеет фиксированное расстояние между коннекторами и рассчитан на определённую физическую конфигурацию двух соседних карт.

• GPU должны поддерживать соответствующий NVLink Bridge. Наличие NVLink в другом поколении видеокарт не означает автоматическую совместимость с P3651.
• Расстояние между картами: мост рассчитан на 2-slot конфигурацию.
• Для A100 PCIe: для штатной полной конфигурации пары необходимо 3 одинаковых моста.
• Для H100 PCIe: для штатной полной конфигурации пары также необходимо 3 одинаковых моста.
• GPU-топология: расположение ускорителей относительно CPU и PCIe-инфраструктуры сервера может влиять на производительность Multi-GPU-системы.
• Программное обеспечение: приложение должно поддерживать работу с несколькими GPU и использовать Peer-to-Peer обмен для получения преимуществ NVLink.

NVLink Bridge NVIDIA P3651 Ampere / Hopper 2-Way — специализированный мост для построения высокоскоростных двух-GPU конфигураций на базе совместимых NVIDIA A100 и H100 PCIe. Он подходит для AI, LLM, Deep Learning, HPC и других профессиональных задач, где требуется интенсивный прямой обмен данными между двумя серверными ускорителями.