Сервер ИИ Xeon 8x NVIDIA H100 80GB (Dell)
Артикул: SRV-AI-4677-H100-V41

Сервер ИИ Xeon 8x NVIDIA H100 80GB (Dell)

Назначение системы
Обучение и Fine-tuning моделей (LLM: GPT, Llama 3), Generative AI, HPC, Научное моделирование, Цифровые двойники (Omniverse)
Корпус
DELL PowerEdge XE9680
Форм-фактор системы
6U
Количество юнитов
6
Модель процессора
Intel Xeon Platinum 8462Y+ (32/64, 2.8ГГц-4.1ГГц, 300Вт)
Количество процессоров
2

Флагманский ИИ-сервер Dell 6U. Невероятная мощь 8 ускорителей NVIDIA H100 80GB SXM5, объединенных шиной NVSwitch. 2 процессора Intel Xeon Platinum, 2ТБ DDR5 ECC и сеть 400GbE. Бескомпромиссный суперкомпьютер для обучения тяжелых LLM и научных вычислений.

О товаре

Описание Сервер ИИ Xeon 8x NVIDIA H100 80GB (Dell)

Сервер ИИ Xeon 8x NVIDIA H100 80GB (Dell)

Сервер ИИ Xeon 8x NVIDIA H100 80GB (Dell) — это вершина инженерной мысли и бескомпромиссный суперкомпьютер, упакованный в стоечный форм-фактор 6U. Данная платформа (на базе архитектуры Dell PowerEdge XE9680) спроектирована специально для корпораций, исследовательских институтов и AI-лабораторий, которые занимаются фундаментальным обучением гигантских языковых моделей (LLM), разработкой генеративного искусственного интеллекта и сложнейшими научными симуляциями. Это решение для тех проектов, где стандартные серверы с PCIe-видеокартами физически не справляются с потоками данных.

Ключевое отличие и главное преимущество этой системы заключается в архитектуре межпроцессорного взаимодействия. Восемь графических ускорителей NVIDIA H100 здесь установлены не в стандартные слоты расширения, а используют форм-фактор SXM5 и объединены между собой сверхскоростным коммутатором NVIDIA NVSwitch . Это создает единый вычислительный кластер с колоссальной общей памятью, где графические чипы общаются друг с другом напрямую на скорости до 900 ГБ/с, минуя центральный процессор. В связке с сетевой фабрикой на 400 Гбит/с, это исключает любые "бутылочные горлышки" при машинном обучении.

Эпоха сверхвычислений: 8x NVIDIA H100 SXM5

Графический кластер сервера состоит из восьми флагманских тензорных ускорителей NVIDIA H100 архитектуры Hopper. Суммарный объем видеопамяти достигает феноменальных 640 ГБ (HBM3), а общая пропускная способность внутри узла бьет все рекорды. Использование технологии Transformer Engine позволяет системе интеллектуально переключаться между форматами FP8 и FP16, выдавая невероятные 31 664 TFLOPS (в режиме FP8 Tensor Core) на один сервер. Такая мощность позволяет сократить время тренировки моделей уровня GPT-4, Llama 3 или Falcon с месяцев до считанных недель или дней.

Вычислительная мощь Intel Xeon Platinum и оперативная память

Подготовку данных, работу гипервизоров и управление сетевым стеком берут на себя два топовых процессора Intel Xeon Platinum 8462Y+ (архитектура Sapphire Rapids). Обладая в сумме 64 физическими ядрами и 128 потоками, они поддерживают матричные расширения AMX для аппаратного ускорения алгоритмов ИИ. Сервер оснащен гигантским объемом оперативной памяти — 2 ТБ стандарта DDR5 ECC, что позволяет удерживать колоссальные датасеты непосредственно в ОЗУ (In-Memory Computing), минимизируя дорогостоящие по времени обращения к дисковой подсистеме.

Подробная спецификация комплектующих

Система построена на базе бескомпромиссных компонентов уровня Data Center, рассчитанных на экстремальные нагрузки:

• Серверная платформа: 1x Dell PowerEdge XE9680 (6U Rackmount)

Инновационное шасси с уникальным дизайном воздушного охлаждения (Smart Cooling). В отличие от многих конкурентов, сервер не требует сложного подвода воды к стойке и может эксплуатироваться при температуре ЦОД до 35°C. Оснащен шестью резервируемыми блоками питания по 2800 Вт (схема 3+3) стандарта Titanium. Встроенный чип iDRAC9 обеспечивает тотальный удаленный контроль и криптографическую защиту сервера от атак на аппаратном уровне.

• Графический кластер (GPU): 8x NVIDIA H100 80GB SXM5

Восемь ускорителей, объединенных шиной NVSwitch. Поддержка технологии Multi-Instance GPU (MIG) позволяет разделить этот кластер на 56 независимых изолированных инстансов для одновременной работы десятков исследователей Data Science.

• Центральные процессоры (CPU): 2x Intel Xeon Platinum 8462Y+

Два флагманских процессора 4-го поколения. Базовая тактовая частота 2.80 ГГц с разгоном Turbo до 4.10 ГГц. Обеспечивают идеальный баланс производительности для загрузки графического кластера данными.

• Оперативная память (RAM): 2 ТБ DDR5 RDIMM ECC

Высокоскоростная регистровая память, распределенная по всем доступным каналам для обеспечения максимальной пропускной способности. Механизм аппаратной коррекции ошибок (ECC) исключает падение системы при многомесячных циклах глубокого обучения нейросетей.

• Системный накопитель (ОС/Кэш): 2x 480GB M.2 NVMe (BOSS-N1)

Отказоустойчивый загрузочный массив с аппаратным зеркалированием (RAID 1). Гарантирует бесперебойную загрузку операционной системы и сохранность логов гипервизора.

• Дисковая подсистема (Данные): All-Flash NVMe Ready

Сервер оборудован фронтальными корзинами для установки сверхбыстрых U.2/E3.S NVMe накопителей стандарта PCIe 4.0/5.0. Это позволяет организовать локальное хранилище объемом более 120 ТБ для мгновенного доступа к обучающим выборкам (датасетам).

• Сетевая инфраструктура: 1x NVIDIA ConnectX-7 (400GbE)

Ультрасовременный сетевой адаптер (NDR InfiniBand / 400Gb Ethernet). Поддерживает протокол GPUDirect RDMA, который позволяет видеокартам напрямую получать данные из сети или обмениваться весами моделей с соседними серверами в кластере, снижая задержки до микросекунд.

Совместимость с большими языковыми моделями (LLM)

Общий пул видеопамяти в 640 ГБ позволяет запускать и обучать самые передовые нейросети:

• Модели 400B - 700B параметров (DeepSeek-R1 685B, GigaChat3-702B, Mistral-Large): Уверенный инференс и дообучение с использованием 4-битного квантования (GGUF/AWQ). Памяти достаточно для хранения широкого контекста (KV-cache) при обработке длинных документов.

• Модели 100B - 250B параметров (Qwen3-235B, Gpt-oss:120b): Свободный запуск в полном размере (без квантования) с максимальной скоростью генерации токенов и возможностью параллельной обработки огромного количества запросов (High Batch Size).

• Диффузионные генеративные модели: Моментальная и стабильная потоковая генерация фотореалистичных изображений и видео в сверхвысоком разрешении (Stable Diffusion XL, Flux.2, Kandinsky 5.0).

Рекомендации от наших инженеров

Обращаем ваше внимание: в данной базовой комплектации сервера установлена невероятно мощная конфигурация оперативной памяти объемом 2 ТБ. Однако, для стопроцентного раскрытия вычислительного потенциала восьми флагманских графических ускорителей NVIDIA H100 SXM5 (обладающих колоссальным суммарным высокоскоростным буфером в 640 ГБ) и эффективной балансировки работы двух процессоров Intel Xeon Platinum при масштабном обучении сверхтяжелых нейросетей (LLM), мы рекомендуем рассмотреть расширение объема ОЗУ до максимальных 4 ТБ. Также настоятельно советуем укомплектовать пустые корзины сверхскоростными NVMe-накопителями U.2/E3.S для хранения гигантских обучающих датасетов.

Серверные сборки могут быть гибко изменены или доукомплектованы строго под ваши задачи. Наша команда готова помочь с проектированием сетевой инфраструктуры (коммутаторы InfiniBand) для объединения нескольких серверов в суперкомпьютерный кластер. Информация о товарах, их технических характеристиках и комплектации может содержать ошибки, а также быть изменена производителем без предварительного уведомления, и не может служить основанием для предъявления каких-либо претензий. Пожалуйста, уточняйте все существенные для вас параметры и компоненты комплектации у наших экспертов при заказе.

Похожие товары

Уточнить наличие
Сервер ИИ Workstation Threadripper 2x RTX 6000 Blackwell 96GB

Сервер ИИ Workstation Threadripper 2x RTX 6000 Blackwell 96GB

SRV-AI-sTR5-2xRTX6000-V63 | 3DIMPORT

  • GPU-рендеринг (Redshift, Octane, V-Ray GPU), локальный инференс LLM, визуализация сложных 3D-сцен с 96 ГБ VRAM
  • Корпус Phanteks Enthoo Pro 2
  • Tower
  • AMD Threadripper 7960X (24/48, 4.2ГГц-5.3ГГц, 350Вт)
от 5 453 600 ₽