리더스시스템즈

Optimized HPC & AI Servers > QuantaGrid D74H-7U

QuantaGrid D74H-7U

Intel® C741 Chipset
7U Rack Mount
Powered by4th Gen Intel® Xeon® Scalable Processors
8x hot-swap 9276 dual rotor fans (N+1 redundant)
18x 2.5” hot-plug NVMe SSD drives
32x 4800 MHz DDR5 RDIMM / Up to 8TB
Max TDP Support : 350W
Maximum display resolution is up to 1920x1080p 32bpp@60Hz
10x OCP NIC 3.0 TSFF for GPUDirect RDMA
8x Hopper H100/H200 SXM5 GPU modules with HGX baseboard

데이터시트 다운

Optimized HPC & AI Servers의 이점

최신 프로세서 지원
Intel Xeon Scalable, AMD EPYC, NVIDIA Grace Hopper 등 최신 CPU 프로세서 지원
GPU 가속 컴퓨팅
NVIDIA Blackwell Architecture, Hopper Architecture 등 AI 및 딥러닝 최적화 GPU 솔루션
메모리 용량 및 속도
사용자의 애플리케이션의 메모리 요구사항에 맞춰 최적의 DDR5/DDR4 메모리 용량과 속도제안
고속 인터커넥트
스케일업 인프라를 위한 최고의 InfiniBand, RoCE, NVLink를 통한 초고속 네트워크로 데이터 전송 병목 현상 제거
고밀도 스토리지
NVMe, Intel Optane, SSD 등 최첨단 고성능 스토리지 솔루션 통합, 데이터 집약적인 작업에 압도적인 속도와 효율성 제공

가장 극한의 AI-HPC 워크로드를 위한 고급 성능

가장 복잡한 AI 및 HPC 작업을 처리하기 위해 설계된 강력한 가속 서버입니다. 최신 5세대/4세대 Intel® Xeon® Scalable 프로세서 프로세서 제품군, 32개의 DDR5 DIMM 슬롯으로 구동되는 D74H-7U는 NVIDIA® HGX H100을 탑재하고 있으며, 비차단 GPUDirect RDMA 및 GPUDirect 스토리지를 지원합니다. 이 서버는 대규모 데이터 세트, 자연어 처리, 대형 언어 모델 및 슈퍼컴퓨팅 애플리케이션과 같은 대규모 AI 모델에 대한 학습을 가속화하도록 최적화되어 있습니다.

이 아키텍처는 도구가 필요 없는 모듈러 철학을 중심으로 설계되었습니다. 랙에서 분리하지 않고도 주요 구성 요소를 시스템 섀시에서 제거하여 더 나은 서비스성과 시스템 가동 시간을 늘릴 수 있습니다. 이 혁신적인 설계의 모듈러성 덕분에 차세대 CPU와 GPU를 전방에서 지원할 수 있습니다.

오늘날 AI 기반 데이터 센터의 요구 사항 충족

Intel® Xeon® processors 및 Intel® Gaudi® 가속기 기반의 Dell PowerEdge 포트폴리오는 다양한 전력, 성능 및 전력 효율성 요구 사항을 충족합니다. 이러한 솔루션은 포트폴리오 전반에서 AI 및 HPC를 비롯한 광범위한 워크로드에서 탁월한 성능을 제공합니다.

워크로드에 최적화된 성능 및 전력 효율 향상
5th Gen Intel® Xeon® Scalable 프로세서

5세대 Intel® Xeon® processors 이전 세대와 동일한 전력 엔벨로프에서 더 많은 컴퓨팅과 더 빠른 메모리를 확보하고, 인공 지능, HPC, 데이터베이스, 네트워킹 및 스토리지에서 뛰어난 성능과 TCO 이점을 플러스 누리십시오. 시스템을 빠르게 배율하고 신규 기회를 창출해 보십시오. 이 세대는 이전 세대와 호환되는 소프트웨어 및 플랫폼이므로 신규 시스템과 인스턴스를 배포할 때 테스트와 검증을 최소화할 수 있습니다. 레거시 서버를 교체하면 놀라운 효율성을 실현하는 동시에 우수한 사용 사례를 통해 경쟁 우위를 확보할 수 있습니다.

내장형 가속기를 갖춘
4th Gen Intel® Xeon® Scalable 프로세서

4세대 Intel® Xeon® processors는 AI, 데이터 분석, 네트워킹, 스토리지, HPC 등의 성능을 향상하도록 많은 가속기를 갖추고 있습니다. 가장 빠르게 성장하는 워크로드 전반에서 성능을 가속하기 위해 설계된 4세대 Intel® Xeon® Scalable processors를 소개합니다. 이 프로세서는 시장에 출시된 CPU 중 가장 많은 내장 가속기를 갖추어 특히 AI로 구동되는 새로운 워크로드의 성능 효율성 향상을 지원합니다. 성능 향상에 더해, 4세대 Intel® Xeon® processors는 고급 보안 기술을 갖추어 끝없이 변화하는 위협 환경에서 데이터 보호를 지원하면서 동시에 비즈니스 인사이트를 위한 새로운 기회를 창출합니다.

AI 및 고성능 컴퓨팅(HPC)을 위한 특수 설계

AI, 복잡한 시뮬레이션 및 대규모 데이터 세트는 매우 빠른 상호 연결과 완전히 가속된 소프트웨어 스택을 갖춘 여러 GPU가 필요합니다. NVIDIA HGX™ 플랫폼은 NVIDIA GPU, NVIDIA NVLink™, NVIDIA 네트워킹, 완전히 최적화된 AI 및 고성능 컴퓨팅(HPC) 소프트웨어 스택의 최고 성능을 통합하여 가장 높은 애플리케이션 성능을 제공하고 모든 데이터센터에서 인사이트를 얻는 데 가장 적은 시간을 할애합니다.

NVIDIA H100 / 200 Tensor 코어 GPU로 모든 워크로드에 대해 전례 없는 성능, 확장성, 보안을 달성하세요. NVIDIA® NVLink® 스위치 시스템을 사용하면 최대 256개의 GPU를 연결하여 엑사스케일 워크로드를 가속화하고 전용 트랜스포머 엔진으로 매개 변수가 조 단위인 언어 모델을 처리할 수 있습니다. 여러 기술 혁신이 결합된 NVIDIA HGX GPU는대규모 언어 모델의 속도를 이전 세대에 비해 30배 더 향상하여 업계를 선도하는 대화형 AI를 제공할 수 있습니다.

GPU의 데이터 이동 및 액세스 향상

NVIDIA GPUDirect® 는 Magnum IO 에 포함된 기술 제품군으로, NVIDIA 데이터 센터 GPU의 데이터 이동 및 액세스를 향상시킵니다. GPUDirect를 사용하면 네트워크 어댑터와 스토리지 드라이브가 GPU 메모리에서 직접 읽고 쓸 수 있으므로 불필요한 메모리 복사를 제거하고 CPU 오버헤드를 줄이며 지연 시간을 단축하여 성능을 크게 향상시킬 수 있습니다. GPUDirect Storage, GPUDirect Remote Direct Memory Access(RDMA), GPUDirect Peer to Peer(P2P), GPUDirect Video를 포함한 이러한 기술은 포괄적인 API 세트를 통해 제공됩니다.

GPUDirect RDMA : NVIDIA GPU 간 직접 통신

원격 직접 메모리 액세스(RDMA)를 통해 주변 PCIe 장치가 GPU 메모리에 직접 액세스할 수 있습니다. GPU 가속 요구 사항을 충족하도록 특별히 설계된 GPUDirect RDMA는 원격 시스템의 NVIDIA GPU 간 직접 통신을 제공합니다. 이를 통해 시스템 CPU와 시스템 메모리를 통한 데이터 복사본 버퍼가 필요 없어져 성능이 10배 향상됩니다.

GPUDirect RDMA는 CUDA 툴킷에서 사용할 수 있습니다. GPUDirect RDMA를 지원하는 타사 드라이버가 있으면 네트워크 공급업체에 문의하여 다운로드하세요.

저장소와 GPU 메모리 간 직접 경로 GPUDirect 스토리지

AI, HPC 및 데이터 분석 데이터 세트의 크기가 계속 증가함에 따라 데이터 로딩 시간이 애플리케이션 성능에 영향을 미치기 시작했습니다. 빠른 GPU는 느린 I/O(스토리지에서 GPU 메모리로 데이터를 로딩하여 처리하는 과정)로 인해 점점 더 많은 부하를 받고 있습니다.

GPUDirect Storage는 NVMe 또는 NVMe over Fabric(NVMe-oF)과 같은 로컬 또는 원격 스토리지와 GPU 메모리 간의 직접 데이터 경로를 지원합니다. CPU 메모리의 바운스 버퍼를 통해 추가 복사를 방지하고, NIC 또는 스토리지 근처의 직접 메모리 액세스(DMA) 엔진이 CPU에 부담을 주지 않고 GPU 메모리에 직접 데이터를 전송합니다.

시스템 레이아웃

전면 패널

후면 패널