모든 데이터 센터에서 고급 AI를 가속화 NVIDIA HGX Platform
NVIDIA HGX™ 플랫폼은 NVIDIA GPU, NVIDIA NVLink™, NVIDIA 네트워킹, 완벽하게 최적화된 AI 및 고성능 컴퓨팅(HPC) 소프트웨어 스택의 모든 기능을 하나로 모아 모든 데이터 센터에서 최고의 애플리케이션 성능을 제공하고 가장 빠른 시간 내에 통찰력을 확보할 수 있도록 지원합니다.
-
AI 추론의 시대를 여는 NVIDIA Blackwell Ultra AI 팩토리 플랫폼
NVIDIA Blackwell Ultra는 추론 중 추가적인 계산을 할당해 정확도를 개선하는 기법인 테스트 타임 스케일링(Test-Time Scaling, TTS)으로 추론과 훈련을 강화합니다. 이를 통해 AI 추론이나 에이전틱 AI(Agentic AI), 물리 AI와 같은 애플리케이션을 어디서나 가속할 수 있습니다.
-
최고의 AI 성능을 제공하는 Spectrum-X 네트워킹 플랫폼과 함께 사용하세요
NVIDIA Spectrum-X 이더넷 스위치와 NVIDIA Spectrum-X 이더넷 SuperNIC™의 긴밀한 결합으로 구동되는 이 플랫폼은 데이터센터 내 AI 컴퓨트 패브릭을 연결하고, Spectrum-XGS Ethernet을 통해 여러 AI 데이터센터까지 확장하며 AI에 최적화된 최고 성능을 제공합니다.
-
안전한 AI 인프라 솔루션 위해
파트너사와의 협력 강화NVIDIA AI 엔터프라이즈 액세스를 포함한 클라우드, 온프레미스 AI 인프라 제공으로 뛰어난 보안성을 갖춘 이더넷 기반 인프라로의 기업 AI 전환을 지원합니다. NVIDIA는 파트너십을 강화함으로써 기업들은 대규모 AI 솔루션을 구축, 배포, 관리, 보호하는 데 필요한 기술과 전문성을 갖춥니다.
-
Cisco UCS C880A M8 Rack Server (NVIDIA HGX B300)Cisco UCS C880A M8 랙 서버는 NVIDIA HGX 플랫폼을 기반으로 하는가장 까다로운 인공지능 및 고성능 컴퓨팅 워크로드를 처리하도록 설계된 고밀도 공랭식 랙 서버입니다. 고급 아키텍처를 기반으로 하는 C880A M8은 탁월한 성능, 확장성 및 엔터프라이즈 관리 용이성을 보장하여 대규모 AI 모델 학습, 미세 조정, 추론과 같은 컴퓨팅 집약적인 AI 사용 사례에 이상적입니다.
자세히 보기 -
QCT QuantaGrid D75H-10U Rack Server (NVIDIA HGX B300)QuantaGrid D75H-10U는 학습용 72 PFLOPS FP8, 추론용 144 PFLOPS FP4의 성능을 제공하여 하이퍼스케일러가 대규모 고속 스케일아웃 GPU 클러스터를 구축하여 LLM 학습 및 추론을 가속화하는 데 이상적입니다. 에이전트 AI, AI 추론, 실시간 비디오 생성 등 모든 데이터 센터에서 가장 복잡한 워크로드에 혁신적인 성능을 제공합니다.
자세히 보기 -
Dell PowerEdge XE9780 Rack Server (HGX B300 + Intel CPU)PowerEdge XE9780은 AI 모델 학습, 대규모 추론 및 미세 조정을 위한 최고의 성능을 제공합니다. AI 구축 및 관리에 필요한 신뢰성과 유연성을 제공합니다. 탁월한 신뢰성과 운영 중단 없는 컴퓨팅 성능이 필요한 사용자를 위해 설계된 PowerEdge XE 서버는 최첨단 하드웨어로, 집약적인 워크로드에 최적화되어 있습니다.
자세히 보기 -
Dell PowerEdge XE9785 Rack Server (HGX B300 + AMD CPU)PowerEdge XE9785은 기존 엔터프라이즈 데이터 센터와의 통합을 간소화 하며 NVIDIA HGX™ B300을 탑재한 공랭식 서버입니다. 탁월한 신뢰성과 운영 중단 없는 컴퓨팅 성능이 필요한 사용자를 위해 설계된 PowerEdge XE 서버는 최첨단 하드웨어로, 집약적인 워크로드에 최적화되어 있습니다.
자세히 보기 -
SV8800-NSSV8800-NS는 듀얼 6세대 Intel® Xeon® 확장 가능 프로세서를 탑재한 10U NVIDIA® Blackwell HGX™ B200 8GPU 서버로, 최대 11개의 PCIe 슬롯, 32개의 DIMM 슬롯, 10개의 NVMe 스토리지, 듀얼 10Gb LAN을 지원하여 엔터프라이즈 AI 팩토리 애플리케이션을 위한 최적의 성능과 확장성을 제공합니다.
자세히 보기
비교할 수 없는 엔드-투-엔드 가속 컴퓨팅 플랫폼
NVIDIA HGX™ 플랫폼은 NVIDIA GPU, NVIDIA NVLink™, NVIDIA 네트워킹, 완벽하게 최적화된 AI 및 고성능 컴퓨팅(HPC) 소프트웨어 스택의 모든 기능을 하나로 모아 모든 데이터 센터에서 최고의 애플리케이션 성능을 제공하고 가장 빠른 시간 내에 통찰력을 확보할 수 있도록 지원합니다.
NVIDIA HGX B300은 8개의 NVIDIA Blackwell Ultra GPU를 고속 상호 연결로 통합하여 HGX B200 대비 1.5배 더 높은 FP4 Tensor Core FLOPS와 2배 더 높은 어텐션 성능을 제공하여 데이터 센터를 가속 컴퓨팅 및 생성적 AI의 새로운 시대로 이끌 것입니다. 이전 세대보다 최대 30배 더 많은 AI Factory 출력을 제공하는 최고의 가속 스케일업 플랫폼인 NVIDIA Blackwell Ultra 기반 HGX 시스템은 가장 까다로운 생성적 AI, 데이터 분석 및 HPC 워크로드를 위해 설계되었습니다.
모듈식 설계를 채택하여 광범위한 AI, 고성능 컴퓨팅(HPC) 및
5G 애플리케이션을 위한 여러 모듈식 데이터 서버를 경험하세요.
-
하이브리드 환경에 최적화된 클라우드Cisco의 UCS C-Series 랙 서버 시리즈는 프로세서, 메모리, I/O, 내부 스토리지 리소스를 자유롭게 사용하여 워크로드 당면과제를 해결할 수 있습니다. 여러 하이브리드 클라우드 환경에 걸쳐 컴퓨팅 리소스를 빠르게 배포 및 관리를 최적화 하세요.
-
가장 안전하고 유연하며 효율적인 스케일아웃Dell의 PowerScale은 GPU 집약적인 서버에 데이터를 공급하고 규모에 맞춰 AI 워크플로우를 가속화하는 엔드-투-엔드 데이터 솔루션을 제공하며, 단순성을 최우선으로 생각합니다. 효과적인 데이터 전략을 구현하고 전체 데이터 자산에서 비정형 메타데이터 검색 기능을 향상 시키세요.
-
가장 극한의 AI-HPC 워크로드를 위한 고급 성능Quanta/QCT는 주요 플랫폼 기술을 신속하게 채택할 수 있도록 설계된 개방형 미래 호환 가속 컴퓨팅 참조 아키텍처인 MGX 아키텍처를 도입하는 데 있어 NVIDIA와 선도적인 파트너입니다.
-
AI 추론 성능 및 다용성
HGX B300 AI 공장 출력으로 수익 증대프런티어 곡선은 AI 팩토리 토큰 수익 산출량을 결정하는 주요 매개변수를 보여줍니다. 세로축은 1메가와트(MW) AI 팩토리에서 초당 GPU 토큰 처리량(TPS)을 나타내고, 가로축은 단일 사용자에 대한 사용자 상호작용성과 반응성을 TPS로 정량화 합니다. 처리량과 반응성이 최적의 교차점에서 HGX B300은 최대 토큰 수익을 위해 NVIDIA Hopper 아키텍처 대비 AI 팩토리 출력 성능을 전체적으로 30배 향상시킵니다.
-
대규모 AI 모델을 위한 확장 가능한 교육
차세대 교육 성과HGX B300 플랫폼은 DeepSeek-R1과 같은 대규모 언어 모델에 대해 최대 2.6배 더 높은 학습 성능을 제공합니다. 2TB 이상의 고속 메모리와 14.4TB/s의 NVLink 스위치 대역폭을 통해 대규모 모델 학습과 고처리량 GPU 간 통신을 지원합니다.
-
5th Gen Intel® Xeon® Scalable 프로세서LGA-4677 소켓을 통해 최대 21%의 평균 범용 성능 향상을 실현하여 AI 추론 및 학습을 크게 향상시킵니다. 혁신적인 이 프로세서는 AI, HPC, 분석, 네트워킹, 스토리지를 가속화하고, 최대 2TB 용량의 DDR5-5600 메모리 채널 8개, CXL 1.1을 지원하는 80개의 PCI Express® 5.0 레인, 그리고 1P 및 2P 구성을 위한 350W TDP를 제공하여 미래 컴퓨팅에 대비합니다.
-
4세대 AMD EPYC™ 프로세서4세대 AMD EPYC™ 프로세서는 AMD가 지금까지 생산한 제품 중 가장 강력한 서버 제품 코어인 5nm 프로세서를 기반으로 최대 96개의 Zen 4 코어를 갖추고 있습니다. 최대 12TB 메모리 및 CXL™ 확장 메모리, PCIe® 5.0 서포트를 지원하는 DDR5 채널 12개와 함께 코어당 1MB L2 캐시, CCD당 32MB L3캐시를 지원하며, 최신 그래픽 및 스토리지 기술에 최대 128레인의 고대역폭을 제공합니다.
-
NVIDIA Blackwell 아키텍처NVIDIA Blackwell™ AI 추론 시대에서 AI 팩토리를 뒷받침하는 엔진이며 현재 본격적으로 양산 중입니다. Blackwell 아키텍처가 생성형 AI와 가속 컴퓨팅에 제공하는 획기적인 발전에 대해 알아보세요. 여러 세대에 걸친 NVIDIA 기술을 기반으로 구축된 Blackwell은 탁월한 성능, 효율성과 규모로 생성형 AI의 다음 장을 정의합니다.
NVIDIA 네트워킹을 통한 HGX 가속화
데이터 센터는 컴퓨팅의 새로운 단위이며, 네트워킹은 데이터 센터 전반의 애플리케이션 성능 확장에 필수적인 역할을 합니다. NVIDIA Quantum InfiniBand와 결합된 HGX는 세계 최고 수준의 성능과 효율성을 제공하여 컴퓨팅 리소스를 최대한 활용할 수 있도록 보장합니다.
이더넷을 구축하는 AI 클라우드 데이터 센터의 경우, HGX는 이더넷을 통해 최고의 AI 성능을 제공하는 NVIDIA Spectrum-X 네트워킹 플랫폼 과 함께 사용하는 것이 가장 좋습니다. 최적의 리소스 활용 및 성능 격리를 위해 Spectrum-X 스위치와 NVIDIA SuperNIC을 탑재하여 모든 규모에서 동시에 실행되는 수천 개의 AI 작업에 대해 일관되고 예측 가능한 결과를 제공합니다. Spectrum-X는 고급 클라우드 멀티 테넌시와 제로 트러스트 보안을 지원합니다.
Optimized HPC & AI Servers의 이점
-
최신 프로세서 지원
Intel Xeon Scalable, AMD EPYC, NVIDIA Grace Hopper 등 최신 CPU 프로세서 지원
-
GPU 가속 컴퓨팅
NVIDIA Blackwell Architecture, Hopper Architecture 등 AI 및 딥러닝 최적화 GPU 솔루션
-
메모리 용량 및 속도
사용자의 애플리케이션의 메모리 요구사항에 맞춰 최적의 DDR5/DDR4 메모리 용량과 속도제안
-
고속 인터커넥트
스케일업 인프라를 위한 최고의 InfiniBand, RoCE, NVLink를 통한 초고속 네트워크로 데이터 전송 병목 현상 제거
-
고밀도 스토리지
NVMe, Intel Optane, SSD 등 최첨단 고성능 스토리지 솔루션 통합, 데이터 집약적인 작업에 압도적인 속도와 효율성 제공