리더스시스템즈

Optimized HPC & AI Servers > Dell PowerEdge XE9680

Dell PowerEdge XE9680

5th / 4th Gen Intel® Xeon® Scalable Processors
2U rack server
Standard (STD) fan / Up to six hot plug fans
Memory : 32 DDR5 DIMM slot, supports RDIMM 8 TB max
Speeds up to 4800 MT/s on the 4th Generation Intel® Xeon Scalable processor
Speeds up to 5600 MT/s on the 5th Generation Intel® Xeon Scalable processor
Supports registered ECC DDR5 DIMMs only
Cooling Options : Air cooling
2 x 1GbE LOM card (optional)
1 x OCP card 3.0 (optional)
Up to twelve PCIe slots (x16 connector)
Up to 4 x 400 W DW PCIe x 16 GPU or Up to 12 x 75 W SW PCIe x 8 GPU

데이터시트 다운

Optimized HPC & AI Servers의 이점

최신 프로세서 지원
Intel Xeon Scalable, AMD EPYC, NVIDIA Grace Hopper 등 최신 CPU 프로세서 지원
GPU 가속 컴퓨팅
NVIDIA Blackwell Architecture, Hopper Architecture 등 AI 및 딥러닝 최적화 GPU 솔루션
메모리 용량 및 속도
사용자의 애플리케이션의 메모리 요구사항에 맞춰 최적의 DDR5/DDR4 메모리 용량과 속도제안
고속 인터커넥트
스케일업 인프라를 위한 최고의 InfiniBand, RoCE, NVLink를 통한 초고속 네트워크로 데이터 전송 병목 현상 제거
고밀도 스토리지
NVMe, Intel Optane, SSD 등 최첨단 고성능 스토리지 솔루션 통합, 데이터 집약적인 작업에 압도적인 속도와 효율성 제공

인공지능, 생성적 AI, 고성능 컴퓨팅을 위해 특별히 구축되었으며
가속에 최적화된 강력한 플랫폼, Dell AI Servers

Secure 3.5X 더 많은 보안 관리 기능
Efficient 73% 전력 효율성 향상
High-performance 37% 세대별 성능 향상

PowerEdge로 탁월한 성과로 비즈니스 성공을 촉진하세요

PowerEdge 가속 컴퓨팅 서버로 탁월한 성능과 효율성을 확보하세요. 데이터 센터 또는 엣지에 위치한 엔터프라이즈 인프라의 운영 생산성을 극대화하고 혁신적인 결과를 달성하세요.

고급 처리 능력
최신 멀티코어 프로세서가 장착된 서버로 더 빠른 결과를 얻으세요. CPU를 활용하여 신뢰할 수 있는 인공지능 및 머신러닝 워크로드를 위한 빠른 데이터 처리와 향상된 애플리케이션 성능을 제공하세요.
혁신적인 냉각 및 전력
PowerEdge 서버는 에너지 효율 및 열 관리 분야에서 30년간 업계를 선도해 온 기술력을 자랑합니다. 혁신적인 공랭식 및 직접 액체 냉각 기술로 비용을 절감하고, 스마트 전력 및 관리 도구를 통해 시스템 성능을 최적화하세요.
간단한 확장성
고밀도 구성과 유연한 스토리지 옵션을 통해 비즈니스 요구 증가에 따라 컴퓨팅 인프라를 손쉽게 확장할 수 있습니다. 운영 효율성을 향상시키는 맞춤형 통합 랙 솔루션으로 출시 기간을 단축하고 구축을 간소화하세요.
워크로드에 최적화
다양한 구성 옵션 중에서 귀사의 특정 운영 요구 사항을 충족하는 옵션을 선택하세요. 다양한 GPU 옵션과 랙 스케일 구축 환경과의 완벽한 통합을 통해 최대 성능을 위해 완벽하게 맞춤화된 확장 가능한 시스템을 구축할 수 있습니다.

PowerEdge를 통한 인공 지능 워크로드 향상

가상 어시스턴트 및 챗봇
언제든지 사용할 수 있는 AI 기반 디지털 어시스턴트로 셀프 서비스 경험을 향상하십시오. 선호하는 언어로 개인화된 상호 작용을 통해 일상적인 작업을 보다 효율적으로 완료하고 고객 대화를 흥미롭고 재미있게 만들 수 있습니다.
도구가 필요 없는 커버
작업을 자동화하고 결과를 개선하십시오. 컴퓨터 비전 솔루션은 비디오, 이미지 및 LiDAR 데이터를 분석하여 안전을 강화하고 수익성을 높이는 동시에 지속 가능성과 운영 효율성 목표를 달성합니다.
디지털 트윈
실제 엔터티 및 프로세스의 가상 표현에서 통찰력을 얻을 수 있습니다. 디지털 트윈은 보안을 강화하고 위험을 완화하며 운영을 최적화하기 위한 포괄적인 시각을 제공합니다.

오늘날 AI 기반 데이터 센터의 요구 사항 충족

Intel® Xeon® processors 및 Intel® Gaudi® 가속기 기반의 Dell PowerEdge 포트폴리오는 다양한 전력, 성능 및 전력 효율성 요구 사항을 충족합니다. 이러한 솔루션은 포트폴리오 전반에서 AI 및 HPC를 비롯한 광범위한 워크로드에서 탁월한 성능을 제공합니다.

워크로드에 최적화된 성능 및 전력 효율 향상
5th Gen Intel® Xeon® Scalable 프로세서

5세대 Intel® Xeon® processors 이전 세대와 동일한 전력 엔벨로프에서 더 많은 컴퓨팅과 더 빠른 메모리를 확보하고, 인공 지능, HPC, 데이터베이스, 네트워킹 및 스토리지에서 뛰어난 성능과 TCO 이점을 플러스 누리십시오. 시스템을 빠르게 배율하고 신규 기회를 창출해 보십시오. 이 세대는 이전 세대와 호환되는 소프트웨어 및 플랫폼이므로 신규 시스템과 인스턴스를 배포할 때 테스트와 검증을 최소화할 수 있습니다. 레거시 서버를 교체하면 놀라운 효율성을 실현하는 동시에 우수한 사용 사례를 통해 경쟁 우위를 확보할 수 있습니다.

내장형 가속기를 갖춘
4th Gen Intel® Xeon® Scalable 프로세서

4세대 Intel® Xeon® processors는 AI, 데이터 분석, 네트워킹, 스토리지, HPC 등의 성능을 향상하도록 많은 가속기를 갖추고 있습니다. 가장 빠르게 성장하는 워크로드 전반에서 성능을 가속하기 위해 설계된 4세대 Intel® Xeon® Scalable processors를 소개합니다. 이 프로세서는 시장에 출시된 CPU 중 가장 많은 내장 가속기를 갖추어 특히 AI로 구동되는 새로운 워크로드의 성능 효율성 향상을 지원합니다. 성능 향상에 더해, 4세대 Intel® Xeon® processors는 고급 보안 기술을 갖추어 끝없이 변화하는 위협 환경에서 데이터 보호를 지원하면서 동시에 비즈니스 인사이트를 위한 새로운 기회를 창출합니다.

까다로운 인공 지능, 머신 러닝 및 딥 러닝 사용 PowerEdge XE9680

PowerEdge XE9680은 Dell 최초의 8-way GPU 서버를 사용한 Generative AI 및 ML/DL 훈련의 탁월한 성능 경험이 가능합니다. AI (Artificial Intelligence), 머신 러닝 및 딥 러닝용으로 제작된 고성능 애플리케이션 서버를 통해 대규모 머신 러닝 모델을 신속하게 개발, 훈련 및 배포합니다.

이 서버는 AI 교육 및 HPC 사례에 맞게 대규모 언어 모델 / 권장 엔진 / 분자 역학 및 게놈 시퀀싱에 맞게 설계 및 최적화된 고성능 서버입니다.

성능 저하 없는 AI 인프라스트럭처
Dell XE9680 6U 서버는 Dell 최초의 8x GPU 플랫폼입니다. 매우 복잡한 GenAI, ML/DL (Machine Learning/Deep Learning) 및 HPC(High Performance Computing) 워크로드를 구동하여 애플리케이션 성능을 크게 향상하도록 설계되었습니다. 이 서버는 최대 64코어 5세대 인텔 제온 프로세서를 탑재했으며, 현재 제공되는 것 중 가장 높은 GPU 메모리 용량과 대역폭을 제공하므로 매우 크고 복잡한 모델과 데이터 세트를 관리할 수 있습니다.
원하는 GPU 모듈로 맞춤 구성 가능
NVLink와 완벽하게 상호 연결된 8개의 NVIDIA H100 또는 8개의 H200 SXM5 700W GPU, Infinity Fabric 링크와 완벽하게 상호 연결된 8개의 AMD Instinct MI300X 750W OAM GPU 또는 내장형 RoCE 포트를 갖추고 이더넷 연결이 가능한 8개의 인텔 Gaudi 3 900W OAM 가속기를 제공합니다. 여기에 포함된 GPU-GPU 통신과 최대 1.5TB1의 일관된 공유 GPU 메모리를 통해 생성형 AI 훈련 성능을 향상합니다.
I/O 처리량 향상
- •
  DDR5, PCIe Gen 5.0 및 NVMe SSD를 비롯한 최신 세대 기술을 배포하여 데이터 흐름과 컴퓨팅 가능성의 한계를 뛰어넘습니다.
- •
  최대 10개의 전면 PCIe Gen 5 슬롯2과 최대 16개의 드라이브로 고성능 실시간 AI 작업을 위한 최적의 확장이 가능합니다.
- •
  Generative AI를 위한 Dell Validated Designs 및 포괄적인 Dell Services의 서비스 항목 덕분에 인프라스트럭처 및 워크플로우 통합 시 추측에 의존할 필요가 없습니다.
제로 트러스트 IT 환경 및 운영을 위한
사이버 회복탄력성을 갖춘 아키텍처
보안은 보호된 공급망과 공장-현장 무결성 보장을 포함하여 PowerEdge 수명주기의 모든 단계에 통합됩니다. 실리콘 기반 RoT(Root of Trust)는 완벽한 부팅 회복탄력성을 보장하며 MFA (Multi-Factor Authentication) 및 역할 기반 액세스 제어는 신뢰할 수 있는 운영을 보장합니다.
자율 운영 인프라스트럭처로 효율성 증가 및 운영 가속
Dell OpenManage™ 시스템 관리 포트폴리오는 PowerEdge 서버를 위한 안전하고 효율적이며 포괄적인 솔루션을 제공합니다. OpenManage Enterprise 콘솔 및 iDRAC를 통해 일대다 관리를 간소화, 자동화 및 중앙 집중화할 수 있습니다.
지속 가능성
제품 및 패키징의 재활용 자재부터 에너지 효율성을 위한 신중하고 혁신적인 옵션에 이르기까지 PowerEdge 포트폴리오는 탄소 배출량을 줄이고 운영 비용을 절감할 수 있도록 제품을 제작, 제공 및 재활용할 수 있게 설계되었습니다. Dell Technologies Services를 통해 기존 시스템을 책임감 있게 폐기할 수도 있습니다.

1. AMD Instinct MI300X만 해당
2. 인텔 Gaudi 3가 장착된 PCIe 슬롯 8개

불가능하다고 생각했던 혁신 구현

자동화와 혁신을 가속화하도록 엔지니어링된 강력하고 안전한 최신 서버 제품군으로 어디서나 대규모 컴퓨팅을 구축할 수 있습니다.

8개의 U.2 NVME 또는 2.5” SAS4/SATA SSD 드라이브

강력한 성능과 유연성

인텔 CPU, NVIDIA GPU 및 차세대 메모리, 스토리지 및 확장 기술로 가치를 최대한 빠르게 실현하고 성능 저하 없이 AI를 가속화하여 최고의 성과를 달성하십시오.

• 8개의 GPU와 2개의 4세대 Intel® Xeon® 프로세서로 혁신의 경계를 허물어 보십시오.
•
NVIDIA NVLink 기술로 완전히 상호 연결된 8개의 NVIDIA HGX H100 80GB 700W SXM5 GPU 또는 AMD Infinity 패브릭으로 완전히 상호 연결된 8개의 AMD Instinct MI300X 가속기를 유연하게 선택할 수 있습니다.
•
에너지 효율을 높이는 Dell Smart Cooling 기술을 기반으로 공랭식으로 작동합니다(최대 35°C)

16개의 E3.S Thin NVME 드라이브

원활하고 안전한 확장

최신 기술을 사용하여 비즈니스 전반에 걸쳐, 모든 AI 이니셔티브에 대해 강력한 기능의 AI를 배포하고 지원합니다.

•
최대 32개의 DDR5 메모리 DIMM 슬롯, 최대 8개의 U.2 드라이브 및 최대 10개의 전면 PCIe Gen5 확장 슬롯을 지원하여 더 많은 요구 사항을 충족시킵니다.
•
보안 구성 요소 검증 및 실리콘 RoT(Root of Trust) 등의 내장된 플랫폼 보안 기능을 통해 서버 구축 전에도 안심하고 AI 운영을 배포할 수 있습니다.
•
모든 PowerEdge에서 iDRAC 규정을 완전히 준수하고 OME(Open Management Enterprise)를 지원하여 AI 운영을 효율적이고 일관되게 관리할 수 있습니다.

시스템 레이아웃

H100 GPU 장착시 내부 시스템

Extreme Performance : 8x H100 700W 80GB SXM5 GPUs

전면 8개의 2.5인치 NVME/SAS4 drives system 구성

Balance of Performance and Power : 8x A100 500W 80GB SXM4 GPUs

전면 패널

후면 패널

시스템 관리 및 보안 솔루션

OpenManage Systems Management
Dell Technologies OpenManage Systems Management 포트폴리오로 IT 환경의 복잡성을 해소하십시오. 이 포트폴리오는 다양한 툴과 솔루션을 사용하여 PowerEdge 인프라스트럭처를 검색, 구축, 모니터링, 관리, 업데이트 및 보호합니다.
지능형 자동화
조직이 서버 수명주기를 자동화하고 운영을 최적화하며 효율적으로 확장할 수 있도록 지원하는 PowerEdge iDRAC, OpenManage Enterprise 및 CloudIQ 솔루션으로 포트폴리오 전반에서 툴을 통합하십시오.
내장된 보안 기능
제로 트러스트 보안 전략의 도입을 가속화하는 데 도움이 되는 PowerEdge 사이버 회복 탄력성을 갖춘 아키텍처를 통해 제품 수명주기의 모든 단계에서 보안을 유지하십시오. 실리콘 기반 RoT(Root of Trust), 보안 구성 요소 검증, 서명된 펌웨어 및 변경 사항 탐지부터 BIOS 복구 및 동적 시스템 잠금에 이르기까지 다양한 기능을 통해 서버의 보안이 보장됩니다.