-
자세히 보기NVIDIA DGX Vera Rubin NVL72 GPU racks
액체 냉각 방식의 랙 규모 시스템으로, 에이전트형 AI 및 추론 모델의 학습 및 추론 속도를 높이는 동시에 토큰당 비용을 극대화합니다.
-
자세히 보기NVIDIA Vera CPU racks
대규모 생성 AI와 기타 트랜스포머 기반 워크로드의 훈련과 추론을 위한 NVIDIA Blackwell Ultra 기반 AI 시스템입니다.
-
자세히 보기NVIDIA Groq 3 LPX inference accelerator racks
NVIDIA Groq 3 LPX는 NVIDIA Vera Rubin을 위한 추론 가속기로, 에이전틱 시스템의 저지연 및 대규모 컨텍스트 요구 사항을 충족하도록 설계되었습니다.
-
자세히 보기NVIDIA BlueField-4 STX storage racks
액체 냉각 방식의 랙 규모 시스템으로, 에이전트형 AI 및 추론 모델의 학습 및 추론 속도를 높이는 동시에 토큰당 비용을 극대화합니다.
-
자세히 보기NVIDIA Spectrum-6 SPX Ethernet racks
대규모 생성 AI와 기타 트랜스포머 기반 워크로드의 훈련과 추론을 위한 NVIDIA Blackwell Ultra 기반 AI 시스템입니다.
-
자세히 보기NVIDIA CMX Context Memory Storage Platform
액체 냉각 방식의 랙 규모 시스템으로, 에이전트형 AI 및 추론 모델의 학습 및 추론 속도를 높이는 동시에 토큰당 비용을 극대화합니다.
NVIDIA Vera CPU Rack 엔비디아코리아 정품
- Configuration: 256 NVIDIA Vera 256 NVIDIA Vera CPUs
- Cores : 22,528 custom NVIDIA Olympus cores (88 per CPU)
- Threads: 45,056 threads (176 per CPU)
- Memory Capacity: Up to 400 TB SOCAMM LPDDR5X
- Peak Memory Bandwidth: Up to 300 TB/s aggregate
- NVIDIA NVLINK™-C2C Bandwidth: 1.8 TB/s per CPU
- Form Factor and Cooling: 48U MGX Rack, 100% liquid cooled
AI 팩토리를 위한 랙 스케일 인프라
NVIDIA MGX™ 기반으로 구축된 NVIDIA Vera CPU 랙은 최신 AI 팩토리를 위한 고밀도 액체 냉각 CPU 인프라를 제공합니다. 강화 학습 및 에이전트 기반 AI 시스템이 확장됨에 따라 CPU는 코드를 실행하고, 도구를 사용하고, 결과를 평가하고, 결과를 도출하는 데이터를 분석하는 샌드박스 환경을 운영합니다. NVIDIA Vera CPU 랙은 최대 256개의 Vera CPU를 상호 연결할 수 있으며, NVIDIA Vera Rubin NVL72 시스템과 함께 고밀도 CPU 용량을 신속하게 배포할 수 있도록 지원합니다. 이를 통해 기존 CPU 인프라보다 최대 80% 더 빠른 속도로 워크로드를 처리하고 AI 팩토리가 비용 대비 더 많은 토큰을 생성할 수 있도록 돕습니다.
-
에이전트 시대의 CPU
NVIDIA Vera는 기존 x86 CPU 대비 1.8배 빠른 작업 완료 속도를 제공하여 에이전트 AI, 강화 학습, 데이터 처리 등의 워크로드를 신속하게 처리하고 최대 1.2TB/s 대역폭의LPDDR5X 메모리를 통해 대기 시간을 축소하며, 가속기(GPU) 효율을 극대화 합니다.
-
가속 시스템 및 네트워킹/보안 통합
NVIDIA Vera 시스템은 2세대 NVIDIA NVLink™-C2C 인터커넥트 기술을 통해 NVIDIA Vera Rubin 플랫폼의 호스트 CPU 역할을 하며, CPU와 GPU 간에 최대 1.8TB/s의 일관성 있는 대역폭을 제공합니다. 이를 통해 NVIDIA 기밀 컴퓨팅을 랙 규모로 확장하여 에이전트 기반 워크로드를 보호합니다.
-
광범위한 생태계 지원
NVIDIA Vera 시스템은 대규모 AI 환경을 위한 고밀도 수랭식 랙과 엔터프라이즈, 클라우드, 데이터 처리 및 AI 팩토리 배포를 위한 2소켓 공랭식 시스템 등 유연한 냉각 옵션을 지원합니다. 또한 토큰 중심의 AI 경제 구조에서 빠른 데이터 처리와 오케스트레이션을 통해 데이터 센터의 수익을 극대화합니다.
NVIDIA Vera CPU
AI 에이전트는 GPU만으로 실행되는 것이 아닙니다. 모든 에이전트 샌드박스, 모든 도구 호출, 모든 오케스트레이션 계층, 모든 장기 컨텍스트 검색 작업 등은 모두 CPU 작업입니다. Vera는 이러한 현실을 출발점으로 설계된 새로운 유형의 CPU로써 맞춤 설계된 88개의 Olympus 코어, 1.2TB/s의 메모리 대역폭, 코어당 50% 향상된 성능을 제공합니다. 지속적인 부하 상태에서도 작업이 더 빠르게 완료되어 전체 AI 시스템의 효율성이 향상되고, 사용자들은 더욱 빠른 응답 속도로 업무를 처리할 수 있게 됩니다.
벌써 Anthropic, OpenAI, Oracle Cloud Infrastructure, SpaceX AI와 같은 최고 AI 연구소에는NVIDIA Vera CPU 시스템이 도입되었습니다. AI 연구소, 클라우드 제공업체 및 대규모 AI 에이전트를 운영하는 기업을 위한 에이전틱 AI 시대의 필수 CPU 자원입니다.
대규모 에이전트 AI 환경을
효율적으로 확장하세요
강화 학습과 에이전틱 AI는 모델과 실행 환경 간의 지속적인 피드백 루프에서 작동합니다. 모델은 토큰, 코드, 쿼리를 생성하고, CPU 기반 샌드박스는 작업을 실행하고, 결과를 평가하고, 다음 단계를 위한 데이터를 반환합니다. 규모가 커지면 수천에서 수백만 개의 환경이 병렬로 실행되며, 종종 전용 CPU 코어에 매핑됩니다. 코어당 성능이 향상되면 평가 주기가 단축되고, 에이전트 대기 시간이 줄어들며, AI 팩토리가 비용 대비 더 많은 토큰을 생성할 수 있습니다.
NVIDIA Vera CPU 랙은 AI 팩토리 전반에 걸쳐 이러한 환경을 확장할 수 있도록 특별히 설계되었습니다. 단일 액체 냉각 랙에 최대 256개의 Vera CPU를 통합하여 22,500개 이상의 동시 CPU 환경을 지원합니다. 고밀도의 배포 가능한 랙 규모 인프라를 갖춘 Vera CPU 랙은 NVIDIA Vera Rubin NVL72 시스템과 함께 CPU 용량을 확장하여 평가 주기를 단축하고 AI 팩토리를 최대 처리량으로 운영할 수 있도록 합니다.
업계 최고 수준의 에이전트 CPU 성능
에이전트 AI는 기존의 CPU 성능 한계로 인해 병목 현상을 겪습니다. 에이전트의 추론 과정을 위해 CPU는 생성된 코드를 컴파일하고, 파이썬 툴체인을 실행하며, 소프트웨어 코드를 분석합니다. NVIDIA Vera는 이러한 세 가지 워크로드를 주요 x86 CPU 대비 최대 1.8배까지 가속화하여 에이전트 내부 루프의 성능을 극대화하고 AI 팩토리의 생산성을 향상시킵니다.
에이전트 샌드박스 성능이 1.8배 향상되었습니다.
에이전틱 AI는 기존 CPU의 성능 한계로 인해 병목 현상을 겪습니다. 에이전트의 추론 과정에서 CPU는 생성된 코드를 컴파일하고, 파이썬 툴체인을 실행하며, 소프트웨어 코드를 분석합니다. NVIDIA Vera는 이러한 세 가지 워크로드를 주요 x86 CPU 대비 최대 1.8배까지 가속화하여 에이전트 내부 루프의 성능을 극대화하고 AI 팩토리의 생산성을 향상시킵니다.
측정 데이터를 기반으로 한 상대적 성능이며, 변경될 수 있습니다. NVIDIA Vera CPU(LPDDR5X 탑재)의 성능은 최신 세대 x86 CPU를 기준으로 측정되었습니다.
고대역폭, 에너지 효율적인 메모리
기존 DDR5는 대역폭, 효율성, 유지보수성 간의 절충점을 강요합니다. NVIDIA Vera는 LPDDR5X 메모리와 SOCAMM 모듈을 결합하여 서버급 유연성과 업그레이드 가능한 용량을 제공하면서 저전력(LP) 효율성을 구현합니다. 이 모듈은 현장에서 교체가 가능한 분리형 모듈입니다. 결과적으로, 주요 x86 CPU에서 DDR5 대비 2배, 코어당 3배의 대역폭을 제공하여 하이퍼스케일 및 엔터프라이즈 규모에서 AI 팩토리 생산성을 극대화합니다.
측정 데이터를 기반으로 한 상대적 성능이며 변경될 수 있습니다. NVIDIA Vera CPU(LPDDR5X 탑재)의 성능은 주요 CPU 메모리 성능 지표에서 최신 세대 x86 CPU(DDR5 탑재)를 기준으로 측정되었습니다.
NVIDIA Vera CPU Rack 내부 기술
NVIDIA MGX 기반으로 구축된 NVIDIA Vera CPU Rack은 고밀도 액체 냉각 시스템을 통해 데이터 센터 규모에서 Vera의 에이전트형 AI 성능을 제공합니다.
최대 256개의 Vera CPU, 대용량 LPDDR5X 메모리, NVIDIA® BlueField®-4 DPU 및 NVIDIA Spectrum-X™ 이더넷 네트워킹을 갖춘 Vera CPU Rack은
AI 팩토리가 NVIDIA Vera Rubin NVL72 시스템과 함께 고밀도 CPU 용량을 신속하게 배포할 수 있도록 지원합니다.
그 결과, 더 많은 동시 환경, 더 짧은 평가 주기, 비용 대비 더 많은 토큰을 얻을 수 있습니다.
에이전틱 AI를 위한 고밀도 CPU 용량
NVIDIA Vera CPU 랙 하나는 최대 256개의 Vera CPU를 통합하여 22,500개 이상의 동시 CPU 환경을 지원합니다. 이를 통해 AI 개발 환경은 GPU 인프라와 동일한 규모로 샌드박스 실행, 도구 사용, 코드 워크로드 및 강화 학습 평가를 수행할 수 있는 CPU 용량을 확보할 수 있습니다.
Factory 규모에서의 액체 냉각 방식 도입
NVIDIA MGX 기반의 Vera CPU Rack은 액체 냉각 방식의 랙 형태로 즉시 배포 가능한 고밀도 CPU 인프라를 제공합니다. 이로써 AI factory는 NVIDIA Vera Rubin NVL72 시스템과 함께 CPU 용량을 신속하게 추가할 수 있으며, 공랭식 서버만으로 확장할 때 발생하는 낮은 밀도와 복잡한 배포 문제를 해결할 수 있습니다.
최대 부하 조건에서도 예측 가능한 성능
Vera의 빠른 Olympus 코어, LPDDR5X 메모리 및 NVIDIA SCF는 수천 개의 환경을 지속적인 사용 환경에서도 반응성 있게 유지합니다. 코어별 실행 속도 향상은 평가 주기를 단축하고 에이전트 대기 시간을 줄이며 GPU의 효율적인 작동을 지원합니다.
통합 네트워킹 및 오프로드
NVIDIA BlueField-4 DPU와 Spectrum-X 이더넷을 탑재한 Vera CPU Rack은 AI 팩토리 전반에서 대규모 에이전트 기반 및 강화 학습 환경을 실행하는 데 필요한 네트워킹, 격리 및 인프라 서비스를 지원합니다.
NVIDIA Vera CPU
NVIDIA Vera는 에이전트 AI 및 강화 학습을 지원하는 CPU 환경을 구축하며, 빠른 코어별 성능과 대용량 LPDDR5X 메모리 대역폭을 결합하여 AI 팩토리 규모에서 샌드박스 실행, 도구 사용, 평가 및 데이터 워크플로우를 원활하게 진행할 수 있도록 합니다.
NVIDIA MGX
NVIDIA MGX는 개발 비용을 절감하고 최신 데이터 센터 전반에 걸쳐 출시 기간을 단축하는 개방형 모듈식 AI 인프라를 제공합니다.
NVIDIA BlueField-4
NVIDIA BlueField-4 DPU는 AI 팩토리에서 스토리지, 네트워킹, 사이버 보안 및 탄력적 확장에 걸쳐 데이터 처리를 가속화합니다.
NVIDIA Spectrum-X 이더넷
NVIDIA Spectrum-X 이더넷은 AI를 위한 높은 유효 대역폭, 낮은 지연 시간 및 성능 격리 기능을 제공합니다. Vera CPU 랙은 랙 규모의 Spectrum-X 이더넷을 지원하여 전력 효율성과 복원력을 향상시킵니다.
비즈니스에 혁신이 일어나고 있습니다
기업들이 복잡하고 가치 높은 업무를 처리하기 위해 AI 에이전트를 어떻게 산업에 적용하는지 살펴보세요.
-
자율 EDA 엔지니어
복잡한 칩을 설계하고 검증하려면 수십 개의 전문 도구를 활용하여 수개월에 걸친 워크플로우를 조율해야 합니다. 이러한 작업은 시간이 오래 걸리고 비용이 많이 들며 엔지니어링 역량에 의해 병목 현상이 발생합니다. NVIDIA Agent Toolkit과 NemoClaw를 사용하면 파트너는 인수인계 없이 여러 도구를 사용하는 EDA 워크플로우를 계획하고 실행하는 자율적인 AI 엔지니어를 구축하여 몇 주가 걸리던 RTL 검증 시간을 몇 시간으로 단축할 수 있습니다.
-
비디오 분석 에이전트
기존 비디오 분석은 학습된 대상만 감지할 뿐, 실제 운영 환경의 맥락과 복잡성을 파악하지 못합니다. 차세대 고정밀 비디오 분석 에이전트는 단순한 감지를 넘어 공장, 창고, 소매점, 공항, 도로 등 다양한 환경에서 발생하는 대규모 실시간 및 녹화 영상 데이터를 인지하고 추론하며 그에 따라 행동합니다. NVIDIA Metropolis VSS Blueprint 와 Cosmos 로 구축된 이 에이전트는 운영팀이 더 나은 결정을 더 빠르게 내리고 자동화의 새로운 가능성을 열어갈 수 있도록 지원합니다.
-
IT 서비스 데스크 담당자
레벨 1 지원은 처리량이 많고 반복적이며 비용이 많이 들지만, 세심한 관리와 감사 기능이 필수적입니다. NVIDIA Agent Toolkit으로 구축된 IT 서비스 데스크 디지털 협력자는 접수된 지원 티켓을 분석하고, 지식과 과거 데이터를 활용하여 근본 원인을 조사하고, 기업 전반의 도구를 사용하여 문제 해결을 실행함으로써 전체 워크플로우를 자율적으로 완료하는 동시에 완벽한 관리 및 제어 기능을 유지할 수 있습니다.
-
건강 및 생명 과학 에이전트
AI 에이전트는 신약 개발, 임상 문서 작성, 의사 결정 지원, 로봇 공학, 병원 자동화부터 환자 참여에 이르기까지 복잡한 워크플로 자동화를 통해 임상의, 연구원, 개발자의 업무 방식을 혁신하고 있습니다. NVIDIA의 개방형 모델 인프라를 기반으로 구축된 이러한 에이전트는 진료 및 연구 과정의 모든 단계에서 발견을 가속화하고 결과를 개선하는 것을 목표로 합니다.
-
사이버 방어 에이전트
보안팀은 매일 수천 건의 경고에 직면하지만, 각 경고를 철저히 조사하기에는 시간이 부족합니다. NVIDIA Agent Toolkit과 Nemotron 추론 모델로 구축된 사이버 방어 디지털 협력자는 위협을 자율적으로 모니터링하고, 사건의 우선순위를 정하고, 대응을 조율할 수 있습니다. 따라서 분석가는 최우선 순위의 위협에 집중하고, 에이전트는 많은 양의 경고를 처리할 수 있습니다.
-
자율 통신 에이전트
통신 사업자들이 엔드투엔드 워크플로 전반에 걸쳐 자율성을 확보하고자 함에 따라, 단순히 특정 작업만 수행하는 것이 아니라 복잡한 작업을 처음부터 끝까지 완수할 수 있는 AI 에이전트가 필요합니다. 엄격한 서비스 수준 계약, 변경 관리 정책 및 규제 제약 조건 하에서 작동하는 장기 실행 자율 에이전트가 이러한 변화의 핵심입니다.
더 안전하고, 더 빠르며, 더 저렴한 AI 에이전트를 구축하세요
NVIDIA Agent Toolkit은 기업에서 맞춤 설정하고 제어할 수 있는 디지털 협업 환경을 구축하기 위한 오픈 소스 플랫폼입니다.
개방형 모델, 도구, 기술, 그리고 기업 보안에 최적화된 런타임을 제공하여 최초 에이전트 생성부터 대규모 배포까지 필요한 모든 것을 지원합니다.
-
AI Models
엔터프라이즈 AI를 위해 특별히 설계된 개방형 모델 제품군인 NVIDIA Nemotron™으로 혁신을 가속화하고, NVIDIA NIM 마이크로서비스를 사용하여 성능 최적화된 생성형 AI 모델의 배포 속도를 높여보세요.
-
AI 에이전트 개발 제품군
NVIDIA에서 검증한 스킬 라이브러리를 살펴보세요. 이러한 사전 구축된 기능은 에이전트가 더 많은 작업을 수행하는 데 사용할 수 있습니다.
-
기본 설계된 유연성
모든 AI 여정은 특별합니다. NVIDIA의 모듈형 스택은 모델, 데이터, 프레임워크부터 전체 AI 팩토리까지 필요한 것만 선택해 사용할 수 있어, 프로토타입에서 프로덕션까지 안정적으로 전환할 수 있습니다.
-
투명함이 만드는 신뢰
NVIDIA는 오픈소스 모델, 데이터, 레시피를 기반으로 AI를 구축하기 때문에, 기업은 AI가 어떻게 만들어졌는지 투명하게 확인하고, 안전하게 맞춤화하며, 안심하고 배포할 수 있습니다.
Vera Rubin in Full Production
NVIDIA Elite Partner 리더스시스템즈는 AI 데이터센터, 스마트 팩토리 및
물류 자동화 구축을 위한 AI Full-Stack 통합 솔루션을 제공합니다.
회사소개 바로가기
-
NVIDIA Partner Network 인증 파트너
리더스시스템즈는 NVIDIA Elite Partner로서 Blackwell 기반 DGX 도입 경험을 바탕으로 소프트웨어 스택(NVIDIA AI Enterprise) + 시스템 튜닝을 고객의 워크로드에 맞춰 최적화 하여, AI 활용 효율성과 투자 대비 성과(ROI)를 동시에 확보합니다.
-
AI 인프라 구축·운영 토탈 서비스
리더스시스템즈는 AI 인프라 설계 > 구축 > 운영 > 최적화까지 모든 단계를 직접 지원합니다. 고객의 비즈니스 확장 속도에 맞춘 모듈형 확장, 미션 크리티컬 데이터센터 요구 조건을 충족하는 고가용성 & 보안 설계로 장기 운영 신뢰성을 보장합니다.
-
운영 효율을 높이는 전문 기술 지원
리더스시스템즈의 AI 전문가가 구축 이후에도 모니터링, 정기 점검, 운영 교육을 지속적으로 지원하며, 이슈 발생 시 신속한 대응으로 다운타임을 최소화합니다. 또한 자원 활용 효율을 높여 전력 및 유지 비용 절 감과 데이터센터 TCO 최적화를 실현합니다.
-
글로벌 파트너십 기반 Full-Stack 공급
DGX System 도입에 필요한 보안 솔루션, 안정적인 전력 공급을 위한 UPS, 냉각 시스템, 네트워크 및 스토리지까지 각 분야에 맞는 검증된 글로벌 기업들과의 기술 협력을 통해 데이터센터 구축을 위한 통합 솔루션을 제공합니다.
Specifications
| NVIDIA Vera CPU | NVIDIA Vera CPU Rack | |
|---|---|---|
| Configuration | 1 NVIDIA Vera CPU | 256 NVIDIA Vera CPUs |
| Cores | Threads | 88 custom NVIDIA Olympus cores 176 threads | 22,528 custom NVIDIA Olympus cores (88 per CPU) | 45,056 threads (176 per CPU) |
| L2 Cache (per core) | 2 MB | 2 MB |
| Unified L3 Cache | 164 MB | 42 GB (164 MB per CPU) |
| SIMD (per core) | 6× 128bSVE2 FP8 | 6× 128bSVE2 FP8 |
| Memory Capacity | Up to 1.5 TB SOCAMM LPDDR5X | Up to 400 TB² SOCAMM LPDDR5X |
| Peak Memory Bandwidth | Up to 1.2 TB/s | Up to 300 TB/s aggregate |
| NVIDIA NVLINK™-C2C Bandwidth | 1.8 TB/s | 1.8 TB/s per CPU |
| PCIe CXL |
|
|
| NIC |
|
|
| Confidential Computing | Yes | Yes |
| Form Factor and Cooling |
|
|
모든 AI 엔터프라이즈를 위한 슈퍼컴퓨팅 솔루션
-
자세히 보기NVIDIA DGX SuperPOD
액체 냉각 방식의 랙 규모 시스템으로, 에이전트형 AI 및 추론 모델의 학습 및 추론 속도를 높이는 동시에 토큰당 비용을 극대화합니다.
-
자세히 보기Enterprise AI 데이터 센터를 위한
NVIDIA AI Enterprise는 신뢰할 수 있고 안전하며 확장 가능한 AI 운영을 보장하는 동시에 출시 시간을 가속화하고 인프라 비용을 절감할 수 있습니다.
-
자세히 보기NVIDIA DGX 고객을 위한 DLI
NVIDIA Deep Learning Institute (DLI)의 AI 전문가가 제공하는 전용 기술 교육을 통해, 최첨단 AI 혁신을 더 빠르게 달성하는 방법을 배울 수 있습니다.