기술적 혁신

• LPDDR5X로 에너지 효율적인 CPU 메모리 활용

  NVIDIA Grace는 서버용 CPU 중 최초로 오류 보정 코드(ECC)와 같은 메커니즘을 통해 서버급 안정성을 갖춘 LPDDR5X 메모리를 활용하여 데이터센터의 요구 사항을 충족하는 동시에 오늘날의 서버 메모리에 비해 2배의 메모리 대역폭과 최대 10배 향상된 에너지 효율성을 제공합니다. NVIDIA Grace LPDDR5X 솔루션은 대규모, 고성능, 최종 수준 캐시와 결합하여 대규모 모델에 필요한 대역폭을 제공하는 동시에 시스템 전력을 절감하여 차세대 워크로드의 성능을 극대화합니다.

• Arm 코어와 NVIDIA SCF로 성능과 효율성 향상

  GPU의 병렬 컴퓨팅 기능은 계속 발전하고 있지만, 여전히 CPU에서 실행되는 직렬 작업으로 워크로드를 제어할 수 있습니다. 빠르고 효율적인 CPU는 워크로드 가속화를 극대화하는 시스템 설계의 중요한 구성 요소입니다. NVIDIA Grace CPU는 Arm Neoverse V2 코어를 NVIDIA 지정 Scalable Coherency Fabric과 통합하여 전력 효율적 설계로 높은 성능을 제공하므로, 과학자와 연구원은 일생의 과업을 더 쉽게 수행할 수 있습니다.

• HBM GPU 메모리로 생성형 AI 강화

  생성형 AI는 메모리와 컴퓨팅 집약적입니다. NVIDIA GB200 슈퍼칩은 380GB의 HBM 메모리를 사용하여 NVIDIA H100 Tensor 코어 GPU 대비 4.5배 이상의 GPU 메모리 대역폭을 제공합니다. Grace Blackwell의 고대역폭 메모리는 NVLink-C2C를 통해 CPU 메모리에 연결되어 GPU에 거의 860GB의 고속 액세스 메모리를 제공하고 세계에서 가장 복잡한 생성형 AI 및 가속 컴퓨팅 워크로드를 처리하는 데 필요한 메모리 용량과 대역폭을 제공합니다.

개발부터 배포까지 엔터프라이즈 소프트웨어

• AI 및 데이터 과학

  엣지, 데이터 센터, 멀티 및 하이브리드 클라우드 환경에서 이기종 AI 및 HPC 클러스터에 대한 빠른 배포와 엔드투엔드 관리를 제공합니다. 몇 개에서 수십만 개의 노드에 이르는 클러스터의 프로비저닝 및 관리를 자동화하고, NVIDIA GPU 가속 및 기타 시스템을 지원합니다.

• 관리 및 운영

  NVIDIA Triton™ Inference Server는 모델 배포 및 실행을 표준화할 수 있도록 도와주고, 프로덕션 환경에 빠르고 확장 가능한 AI를 제공하는 오픈 소스 추론 지원 소프트웨어로 모든 애플리케이션에서 빠르고 확장 가능한 AI를 구현합니다.

• 협업 및 3D 디자인

  NVIDIA NIM은 복잡한 AI 개발 세계와 기업 환경의 운영 요구 사항 사이의 격차를 해소하도록 설계되어 10~100배 더 많은 엔터프라이즈 애플리케이션 개발자가 기업의 AI 혁신에 기여할 수 있도록 지원합니다.

• 디지털 트윈과 월드 시뮬레이션

  NVIDIA® Riva는 완전히 사용자 정의 가능한 실시간 대화형 AI 파이프라인을 구축하기 위한 GPU 가속 다국어 음성 및 번역 마이크로서비스 세트입니다. ASR, TTS, NMT이 포함되며, 모든 장치에 배포할 수 있습니다.

• 
  슈퍼컴퓨팅

  AI와 양자역학, 지구 내부 지도 작성 및 기상 예측, NVIDIA는 세계에서 가장 빠른 슈퍼컴퓨터와 HPC 시스템을 구축하여 연구자들이 세상을 시뮬레이션하고 예측하는 데 필요한 역량을 제공합니다.

• 
  의료 및 생명 과학

  NVIDIA의 HPC 솔루션이 연구 가속화, 더 빠른 진단, 의학 혁신을 이끄는 등 헬스케어 분야에 혁신을 가져오는 방식을 알아보세요.

• 
  에너지

  저수지 시뮬레이션 및 지진 처리, 산업 디지털 트윈, 기후 및 날씨 시뮬레이션, 전력망 현대화, NVIDIA HPC는 가정과 기업의 지속 가능한 미래를 지원합니다.

• 
  공공 부문

  사이버 보안, 재난 대응, 인도적 지원, NVIDIA HPC는 전 세계 지역 사회를 더욱 안전하고 연결되게 만드는 기술을 개발하고 있습니다.