과학적 컴퓨팅

NVLink-C2C를 사용하여 Arm® 기반 Grace CPU와 Hopper GPU 아키텍처를 결합한 NVIDIA GH200 Superchips는 전 세계 슈퍼컴퓨터의 과학 연구 및 발견 속도를 높이고 있습니다. NVIDIA Grace Hopper Superchips를 활용하는 슈퍼컴퓨터는 모두 200엑사플롭스(초당 200경 회 계산)의 에너지 효율적인 AI 처리 능력을 제공합니다.

데이터 처리

최근 스토리지 및 네트워킹 대역폭의 발전과 무어의 법칙의 종말로 인해 분석 및 쿼리 병목 현상이 CPU로 옮겨갔습니다. GH200을 사용하면 CPU와 GPU가 프로세스당 단일 페이지 테이블을 공유하여 모든 CPU 및 GPU 스레드가 물리적 CPU 또는 GPU 메모리에 상주할 수 있는 모든 시스템 할당 메모리에 액세스할 수 있습니다. GH200은 CPU와 GPU 간에 메모리를 서로 복사할 필요성을 없애 데이터 처리 속도를 최대 36배까지 향상시킵니다.

검색 증강 생성

검색 증강 생성(RAG)은 대규모 언어 모델(LLM)을 지식 기반과 연결하여 모델 정확도를 향상시킵니다. RAG를 사용하려면 임베딩을 생성하고 벡터 검색을 대규모로 실행해야 합니다. 72개의 전력 효율적인 Arm 기반 Grace CPU 코어는 지식 기반 데이터의 전처리를 가속화하고, NVLink-C2C는 전처리된 데이터를 Hopper GPU로 전송하는 속도를 PCIe 대비 7배 빠르게 하여 임베딩 생성 프로세스를 30배 가속화합니다.

그래프 신경망

그래프 신경망(GNN)은 소셜 네트워크 분석, 신약 개발, 사기 탐지, 분자 화학 등 다양한 분야에 활용됩니다. GH200은 최대 624GB의 CPU 및 GPU 고속 메모리, 4페타플롭스의 H200 GPU, 그리고 900GB/s 속도의 NVLink-C2C를 활용하여 H100 PCIe GPU 대비 최대 8배 빠른 GNN 학습 속도를 제공합니다.