최첨단 TSMC 4N 프로세스를 통해 800억 개 이상의
트랜지스터로 구축된 NVIDIA HOPPER 아키텍처

• HPC 및 AI를 위한 전례 없는 가속화 4세대 Tensor 코어

  NVIDIA Hopper™ 아키텍처는 새로운 8비트 부동 소수점 정밀도(FP8)를 사용하는 Transformer Engine으로 4세대 Tensor 코어를 발전시켜 1조 매개변수 모델 교육을 위해 FP16보다 6배 더 높은 성능을 제공합니다. TF32, FP64, FP16 및 INT8 정밀도를 사용하여 3배 향상된 성능과 결합된 Hopper Tensor Core는 모든 워크로드에 최고의 속도 향상을 제공합니다.

• NVIDIA Confidential Computing

  강력한 하드웨어 기반 보안을 통해 사용자는 온프레미스, 클라우드 또는 에지에서 애플리케이션을 실행할 수 있으며 승인되지 않은 엔터티가 사용 중인 애플리케이션 코드 및 데이터를 보거나 수정할 수 없다는 확신을 가질 수 있습니다. 이를 통해 데이터 및 애플리케이션의 기밀성과 무결성을 보호하는 동시에 AI 교육, AI 추론 및 HPC 워크로드를 위한 H100 GPU의 전례 없는 가속화에 액세스합니다.

• 4세대 NVIDIA ® NVLink ®

  컴퓨팅 집약적 워크로드에 대해 더 높은 대역폭과 감소된 지연 시간을 제공합니다. 고속 공동 작업을 가능하게 하기 위해 각 NVSwitch에는 네트워크 내 감소 및 멀티 캐스트 가속을 위한 NVIDIA SHARP™ 용 엔진이 장착된 64개의 NVLink 포트가 있습니다.

• 3세대 NVIDIA NVSwitch ™

  단일 서버에서 더 많은 GPU를 지원하며 GPU 사이에 완전한 대역폭 연결성을 보장하는 GPU 패브릭으로 딥 러닝 성능을 다음 단계로 끌어올립니다. 각 GPU의 NVLink 12개가 NVSwitch로 완전히 연결되어 올투올(All-to-all) 고속 통신을 지원합니다.

• 2세대 MIG(Multi-Instance GPU)

  Hopper 아키텍처는 최대 7개의 GPU 인스턴스에 걸쳐 가상화된 환경에서 다중 테넌트, 다중 사용자 구성을 지원하여 MIG를 더욱 강화하고 하드웨어 및 하이퍼바이저 수준에서 기밀 컴퓨팅으로 각 인스턴스를 안전하게 격리합니다. 각 MIG 인스턴스에 대한 전용 비디오 디코더는 공유 인프라에서 안전한 고처리량 IVA를 제공합니다. 또한 동시 MIG 프로파일링을 통해 관리자는 적절한 크기의 GPU 가속을 모니터링하고 사용자를 위한 최적화된 리소스 할당이 가능합니다.

• DPX Instructions

  동적 프로그래밍은 복잡한 재귀 문제를 더 간단한 하위 문제로 분해하여 해결하는 알고리즘 기술로 나중에 다시 계산할 필요가 없도록 하위 문제의 결과를 저장함으로써 기하급수적인 문제 해결의 시간과 복잡성을 줄입니다. Hopper 아키텍처는 동적 프로그래밍 알고리즘을 CPU에 비해 40배, Ampere 아키텍처 GPU에 비해 7배 가속화하는 DPX 명령을 도입했습니다. 이를 통해 질병 진단, 실시간 라우팅 최적화 및 그래프 분석 시간을 획기적으로 단축할 수 있습니다.