제품문의 바로가기
교육신청 바로가기
AI & Datacenter
NVIDIA HOPPER 아키텍처
모든 데이터센터를 위한 유례없는 성능, 확장성, 보안
모든 데이터센터를 위한 유례없는 성능, 확장성, 보안
NVIDIA Hopper™ 아키텍처를 통한 가속 컴퓨팅의 또 다른 대규모 도약에 대해 알아보세요. Hopper는 소규모 엔터프라이즈에서 엑사스케일 고성능 컴퓨팅(HPC) 및 매개 변수가 조 단위인 AI까지 아우르는
모든 데이터센터의 다양한 워크로드를 안전하게 확장하여 뛰어난 혁신가들이 인류 역사상 가장 빠른 속도로 평생의 과업을 성취할 수 있도록 지원합니다.
AI & Datacenter
트랜스포머 엔진
NVIDIA Hopper 아키텍처는 AI 모델의 훈련을 가속하도록 설계된 트랜스포머 엔진을 통해 Tensor 코어 기술을 발전시킵니다.
Hopper Tensor 코어는 FP8과 FP16 정밀도를 혼합 적용하여 트랜스포머의 AI 계산을 획기적으로 가속할 수 있습니다.
또한 Hopper에서는 TF32, FP64, FP16, INT8 정밀도의 부동 소수점 연산(FLOPS)을 이전 세대의 3배로 늘렸습니다.
트랜스포머 엔진 및 4세대 NVIDIA® NVLink®와 결합된 Hopper Tensor 코어는 HPC 및 AI 워크로드에 최고 수준의 속도 향상을 제공합니다.
AI & Datacenter
NVIDIA 컨피덴셜 컴퓨팅
데이터는 저장 공간에 저장되고 네트워크를 통해 전송되는 동안에는 암호화되지만, 처리되는 동안에는 보호되지 않습니다.
NVIDIA 컨피덴셜 컴퓨팅은 사용 중인 데이터와 애플리케이션을 보호하여 이러한 격차를 해소합니다.
NVIDIA Hopper 아키텍처는 세계 최초로 NVIDIA 컨피덴셜 컴퓨 기능을 탑재한 가속 컴퓨팅 플랫폼을 도입했습니다.
강력한 하드웨어 기반 보안을 통해 사용자는 온프레미스, 클라우드, 엣지에서 애플리케이션을 실행할 수 있으며, 사용 중인 애플리케이션 코드와 데이터를 허가되지 않은
엔티티가 보거나 수정할 수 없다고 확신할 수 있습니다. 이를 통해 데이터와 애플리케이션의 기밀성과 무결성을 보호하는 동시에 AI 훈련, AI 추론, HPC 워크로드를 위한
H100 GPU의 전례 없는 가속에 액세스할 수 있습니다.
AI & Datacenter
2세대 MIG
MIG(Multi-Instance GPU)를 사용하면 GPU를 자체 메모리, 캐시, 컴퓨팅 코어가 있는 더 작고 완전히 격리된 여러 인스턴스로 분할할 수 있습니다.
Hopper 아키텍처는 최대 7개의 GPU 인스턴스에 걸쳐 가상화된 환경에서 멀티 테넌트 및 멀티 사용자 구성을 지원하여 MIG를 더욱 향상하고,
하드웨어 및 하이퍼바이저 수준에서 기밀 컴퓨팅으로 각 인스턴스를 안전하게 격리합니다. 각 MIG 인스턴스에 대한 전용 비디오 디코더는 공유 인프라에서 안전하고
처리량이 높은 지능형 영상 분석(IVA)을 제공합니다. 또한 관리자는 Hopper의 동시 MIG 프로파일링을 통해 적합한 크기의 GPU 가속을 모니터링하고
사용자를 위한 리소스 할당을 최적화할 수 있습니다.
AI & Datacenter
DPX 명령
동적 프로그래밍은 복잡한 재귀 문제를 더 단순한 하위 문제로 세분화하여 해결하는 알고리즘 기술입니다. 나중에 다시 계산할 필요가 없도록 하위 문제의 결과를 저장함으로써
기하급수적인 문제 해결의 시간과 복잡성을 줄입니다. 동적 프로그래밍은 일반적으로 광범위한 사용 사례에서 사용됩니다. 예를 들어 플로이드-워셜은 운송 및 배송 차량의
최단 경로를 매핑하는 데 사용할 수 있는 경로 최적화 알고리즘입니다. 스미스-워터맨 알고리즘은 DNA 서열 정렬 및 단백질 접힘 애플리케이션에 사용됩니다.
NVIDIA RTX A6000
Ampere Architecture
CUDA Cores 10,752
Tensor Cores 336
RT Cores 84
Single-Precision Performance 38.7 TFLOPS
RT Core Performance 75.6 TFLOPS
Tensor Performance 309.7 TFLOPS
GPU Memory 48 GB GDDR6 with ECC
Memory Interface 384-bit
Memory Bandwidth 768 GB/sec
System Interface PCI Express 4.0 x16
Display Connectors 4x DisplayPort 1.4a
Maximum Power Consumption 300W
NVIDIA RTX A5500
Ampere Architecture
CUDA Cores 10,240
Tensor Cores 320
RT Cores 80
Single Precision Performance 34.1 TFLOPS
RT Core Performance 66.6 TFLOPS
Tensor Performance 272.8 TFLOPS
GPU Memory 24GB GDDR6 with ECC
Memory Interface 320-bit
Memory Bandwidth 768 GB/sec
System Interface PCI Express 4.0 x16
Display Connectors 4x DisplayPort 1.4a
Maximum Power Consumption 230 W
NVIDIA RTX A5000
Ampere Architecture
CUDA Cores 8,192
Tensor Cores 256
RT Cores 64
Single Precision Performance 27.8 TFLOPS
RT Core Performance 54.2 TFLOPS
Tensor Performance 222.2 TFLOPS
GPU Memory 24 GB GDDR6 with ECC
Memory Interface 384-bit
Memory Bandwidth 768 GB/sec
System Interface PCI Express 4.0 x16
Display Connectors 4x DisplayPort 1.4a
Maximum Power Consumption 230 W
NVIDIA RTX A4500
Ampere Architecture
CUDA Cores 7,168
Tensor Cores 224
RT Cores 56
Single Precision Performance 23.7 TFLOPS
RT Core Performance 46.2 TFLOPS
Tensor Performance 189.2 TFLOPS
GPU Memory 20GB GDDR6 with ECC
Memory Interface 320-bit
Memory Bandwidth 640 GB/sec
System Interface PCI Express 4.0 x16
Display Connectors 4x DisplayPort 1.4
Maximum Power Consumption 200 W
NVIDIA RTX A4000
Ampere Architecture
CUDA Cores 6,144
Tensor Cores 192
RT Cores 48
Single Precision Performance 19.2 TFLOPS
RT Core Performance 37.4 TFLOPS
Tensor Performance 153.4 TFLOPS
GPU Memory 16 GB GDDR6 with ECC
Memory Interface 256-bit
Memory Bandwidth 448 GB/sec
System Interface PCI Express 4.0 x16
Display Connectors 4x DisplayPort 1.4a
Maximum Power Consumption 140 W
NVIDIA RTX A2000
(6GB / 12GB)
Ampere Architecture
CUDA Cores 3,328
Tensor Cores 104
RT Cores 26
Single-Precision Performance 8.0 TFLOPS
RT Core Performance 15.6 TFLOPS
Tensor Performance 63.9 TFLOPS
GPU Memory 6GB GDDR6 with ECC
Memory Interface 192-bit
Memory Bandwidth 288 GB/s
System Interface PCI Express 4.0 x16
Display Connectors 4x mDisplayPort 1.4a
Maximum Power Consumption 70W
NVIDIA Quadro RTX 8000
Turing Architecture
CUDA Cores 4,608
RT Cores72
Tensor Cores 576
RTX-OPS 84T
Rays Cast 10 Giga Rays/Sec
Peak Single Precision FP32 Performance 16.3 TFLOPS
Peak Half Precision FP16 Performance 32.6 TFLOPS
Peak INT8 Performance 206.1 TOPS
Deep Learning TFLOPS 130.5 Tensor TFLOPS
GPU Memory 48 GB GDDR6 with ECC
Memory Bandwidth 672 GB/Sec
PCI Express 3.0 x16
DisplayPort 1.4 (4) + VirtualLink
NVIDIA Quadro RTX 6000
Turing Architecture
CUDA Cores 4,608
RT Cores 72
Tensor Cores 576
RTX-OPS 84T
Rays Cast 10 Giga Rays/Sec
Peak Single Precision FP32 Performance 16.3 TFLOPS
Peak Half Precision FP16 Performance 32.6 TFLOPS
Peak INT8 Performance 206.1 TOPS
Deep Learning TFLOPS 130.5 Tensor TFLOPS
GPU Memory 24 GB GDDR6 with ECC
Memory Bandwidth 624 GB/Sec
PCI Express 3.0 x16
DisplayPort 1.4 (4), 1x USB-C
NVIDIA Quadro RTX 5000
Turing Architecture
CUDA Cores 3,072
RT Cores 48
Tensor Cores 384
RTX-OPS 62T
Rays Cast 8 Giga Rays/Sec
Peak Single Precision FP32 Performance 11.2 TFLOPS
Peak Half Precision FP16 Performance 22.3 TFLOPS
Peak INT8 Performance 178.4 TOPS
Deep Learning TFLOPS 89.2 Tensor TFLOPS
GPU Memory 16 GB GDDR6 with ECC
Memory Bandwidth 448 GB/Sec
PCI Express 3.0 x16
DP 1.4 (4), 1x USB-C
NVIDIA Quadro RTX 4000
Turing Architecture
CUDA Cores 2,304
RT Cores 36
Tensor Cores 288
RTX-OPS 43T
Rays Cast 6.0 Giga Rays/Sec
Peak Single Precision FP32 Performance 7.1 TFLOPS
Peak Half Precision FP16 Performance 14.2 TFLOPS
Peak INT8 Performance 28.5 TOPS
Deep Learning TFLOPS 57.0 Tensor TFLOPS
GPU Memory 8 GB GDDR6
Memory Bandwidth 416 GB/Sec
PCI Express 3.0 x16
DisplayPort 1.4 (3), 1x USB-C
NVIDIA Quadro GV100
Volta Architecture
CUDA Cores 5,120
Tensor Cores 640
Peak Double Precision FP64 Performance 7.4 TFLOPS
Peak Single Precision FP32 Performance 14.8 TFLOPS
Peak Half Precision FP16 Performance 29.6 TFLOPS
Peak Integer Operation (INT8) Performance 59.3 TOPS
Deep Learning TFLOPS 118.5 TFLOPS
GPU Memory 32 GB HBM2
Memory Interface 4096-bit
Memory Bandwidth 870 GB/s
System Interface PCI Express 3.0 x16
Display Connectors DP 1.4 (4)
NVIDIA Quadro GV100
NVLink Bridege
2-Way 2-Slot Spacing
UP To 200 GB/s Bidirectional with 2 Bridges
Supported Graphics Cards :
NVIDIA GV100
NVIDIA T1000
(4GB / 8GB)
Turing Architecture
CUDA Cores 896
Peak FP32 Performance 2.50 TFLOPS
GPU Memory 4 GB / 8 GB GDDR6
Memory Interface 128-bit
Memory Bandwidth 160 GB/s
Max Power Consumption 50 W
System Interface PCI Express 3.0 x16
Display Connectors 4x mDP
Form Factor Low-Profile Single Slot
Thermal Solution Active Fansink
NVIDIA T600
Turing Architecture
CUDA Cores 640
Peak FP32 Performance 1.709 TFLOPS
GPU Memory 4 GB GDDR6
Memory Interface 128-bit
Memory Bandwidth 160 GB/s
Max Power Consumption 40 W
System Interface PCI Express 3.0 x16
Display Connectors 4x mDP
Form Factor Low-Profile Single Slot
Thermal Solution Active Fansink
NVIDIA T400
(2GB / 4GB)
Turing Architecture
CUDA Cores 384
Peak FP32 Performance 1.094 TFLOPS
GPU Memory 2 GB / 4 GB GDDR6
Memory Interface 64-bit
Memory Bandwidth 80 GB/s
Max Power Consumption 30 W
System Interface PCI Express 3.0 x16
Display Connectors 3x mDP
Form Factor Low-Profile Single Slot
Thermal Solution Active Fansink
NVIDIA Quadro P2200
Pascal Architecture
CUDA Cores 1,280
Peak Single Precision
FP32 Performance 3.8 TFLOPS
GPU Memory 5 GB GDDR5X
Memory Interface 160-bit
Memory Bandwidth Up to 200 GB/s
System Interface PCI Express 3.0 x16
Display Connectors DP 1.4 (4)
NVIDIA Quadro P1000
Pascal Architecture
CUDA Cores 640
Peak Single Precision FP32
Performance 1.894 TFLOPS
GPU Memory 4 GB GDDR5
Memory Interface 128-bit
Memory Bandwidth 82 GB/s
System Interface PCI Express 3.0 x16
Display Connectors mDP 1.4 (4)