제품문의
제품과 관련하여 궁금하신 사항을
문의하기를 통해 해결하세요.
NVIDIA Datacenter GPU > NVIDIA L4 Tensor Core GPU
NVIDIA L4 Tensor Core GPU
엔비디아코리아 정품
NVIDIA Ada Lovelace architecture
GPU Memory 24GB
Memory Bandwidth 300GB/s
FP32 30.3 teraFLOPs
TF32 Tensor Core 120 teraFLOPS
FP16 Tensor Core 242 teraFLOPS
BFLOAT16 Tensor Core. 242 teraFLOPS
FP8 Tensor Core 485 teraFLOPs
INT8 Tensor Core 485 TOPs
Form factor 1-slot low-profile, PCIe
Interconnect PCIe Gen4 x16 64GB/s
리더스시스템즈에서 제공하는 데이터 센터를 위한 맞춤형 솔루션
-
워크스테이션 딥 러닝 솔루션
딥 러닝 워크스테이션 솔루션을 통해 작업 공간에서 편리하게 AI 슈퍼 컴퓨팅 성능을 활용하고 NGC에서 필요한 모든 딥 러닝 소프트웨어를 사용할 수 있습니다. 이제 딥 러닝을 필요로 하는 누구든지 데스크 사이드 딥 러닝을 시작할 수 있습니다.
딥러닝 솔루션 바로가기 > -
GPU 클라우드 컴퓨팅 솔루션
모든 엔터프라이즈에서 물리적 데이터센터를 구축할 필요 없이 손쉽게 대규모 컴퓨팅 성능에 액세스할 수 있습니다. AI, 고성능 컴퓨팅(HPC) 및 의료 영상 활용, 차세대 그래픽 기술 적용 등 워크로드 전반에서 최고 성능을 경험할 수 있습니다.
클라우드 컴퓨팅 솔루션 바로가기 > -
온 프레미스 딥 러닝 솔루션
GPU 가속 데이터센터는 원하는 규모와 더 적은 수의 서버로 컴퓨팅 및 그래픽 워크로드에 혁신적인 성능을 제공하여 더 빠르게 정보를 얻고 비용을 획기적으로 절감할 수 있습니다. 가장 복잡한 딥 러닝 모델을 트레이닝하여 가장 심각한 문제를 해결하세요.
온 프레미스 솔루션 바로가기 > -
엣지 컴퓨팅 솔루션
현대 기업은 이제 수 십억 개의 IoT 센서를 통해 생성 된 데이터를 활용해 더 빠른 통찰력과 시간과 비용 절감을 할 수 있습니다. 실시간으로 결정을 내리고 강력하고 분산 된 컴퓨팅과 안전하고 간단한 원격 관리 및 업계 최고 기술과의 호환성을 기대할 수 있습니다.
엣지 컴퓨팅 솔루션 바로가기 >
무한한 가능성을 위한 전문 시각화용 NVIDIA Ada Lovelace 아키텍처
-
NVIDIA CUDA 코어
가속화된 단일 정밀도 부동 소수점(FP32) 처리량 및 향상된 전력 효율성은 3D 모델 개발 및 CAE 시뮬레이션과 같은 워크플로우에 상당한 성능 향상을 제공합니다. 혼합 정밀도 워크로드를 위한 향상된 16비트 수학 기능(BF16)을 지원합니다.
-
24GB의 GPU 메모리
24GB의 초고속 GDDR6 메모리로 데이터 사이언스, 시뮬레이션, 3D 모델링 및 렌더링과 같은 메모리 집약적인 애플리케이션과 워크로드를 처리할 수 있습니다. vGPU 소프트웨어를 통해 여러 사용자에게 메모리를 할당하여 크리에이티브, 데이터 사이언스 및 디자인 팀 간에 대규모 워크로드를 배포합니다.
-
3세대 RT 코어
향상된 처리량과 동시 레이 트레이싱 및 음영 처리 기능은 레이 트레이싱 성능을 향상시켜 제품 디자인 및 아키텍처, 엔지니어링, 건설 워크플로우를 위한 렌더링을 가속화합니다. 하드웨어 가속 모션 블러를 사용하여 구현된 실제 같은 디자인이 놀라운 실시간 애니메이션을 제공합니다.
-
4세대 Tensor 코어
구조적 희소성 및 최적화된 TF32 형식에 대한 하드웨어 지원은 더 빠른 AI 및 데이터 사이언스 모델 트레이닝을 위한 기본 성능 향상을 제공합니다. DLSS를 포함한 AI 향상 그래픽 기능을 가속화하여 일부 애플리케이션에서 더 나은 성능으로 업스케일링된 해상도를 제공합니다.
-
데이터센터 효율성 및 보안
NVIDIA L4는 연중무휴 엔터프라이즈 데이터센터 운영에 최적화되었으며, NVIDIA와 파트너가 설계, 구축, 광범위한 테스트를 거쳐 지원하므로 성능, 내구성 및 보안이 극대화됩니다. L4 GPU는 신뢰할 수 있는 루트 기술로 안전한 부팅 기능을 제공하여 데이터 센터를 위한 추가 보안 계층을 제공합니다.
-
딥 러닝 슈퍼 샘플링(DLSS)
NVIDIA DLSS 3는 렌더링 성능을 크게 향상시키는 AI 기반 그래픽의 혁신적인 혁신입니다. NVIDIA L4의 새로운 4세대 Tensor 코어 및 NVIDIA OFA(Optical Flow Accelerator)로 구동되는 DLSS 3는 Al을 사용하여 그래픽 기반 워크로드를 위한 추가 고품질 프레임을 생성합니다.
-
가상화 지원
차세대 NVIDIA 가상 GPU(vGPU) 소프트웨어가 개선되고 이전 세대보다 1.5배 많은 GPU 메모리가 탑재된 NVIDIA L4는 NVIDIA RTX™ Virtual Workstation(VWS)에서 실행되는 미드엔드 설계 워크플로우에서 워크스테이션 성능을 1.7배 높이고 NVIDIA Virtual PC(VPC)에서 실행되는 생산성 애플리케이션을 가속화합니다.
-
고급 비디오 및 비전 A 가속화
최적화된 AV1 스택을 통해 NVIDIA L4는 비디오 및 비전 AI 가속을 한 단계 끌어올려 실시간 비디오 트랜스코딩, 스트리밍, 화상 회의, 증강 현실(AR), 가상 현실(VR), 비전 Al. AV1 비디오 형식과 결합된 4개의 비디오 디코더와 2개의 비디오 인코더를 통해 L4 서버는 CPU 솔루션보다 1,0002개 이상의 동시 비디오 스트림과 120배 이상의 Al 비디오 종단간 파이프라인 성능을 호스팅할 수 있습니다.
비디오, AI, 그래픽 워크로드 가속화
NVIDIA Ada Lovelace 아키텍처를 기반으로 하는 NVIDIA L4 텐서 코어 GPU는 비디오, AI, 비주얼 컴퓨팅, 그래픽, 가상화 등에 보편적이고 에너지 효율적인 가속 기능을 제공합니다. L4는 낮은 프로파일 폼 팩터로 패키징되어 엣지에서 데이터 센터, 클라우드에 이르기까지 모든 서버에서 높은 처리량과 낮은 지연 시간을 제공하는 비용 효율적이고 에너지 효율적인 솔루션입니다.
-
실시간 AI 비디오 파이프라 인 성능 경험
NVIDIA L4의 성능으로 비디오 애플리케이션을 혁신하세요. L4가 장착된 서버는 수백만 명의 시청자에게 라이브 스트리밍하거나 사용자가 창의적인 스토리를 만들 수 있도록 하거나 몰입형 증강 및 가상 현실(AR/VR) 경험을 제공할 때 모바일 사용자를 위해 720p30에서 최대 1,040개의 동시 AV1 비디오 스트림을 호스팅할 수 있습니다.
4세대 Tensor 코어와 1.5배 더 큰 GPU 메모리를 갖춘 NVIDIA L4 GPU는 CV-CUDA® 라이브러리와 결합하여 비디오 콘텐츠 이해를 새로운 차원으로 끌어 올립니다. L4는 CPU 기반 솔루션보다 120배 더 높은 AI 비디오 성능을 제공하여 기업이 콘텐츠를 개인화하고, 검색 관련성을 개선하고, 불쾌한 콘텐츠를 감지하고, 스마트 공간 솔루션을 구현하기 위한 실시간 통찰력을 얻을 수 있도록 합니다.
1. 측정된 성능: 720p30에서 8x L4 AV1 저지연 P1 프리셋 인코딩
최대 120배 더 높은 AI 비디오 성능
L4 Video Performance측정된 성능: 8x L4 대 2S Intel 8362 CPU 서버 비교, CV-CUDA® 디코드, 사전 처리, 추론(SegFormer), 사후 처리, 인코딩을 사용한 종단 간 비디오 파이프라인, NVIDIA® TensorRT™ 8.6 대 OpenCV를 사용하는 CPU 전용 파이프라인 4.7, 파이토치 추론
-
L4로 에너지와 공간 절약
AI와 비디오가 널리 보급됨에 따라 효율적이고 비용 효율적인 컴퓨팅에 대한 수요가 그 어느 때보다 증가하고 있습니다. NVIDIA L4 Tensor Core GPU는 AI 비디오 성능이 최대 120배 향상되어 기존 CPU 기반 인프라에 비해 에너지 효율성이 최대 99% 향상되고 총 소유 비용이 절감됩니다. 이를 통해 기업은 랙 공간을 줄이고 탄소 발자국을 크게 줄이면서 데이터 센터를 더 많은 사용자로 확장할 수 있습니다. 2메가와트(MW) 데이터 센터에서 CPU에서 NVIDIA L4로 전환하여 절약한 에너지는 1년 동안 거의 2,000가구에 전력을 공급하거나 10년 동안 자란 나무 172,000그루의 탄소 상쇄량과 맞먹을 수 있습니다.
2. 1.677MW 절약을 사용한 EPA 계산기 결과
더 나은 에너지 효율성
8x L4 대 2S Intel 8362 CPU 서버 TCO 비교: CV-CUDA 전처리 및 후처리, 디코딩, 추론(SegFormer), 인코딩, TRT 8.6이 포함된 엔드 투 엔드 비디오 파이프라인 대 OpenCV 4.7, PyTorch를 사용하는 CPU 전용 파이프라인 추론.
-
생성 AI 성능 가속화
이미지와 텍스트를 위한 생성 AI는 모든 산업 분야에서 고객의 삶을 더 편리하게 만들고 더 몰입할 수 있는 경험을 제공합니다. NVIDIA L4는 이전 GPU 세대에 비해 최대 2.7배 더 높은 성능을 제공하여 컴퓨팅 집약적인 생성 AI 추론을 강화합니다. 그리고 50% 더 많은 메모리 용량을 갖춘 L4는 이전 GPU 세대에서는 불가능했던 최대 1024x768의 더 큰 이미지 생성을 가능하게 합니다.
최대 2.7배 더 높은 제너레이티브 AI 성능
L4 Generative Al Performance예상 성능: L4 대 T4 이미지 생성, 512x512 안정적인 확산 v2.1, FP16, TensorRT 8.5.2.
-
그래픽 성능 최적화
3세대 RT 코어와 AI 기반 NVIDIA Deep Learning Super Sampling 3 (DLSS 3)를 통해 NVIDIA L4는 AI 기반 아바타, NVIDIA Omniverse™ 가상 세계, 클라우드 게임 및 가상 워크스테이션에 대해 4배 이상 높은 성능을 제공합니다. 이러한 기능을 통해 크리에이터는 CPU로는 불가능한 몰입형 시각적 경험을 위한 실시간 영화 품질의 그래픽과 장면을 구축할 수 있습니다.
4배 이상의 실시간 렌더링 및 3배 이상의 레이 트레이싱 성능
L4 Visual Computing Performance측정된 성능:
실시간 렌더링 : NVIDIA DLSS(Deep Learning Super Sampling) 3을 사용하여 1080p 및 4K에서 실시간 렌더링을 위한 NVIDIA Omniverse™ 성능 I 레이 트레이싱 : 레이 트레이싱 및 DLSS 3을 지원하는 AAA 타이틀의 게임 성능 기하 평균
-
효율적이고 지속 가능한 방식으로 워크로드 가속화
NVIDIA L4는 NVIDIA 데이터 센터 플랫폼의 필수적인 부분입니다. 비디오, AI, NVIDIA RTX™ 가상 워크스테이션(vWS), 그래픽, 시뮬레이션, 데이터 과학 및 데이터 분석을 위해 개발된 이 플랫폼은 3,000개 이상의 애플리케이션을 가속화하고 데이터 센터에서 에지에서 클라우드에 이르기까지 모든 곳에서 규모에 따라 사용할 수 있어 성능이 크게 향상되고 에너지 효율성이 향상됩니다.
메인스트림 배포에 최적화된 L4는 72W 저전력 엔벨로프에서 작동하는 프로파일 폼팩터를 제공하여 NVIDIA의 파트너 에코시스템에서 제공하는 모든 서버 또는 클라우드 인스턴스를 위한 효율적이고 비용 효율적인 솔루션입니다.
-
Enterprise-Ready AI 소프트웨어로 개발 및 배치 간소화
AI 개발 및 배포를 간소화하도록 최적화된 NVIDIA AI Enterprise 소프트웨어 제품군은 일반 데이터센터 플랫폼과 NVIDIA L4 GPU가 탑재된 메인스트림 NVIDIA-Certified Systems™에서 실행되도록 인증된 AI 솔루션 워크플로우, 프레임워크, 사전 교육된 모델 및 인프라 최적화를 포함합니다.
NVIDIA AI Enterprise는 NVIDIA L4 GPU에 대한 라이센스 추가로, 교육, 추론, 데이터 과학 분야에서 최고의 성능을 가진 거의 모든 조직이 AI에 액세스할 수 있도록 합니다. NVIDIA AI Enterprise는 NVIDIA L4와 함께 AI 지원 플랫폼의 구축을 단순화하고, AI 개발 및 구축을 가속화하며, 성능, 보안 및 확장성을 제공하여 통찰력을 더 빠르게 수집하고 비즈니스 가치를 더 빨리 달성합니다.
Specifications
| GPU Architecture | NVIDIA Ada Lovelace architecture |
|---|---|
| GPU memory | 24GB GDDR6 |
| GPU memory bandwidth | 300GB/s |
| Interconnect Interface | PCIe Gen4 x16 64GB/s |
| FP32 TFLOPS | 30.3 teraFLOPs |
| TF32 Tensor Core TFLOPS | 120 teraFLOPS* |
| BFLOAT16 Tensor Core TFLOPS | 242 teraFLOPS* |
| FP16 Tensor Core | 485 teraFLOPs* |
| INT8 Tensor Core | 485 TOPs* |
| Form Factor | 1-slot low-profile, PCIe |
| Max thermal design power (TDP) | 72W |
| Thermal | Passive |
| NVENC | NVDEC | JPEG decoders | 2 | 4 | 4 |
| Secure Boot with Root of Trust | Yes |
| Server options | Partner and NVIDIA-Certified Systems with 1-8 GPUs |
- - *희소성으로 표시됩니다. 사양은 희소성이 없이 반 정도 낮습니다.
Information
| 상품명 | NVIDIA L4 Tensor Core GPU 엔비디아코리아 정품 |
|---|---|
| KC 인증번호 | - |
| 정격전압 / 최대소비전력 | 300W |
| 정품 품질 보증 | 3년 무상보증 |
| 출시년월 | 2024/01 |
| 제조사 | NVIDIA Corporation |
| 제조국 | 중국 |
| 크기 | 68x169 (mm), single-slot |