NVIDIA Datacenter GPU > NVIDIA L40S

NVIDIA L40S
엔비디아코리아 정품

NVIDIA Ada Lovelace architecture
GPU Memory 48GB GDDR6 with ECC
Memory Bandwidth 864GB/s
CUDA Cores 18,176 / 3 gen RT Cores 142
4 gen Tensor Cores 568
RT Core 209 TFLOPS / FP32 91.6 TFLOPS
TF32 Tensor Core 183 | 366 TFLOPS
BFLOAT16 Tensor Core 362.05 | 733 TFLOPS
FP16 Tensor Core 362.05 | 733 / FP8 Tensor Core 733 | 1,466
Peak INT8 Tensor TOPS 733 | 1,466
Peak INT4 Tensor TOPS 733 | 1,466

데이터시트 다운
NVIDIA L40S GPU

리더스시스템즈에서 제공하는 데이터 센터를 위한 맞춤형 솔루션

  • 워크스테이션 딥 러닝 솔루션

    딥 러닝 워크스테이션 솔루션을 통해 작업 공간에서 편리하게 AI 슈퍼 컴퓨팅 성능을 활용하고 NGC에서 필요한 모든 딥 러닝 소프트웨어를 사용할 수 있습니다. 이제 딥 러닝을 필요로 하는 누구든지 데스크 사이드 딥 러닝을 시작할 수 있습니다.

    딥러닝 솔루션 바로가기 >
  • GPU 클라우드 컴퓨팅 솔루션

    모든 엔터프라이즈에서 물리적 데이터센터를 구축할 필요 없이 손쉽게 대규모 컴퓨팅 성능에 액세스할 수 있습니다. AI, 고성능 컴퓨팅(HPC) 및 의료 영상 활용, 차세대 그래픽 기술 적용 등 워크로드 전반에서 최고 성능을 경험할 수 있습니다.

    클라우드 컴퓨팅 솔루션 바로가기 >
  • 온 프레미스 딥 러닝 솔루션

    GPU 가속 데이터센터는 원하는 규모와 더 적은 수의 서버로 컴퓨팅 및 그래픽 워크로드에 혁신적인 성능을 제공하여 더 빠르게 정보를 얻고 비용을 획기적으로 절감할 수 있습니다. 가장 복잡한 딥 러닝 모델을 트레이닝하여 가장 심각한 문제를 해결하세요.

    온 프레미스 솔루션 바로가기 >
  • 엣지 컴퓨팅 솔루션

    현대 기업은 이제 수 십억 개의 IoT 센서를 통해 생성 된 데이터를 활용해 더 빠른 통찰력과 시간과 비용 절감을 할 수 있습니다. 실시간으로 결정을 내리고 강력하고 분산 된 컴퓨팅과 안전하고 간단한 원격 관리 및 업계 최고 기술과의 호환성을 기대할 수 있습니다.

    엣지 컴퓨팅 솔루션 바로가기 >

무한한 가능성을 위한 전문 시각화용 NVIDIA Ada Lovelace 아키텍처

  • NVIDIA CUDA 코어

    가속화된 단정밀도 부동 소수점(FP32) 처리량 및 향상된 전력 효율성은 3D 모델 개발 및 CAE(컴퓨터 보조 엔지니어링) 시뮬레이션과 같은 워크플로우의 성능을 크게 향상합니다. 혼합 정밀도 워크로드에는 향상된 16비트 연산 기능(BF16)을 사용합니다.

  • 3세대 RT 코어

    향상된 처리량과 동시 레이 트레이싱 및 음영 처리 기능이 레이 트레이싱 성능을 향상하여 제품 디자인 및 아키텍처, 엔지니어링, 건설 워크플로우를 위한 렌더링을 가속화합니다. 하드웨어 가속 모션 블러와 놀라운 실시간 애니메이션은 실제 같은 디자인을 구현합니다.

  • 4세대 Tensor 코어

    구조적 희소성 및 최적화된 TF32 형식에 대한 하드웨어 지원은 더 빠른 AI 및 데이터 사이언스 모델 트레이닝을 위한 기본 성능 향상을 제공합니다. DLSS로 AI 향상 그래픽 기능을 가속화하여 일부 애플리케이션에서 더 나은 성능으로 해상도를 업스케일링할 수 있습니다.

  • 트랜스포머 엔진

    트랜스포머 엔진은 AI 성능을 획기적으로 가속화하고 훈련과 추론 모두에서 메모리 활용도를 개선합니다. Ada Lovelace 4세대 Tensor 코어의 강력한 성능을 활용하는 트랜스포머 엔진은 트랜스포머 아키텍처 신경망의 레이어를 지능적으로 스캔하고 FP8과 FP16 정밀도 사이에서 자동으로 리캐스트하여 더 빠른 AI 성능을 제공하고 학습 및 추론 속도를 높입니다.

  • 데이터센터 효율성 및 보안

    L40S GPU는 엔터프라이즈 데이터센터의 24시간 운영에 최적화되었으며 최대의 성능, 내구성, 가동 시간을 보장하기 위해 NVIDIA에서 설계, 테스트, 구축, 지원합니다. L40S GPU는 최신 데이터센터 표준을 충족하고 네트워크 장비 구축 시스템(NEBS) 레벨 3을 지원하며, RoT(Root of Trust) 기술을 통한 안전한 부팅으로 데이터센터에 추가적인 보안 계층을 제공합니다.

  • DLSS 3

    L40S GPU는 NVIDIA DLSS 3를 통해 초고속 렌더링과 더 부드러운 프레임 레이트를 지원합니다. 이 획기적인 프레임 생성 기술은 딥 러닝과 4세대 Tensor 코어 및 광학 흐름 가속기를 포함하는 L40S GPU 및 Ada Lovelace 아키텍처의 최신 하드웨어 혁신을 활용하여 렌더링 성능을 높이고 더 높은 초당 프레임(FPS)을 제공하며 지연 시간을 크게 개선합니다.

멀티 워크로드 가속화

  • 이미지
    생성형 AI

    차세대 AI, 그래픽 및 미디어 가속화 기능을 갖춘 L40S는 이전 세대 NVIDIA A40보다 최대 5배, NVIDIA HGX™ A100보다 1.2배 높은 추론 성능을 제공합니다. ‌획기적인 성능과 48GB의 메모리 용량을 갖춘 L40S는 멀티모달 생성형 AI 워크로드를 가속화하는 데 이상적인 플랫폼입니다.

    생성형 AI에 대해 자세히 알아보기 >
  • 이미지
    LLM 훈련 및 추론

    FP8을 지원하는 4세대 Tensor 코어는 탁월한 AI 컴퓨팅 성능을 제공하여 최첨단 LLM 및 생성형 AI 모델의 훈련과 추론을 가속화합니다. NVIDIA의 전체 추론 제공 소프트웨어 스택과 L40S GPU를 결합하면 추론을 위해 준비된 훈련된 모델을 위한 강력한 플랫폼을 제공합니다.

    NVIDIA AI 추론의 이점 살펴보기 >
  • 이미지
    렌더링 및 3D 그래픽

    이전 세대 대비 최대 2배의 실시간 레이 트레이싱 성능을 제공하는 3세대 RT 코어를 통해 인터랙티브 렌더링에서 실시간 버츄얼 제작에 이르기까지 놀라운 비주얼 콘텐츠와 충실도 높은 크리에이티브 워크플로우를 제작할 수 있습니다.

    NVIDIA RTX 기술에 대해 자세히 알아보기 >
  • 이미지
    NVIDIA Omniverse

    NVIDIA Omniverse™를 사용하면 차세대 산업 디지털화 애플리케이션을 연결, 개발, 운영할 수 있습니다. 강력한 RTX 그래픽 및 AI 기능을 갖춘 L40S는 Omniverse에 구축된 OpenUSD(Universal Scene Description) 기반 3D 및 시뮬레이션 워크플로우에 탁월한 성능을 제공합니다.

    NVIDIA Omniverse에 대해 자세히 알아보기 >

Specifications

GPU Architecture NVIDIA Ada Lovelace architecture
GPU memory 48GB GtdR6 with ECC
GPU memory bandwidth 864GB/s
Interconnect Interface PCIe Gen4x16: 64GB/s bi-directional
CUDA Cores 18,176
3 Generation RT Cores 142
4 generation Tensor Cores 568
RT Core performance TFLOPS 209
FP32 TFLOPS 91.6
TF32 Tensor Core TFLOPS 183 | 366*
BFLOAT16 Tensor Core TFLOPS 362.05 | 733*
FP16 Tensor Core 362.05 | 733*
FP8 Tensor Core 733 | 1,466*
Peak INT8 Tensor TOPS 733 | 1,466*
Peak INT4 Tensor TOPS 733 | 1,466*
Form Factor 111 x 268 (mm), dual slot
Display Ports 4 x DisplayPort 1.4a
Max Power Consumption 350W
Power Connector 16-pin
Thermal Passive
Virtual GPU (vGPU) software support Yes
vGPU Profiles Supported See the virtual GPU licensing guide
NVENC I NVDEC 3x l 3x (Includes AV1 Encode & Decode)
Secure Boot with Root of Trust Yes
NEBS Ready Level 3
MIG Support No
NVLink Support No
  • * 희소성

Information

상품명 NVIDIA L40S 엔비디아코리아 정품
KC 인증번호 -
정격전압 / 최대소비전력 350W
정품 품질 보증 3년 무상보증
출시년월 2023/08
제조사 NVIDIA Corporation
제조국 중국
크기 111 x 268 (mm), dual slot

제품문의

제품과 관련하여 궁금하신 사항을
문의하기를 통해 해결하세요.

문의 바로가기

기술지원 문의

A/S 서비스 및 기술지원 관련하여
궁금하신 사항을 문의하기를 통해 해결하세요.

문의 바로가기

교육문의

딥러닝 교육 및 트레이닝 관련하여
궁금하신 사항을 문의하기를 통해 해결하세요.

문의 바로가기