Fundamentals of Deep Learning for Multi-GPUs
(멀티 GPU를 위한 딥 러닝의 기초)
교육시간
1일 8시간
언어
한국어, 영어
기술
TensorFlow, Keras, Horovod
이미지
교육목적
  • 이 교육에서는 멀티GPU에서 딥 뉴럴 네트워크를 트레이닝하여 데이터 집중적인 애플리케이션에 필요한 트레이닝 시간을 단축하는 기법을 설명합니다. 딥 러닝 도구, 프레임워크 및 워크플로우 작업을 수행하여 뉴럴 네트워크 트레이닝을 수행하면서 Horovod 멀티 GPU를 구현하여 효율적인 분산 소프트웨어를 작성하는 데 따르는 복잡성을 줄이고 다수의 GPU에 걸쳐 모델을 트레이닝할 때 정확도를 유지하는 개념을 알아봅니다.
전제조건
경사 하강법 모델 트레이닝 관련 경험
평가유형
코드기반
인증서
평가를 성공적으로 완료한 참가자는 관련 분야에 대한 역량을 인정 받고, 전문적 커리어 성장을 지원하는 NVIDIA DLI 인증서를 받게 됩니다.
사전준비 (하드웨어 요구 사항)
최신 버전의 Chrome 또는 Firefox를 실행할 수 있는 데스크톱 또는 노트북을 준비한 참가자에게는 클라우드 상에서 완전하게 구성된 GPU 가속 서버에 접근할 수 있는 전용 권한이 주어집니다.
교육문의하기
학습목표
  • 01

    병렬 처리 트레이닝에 필수 도구인 SDG(확률적 경사 하강법)
  • 02

    배치 크기가 트레이닝 시간 및 정확도에 미치는 효과
  • 03

    단일 GPU 구현을 Horovod 멀티 GPU 구현으로 변환하는 방법
  • 04

    멀티 GPU 전체를 트레이닝할 때 높은 정확도를 유지하는 기법
NVIDIA | DEEP LEARNING INSTITUTE
교육개요
인트로 (15분) · 전문가 강사와 만나기
· courses.nvidia.com/join에서 계정 생성하기
확률적 경사 하강법 및
배치 크기의 효과 (120분)
· 순차적 단일 스레드 데이터 처리와 관련된 문제 및 병렬 처리를 통한 애플리케이션 속도 향상 이면의 이론 이해하기
· 손실 함수, 경사 하강법 및 SDG 살펴보기
· 정확도 및 트레이닝 시간에 배치 크기가 미치는 효과 알아보기
휴식 (60분)
Horovod를 사용한 멀티
GPU 트레이닝 (120분)
· Horovod를 사용하여 멀티 GPU에서 트레이닝하는 이점 알아보기
· Fashion-MNIST 데이터세트의 단일 GPU 트레이닝을 Horovod 멀티 GPU 구현으로 변환하는 방법 알아보기
휴식 (15분)
멀티 GPU로 확장 시 모델
정확도 유지 (120분)
· 멀티 GPU에서 병렬 처리 트레이닝 시 정확도가 낮아질 수 있는 이유 이해하기
· 멀티 GPU로 트레이닝 확장 시 정확도를 유지하는 도구 살펴보기
최종 복습
(15분)
· 핵심 내용을 복습하고 질문에 답하기
· 평가를 완료하고 인증서 취득하기
· 워크숍 설문지 작성하기
· 자신만의 AI 애플리케이션 개발 환경을 설정하는 방법 알아보기