Grapector
NVIDIA GPU가 탑재된 단일 서버의 상태를 실시간으로 모니터링하고, AI 모델의 학습·추론 가능성을 예측하는 웹 기반 솔루션입니다. CPU, GPU, 시스템 메모리, 네트워크, 스토리지 상태를 한 화면에서 통합 확인할 수 있으며, 현재 장비의 GPU 및 메모리 정보를 기반으로 학습(Training)과 추론(Inference) 성능은 물론 모델의 실행 가능 여부까지 사전에 예측합니다.
Grapector 시스템 설치 및 등록 방법
Grapector 사용 요청과 라이선스 확인 절차는 기존과 동일합니다.
확인 완료 후 제공되는 빌드 애플리케이션을 실행하면 웹에서 바로 사용할 수 있습니다.
-
01
REQUEST
Grapector 요청담당자가 배정되고
라이선스 확인 절차를 진행합니다. -
02
DELIVERY
애플리케이션 수령확인 완료 후 빌드 애플리케이션과
실행 안내를 받습니다. -
03
ACCESS
실행 및 웹 접속애플리케이션 실행 후
웹 브라우저에서 사용합니다.
Grapector | 모니터링
NVIDIA GPU가 탑재된 단일 서버의 CPU, GPU, 시스템 메모리, 네트워크 및 스토리지 상태를 실시간으로 모니터링합니다.
서버 통합 모니터링
서버 전체 상태를 Healthy, Warning, Critical로 구분합니다. CPU, GPU, 시스템 메모리, 네트워크, 스토리지의 사용 현황과 주요 지표를 한 화면에서 제공합니다.
GPU 상세 모니터링
서버에 장착된 GPU별 사용률, 온도, 전력, VRAM과 시간대별 변화 추이를 제공합니다. GPU Index, 이름, UUID, BUS ID, Mode 등 하드웨어 정보도 함께 확인할 수 있습니다.
Grapector 모니터링 화면 구성 및 주요 기능
-
Overview
시스템 전체 상태와 CPU, GPU, 시스템 메모리, 네트워크 및 스토리지 주요 지표 제공
-
CPU
CPU Socket별 사용률, 온도, 전력 및 Core별 사용량 제공
-
Storage
OS 및 기타 스토리지의 사용량, 여유 공간, 전체 용량 및 파티션 정보 제공
-
GPU
GPU별 사용률, 온도, 전력, VRAM 및 하드웨어 정보 제공
-
System Memory /
Network시스템 메모리 사용 현황과 NIC별 다운로드 및 업로드 사용량 제공
Grapector Simulator | AI SIZING
현재 장비의 GPU 및 메모리 정보를 기반으로 AI 모델 학습과 추론 성능을 예측합니다.
Training Sizing
GPU, AI 모델, Precision, Epochs, Batch Size 등 학습 조건을 기준으로 메모리 요구량, GPU 가용률, 처리량, 예상 학습 시간과 학습 가능 여부를 계산합니다.
Inference Sizing
AI 모델과 입력·출력 토큰, Attention Heads, KV Heads, 동시 사용자 수 등의 조건을 반영해 처리량, 메모리 사용량과 추론 가능 여부를 계산합니다.
딥러닝 수행을 위한 최상의 솔루션 Grapector AI
- AI 트레이닝
- AI 추론
- 알림
- 스케쥴링
- 리스트
- 클라우드
- 데이터셋
- 모니터링
- 운영관리
- 커뮤니케이션
-
역할에 따른 상황 파악 가시화
사용자 계정 별 권한 설정이 가능하며 슈퍼 관리자의 경우 Cloud 전체 모니터링을 수행하여 자원 관리, 가용성, 변화등을 확인하고 대비하며 그룹 생성 및 관리자 할당이 가능해 사용자는 부여받은 역할에 따른 직관적인 관리가 가능합니다. 그룹 관리자의 경우 자신이 할당 받은 Group 자원내에서 모니터링을 수행하며 구성원의 스케쥴링 관리가 가능합니다.
-
All Pods 형태의 실행
리더스시스템즈의 Grapector AI에서 생성되는 작업들은 All Pods 형태로 실행되므로 Cloud 환경에서 공유 자원 사용이 가능하며 언제 어디서나 편리하게 관리가 가능한 역량 극대화 솔루션입니다.
-
개발 친화적 IDE 제공
사용자의 AI 프로젝트를 리스트형으로 제공하여 실험별 Output 파일 및 작업 현황 리스트를 보다 편리하게 관리 가능합니다. 각 프로젝트별 실험리스트를 통해 지속적인 인공지능 업그레이드를 추구할 수 있습니다.