GMI Cloud이란?
GMI Cloud는 GPU 컴퓨팅, 최적화된 추론, 에이전트 런타임을 단일 클라우드에 통합하는 AI 인프라 플랫폼입니다. 기본적으로 서버리스 추론을 제공하며 자동으로 0으로 스케일링됩니다. 또한 학습, 파인튜닝, 대규모 프로덕션 추론을 위한 전용 베어메탈 NVIDIA GPU 클러스터도 제공합니다. NVIDIA Reference Platform Cloud Architecture를 기반으로 구축되었으며 H100, H200, Blackwell GPU를 지원합니다.
GMI Cloud 사용 방법
- Console에 로그인하여 서버리스 추론을 시작하고 AI 모델을 즉시 실행할 수 있습니다. 워크로드가 증가함에 따라 전용 GPU 인프라로 원활하게 확장하거나 예약 용량 및 엔터프라이즈 배포에 대해 영업팀에 문의하세요. LLM 및 멀티모달 모델을 위한 프로덕션 지원 API를 사용하고 모델 라이브러리와 문서에 액세스하여 모델을 배포하고 자동으로 스케일링할 수 있습니다.
GMI Cloud의 핵심 기능
- 자동으로 0으로 스케일링되고 유휴 비용이 없는 서버리스 추론
- RDMA 지원 네트워킹을 갖춘 전용 베어메탈 NVIDIA GPU 클러스터(H100, H200, Blackwell)
- LLM 및 멀티모달 모델을 위한 프로덕션 지원 API
- 내장된 요청 배치 처리 및 지연 시간 인식 스케줄링
- 예측 가능한 성능을 위한 멀티테넌트 격리
- 루트 액세스 및 사용자 정의 스택을 갖춘 멀티노드 오케스트레이션용 클러스터 엔진
- 컴퓨팅 및 추론과 함께 하나의 통합 클라우드에서 실행되는 에이전트 런타임
사용자 리뷰
5.0
/ 5평가 0개
5점
0
4점
0
3점
0
2점
0
1점
0
아직 리뷰가 없습니다. 첫 리뷰를 남겨 보세요.
유사 제품
GMI Cloud 임베드
웹사이트 배지로 제품이 Hootool에 등록되었음을 표시하고, 커뮤니티의 도구 발견과 공유를 응원하세요. 임베드는 홈페이지나 푸터에 쉽게 추가할 수 있습니다.