Self-Hosted AI Stack

New

5|평가 0개|즐겨찾기 0개

웹사이트 방문

제품 소개

로컬 모델, 채팅, 문서, 음성 및 AI 도구를 자체 인프라에서 실행하기 위한 오픈소스 Docker Compose 프로젝트입니다.

등록일

2026년 10월 2일

무료웹사이트AI 프레임워크 AI DevOps 도구 AI LLM API AI 모델 배포 AI 모델 관리 AI 오픈소스 LLM AI RAG 오픈소스 AI RAG 플랫폼 AI 벡터 데이터베이스 AI 워크플로 오케스트레이션

웹사이트 방문

Self-Hosted AI Stack이란?

Self-Hosted AI Stack은 통제 가능한 인프라에서 프라이빗하고 로컬 우선의 AI 플랫폼을 구축하기 위한 오픈소스 Docker Compose 프로젝트입니다. 로컬 모델 서빙 및 채팅, 문서 임베딩 및 검색, 음성, 도구, AI 게이트웨이를 번들로 제공하며, 선택적으로 HTTPS 및 NVIDIA GPU 가속을 지원합니다. CPU, NVIDIA GPU 및 클라우드 배포 옵션을 지원하며, 작게 시작하여 필요에 따라 서비스를 추가할 수 있도록 구성 가능하게 설계되었습니다.

Self-Hosted AI Stack 사용 방법

1. GitHub 저장소에서 아키텍처, 포함된 서비스, 경량 구성, 보안 기본값 및 배포 지침을 검토합니다. 2. 오픈소스 Docker Compose 스택을 자신의 머신, 서버 또는 클라우드 인스턴스에 배포합니다. 3. 선택적으로 HTTPS 및 NVIDIA GPU 가속을 활성화합니다. 4. 필요한 서비스부터 시작하고 요구 사항이 커짐에 따라 추가합니다. 5. 아직 결정 중이라면 무료 Local AI Readiness Guide를 다운로드하여 하드웨어를 평가하고, Ollama로 작은 로컬 모델을 시험해보고, 비용을 지출하기 전에 로컬, 클라우드, 관리형 및 하이브리드 접근 방식을 비교하십시오.