什麼是 Self-Hosted AI Stack？
Self-Hosted AI Stack 是一個開源 Docker Compose 專案，用於在您控制的基礎架構上建置私有、本機優先的 AI 平台。它整合了本機模型服務和聊天、文件嵌入和檢索、語音、工具和 AI 閘道，並可選支援 HTTPS 和 NVIDIA GPU 加速。它支援 CPU、NVIDIA GPU 和雲端部署選項，並且設計為可組合的，因此您可以從少量服務開始，視需要新增服務。
如何使用 Self-Hosted AI Stack？
- 1. 在 GitHub 儲存庫中檢閱架構、包含的服務、輕量級組態、安全預設值和部署指示。2. 在您自己的機器、伺服器或雲端執行個體上部署開源 Docker Compose 堆疊。3. 可選啟用 HTTPS 和 NVIDIA GPU 加速。4. 從您需要的服務開始，隨著需求成長新增更多服務。5. 如果您仍在猶豫，請下載免費的 Local AI Readiness Guide，評估您的硬體，嘗試使用 Ollama 執行小型本機模型，並在花錢之前比較本機、雲端、受管理和混合方案。
Self-Hosted AI Stack 的核心功能
- 本機模型服務和聊天
- 文件、嵌入和檢索（RAG）
- 語音和聲音功能
- AI 工具和閘道
- CPU、NVIDIA GPU 和雲端部署選項
- 可選 HTTPS 和安全預設值
- 可組合、模組化的 Docker Compose 架構
- 開源且本機優先 / 預設私有
用戶評價
5.0
/ 50 則評價
5 星
0
4 星
0
3 星
0
2 星
0
1 星
0
暫無評價，來寫第一條吧
相似產品
Self-Hosted AI Stack 推廣元件
使用網站徽章展示您的產品已收錄於 Hootool，推動社群對工具發現與傳播的支持。推廣元件可輕鬆新增到首頁或頁尾。