Self-Hosted AI Stack

新品

5|0 评价|0 收藏

访问网站

产品介绍

一个开源 Docker Compose 项目，用于在您自己的基础设施上运行本地模型、聊天、文档、语音和 AI 工具。

收录时间

2026年10月2日

免费网站AI 框架 AI DevOps 工具 AI 大模型 API AI 模型部署 AI 模型管理 AI 开源大模型 AI RAG 开源项目 AI RAG 平台 AI 向量数据库 AI 工作流编排

访问网站

什么是 Self-Hosted AI Stack？

Self-Hosted AI Stack 是一个开源 Docker Compose 项目，用于在您控制的基础设施上构建私有、本地优先的 AI 平台。它集成了本地模型服务和聊天、文档嵌入和检索、语音、工具和 AI 网关，并可选支持 HTTPS 和 NVIDIA GPU 加速。它支持 CPU、NVIDIA GPU 和云部署选项，并且设计为可组合的，因此您可以从少量服务开始，根据需要添加服务。

如何使用 Self-Hosted AI Stack？

1. 在 GitHub 仓库中查看架构、包含的服务、轻量级配置、安全默认值和部署说明。2. 在您自己的机器、服务器或云实例上部署开源 Docker Compose 堆栈。3. 可选启用 HTTPS 和 NVIDIA GPU 加速。4. 从您需要的服务开始，随着需求增长添加更多服务。5. 如果您仍在犹豫，请下载免费的 Local AI Readiness Guide，评估您的硬件，尝试使用 Ollama 运行小型本地模型，并在花钱之前比较本地、云、托管和混合方案。