什么是 Modular？
Modular 是一个统一的 AI 推理平台，涵盖从 GPU 内核到云端 API 端点的全过程。它包括 MAX，一个硬件无关的 serving 框架，提供兼容 OpenAI 的 API，以及 Mojo，一种用于编写高性能 GPU 内核的系统编程语言。该平台可在 NVIDIA、AMD、Trainium、TPU、Qualcomm、Intel、ARM 和 Apple 芯片上运行相同的模型和代码库，并可部署在 Modular 的托管云或您自己的 VPC 中。
如何使用 Modular？
- 在 modular.com 上注册或申请演示即可开始使用。通过 API 经由 Shared Endpoints 访问前沿和开源模型，或部署专用端点以实现关键任务级的可靠性。自行托管运行 MAX 框架和 Mojo，或使用 Modular Cloud 获得全托管、按用量付费的 serving。使用模型库和文档来移植自定义模型并编写自定义 GPU 内核。
Modular 的核心功能
- 从 GPU 内核到 API 端点的统一推理栈
- 提供兼容 OpenAI API 的 MAX serving 框架
- 用于高性能 GPU 内核的 Mojo 系统编程语言
- 跨 NVIDIA、AMD、Trainium、TPU、Qualcomm、Intel、ARM 和 Apple 芯片的硬件可移植性
- 面向前沿和自定义模型的 Shared 和 Dedicated Endpoints
- 可部署在 Modular Cloud 或您自己的 VPC 中
- 支持 1000+ 模型，包括 DeepSeek 和 Kimi
- 用于模型移植的 Agentic Skills 和 AI 编码技能
用户评价
5.0
/ 50 条评价
5 星
0
4 星
0
3 星
0
2 星
0
1 星
0
暂无评价，来写第一条吧
相似产品
Modular 推广组件
使用网站徽章展示您的产品已收录于 Hootool，帮助更多人按问题找到合适的 AI 工具。推广组件可轻松添加到主页或页脚。