什麼是 Modular？
Modular 是一個統一的 AI 推論平台，涵蓋從 GPU 核心到雲端 API 端點的整個過程。它包括 MAX，一個硬體無關的 serving 框架，提供相容於 OpenAI 的 API，以及 Mojo，一種用於撰寫高效能 GPU 核心的系統程式語言。該平台可在 NVIDIA、AMD、Trainium、TPU、Qualcomm、Intel、ARM 和 Apple 晶片上執行相同的模型和程式碼庫，並可部署在 Modular 的託管雲或您自己的 VPC 中。
如何使用 Modular？
- 在 modular.com 上註冊或申請示範即可開始使用。透過 API 經由 Shared Endpoints 存取前沿和開源模型，或部署專用端點以實現關鍵任務級的可靠性。自行託管執行 MAX 框架和 Mojo，或使用 Modular Cloud 獲得全託管、按用量計費的 serving。使用模型庫和文件來移植自訂模型並撰寫自訂 GPU 核心。
Modular 的核心功能
- 從 GPU 核心到 API 端點的統一推論堆疊
- 提供相容於 OpenAI API 的 MAX serving 框架
- 用於高效能 GPU 核心的 Mojo 系統程式語言
- 跨 NVIDIA、AMD、Trainium、TPU、Qualcomm、Intel、ARM 和 Apple 晶片的硬體可攜性
- 面向前沿和自訂模型的 Shared 和 Dedicated Endpoints
- 可部署在 Modular Cloud 或您自己的 VPC 中
- 支援 1000+ 模型，包括 DeepSeek 和 Kimi
- 用於模型移植的 Agentic Skills 和 AI 編碼技能
用戶評價
5.0
/ 50 則評價
5 星
0
4 星
0
3 星
0
2 星
0
1 星
0
暫無評價，來寫第一條吧
相似產品
Modular 推廣元件
使用網站徽章展示您的產品已收錄於 Hootool，推動社群對工具發現與傳播的支持。推廣元件可輕鬆新增到首頁或頁尾。