什么是 General Compute？
General Compute是一家AI推理服务提供商，声称是全球最快的，通过使用ASIC基础设施而非GPU，每秒可处理多达1,000个令牌。它提供兼容OpenAI的API、用于生产工作负载的专用容量，以及自带模型的能力。该服务专为延迟敏感型应用设计，如编码代理和实时语音。
如何使用 General Compute？
- 在网站上注册获取API密钥，获得100美元的免费额度，然后通过将基础URL更改为https://api.generalcompute.com并更换API密钥进行集成。该API兼容OpenAI，因此现有代码无需更改即可使用。如需专用容量或自定义部署，请联系销售部门。
General Compute 的核心功能
- 兼容OpenAI的API，只需更换基础URL
- 高达每秒1,000个令牌的推理速度
- 新账户可获100美元免费额度
- 为生产工作负载提供带SLA的专用容量
- 自带模型（BYO）部署
- 基于ASIC的基础设施（无需GPU）
- 顺序工作负载的低首令牌延迟
用户评价
5.0
/ 50 条评价
5 星
0
4 星
0
3 星
0
2 星
0
1 星
0
暂无评价，来写第一条吧
相似产品
General Compute 推广组件
使用网站徽章展示您的产品已收录于 Hootool，帮助更多人按问题找到合适的 AI 工具。推广组件可轻松添加到主页或页脚。