什麼是 General Compute?
General Compute是一家AI推論服務供應商,聲稱是全球最快的,透過使用ASIC基礎設施而非GPU,每秒可處理多達1,000個令牌。它提供與OpenAI相容的API、用於生產工作負載的專用容量,以及自帶模型的能力。該服務專為延遲敏感型應用設計,如編碼代理和即時語音。
如何使用 General Compute?
- 在網站上註冊取得API金鑰,獲得100美元的免費額度,然後透過將基礎URL變更為https://api.generalcompute.com並更換API金鑰進行整合。該API與OpenAI相容,因此現有程式碼無需更改即可使用。如需專用容量或自訂部署,請聯絡銷售部門。
General Compute 的核心功能
- 與OpenAI相容的API,只需更換基礎URL
- 高達每秒1,000個令牌的推論速度
- 新帳戶可獲100美元免費額度
- 為生產工作負載提供帶SLA的專用容量
- 自帶模型(BYO)部署
- 基於ASIC的基礎設施(無需GPU)
- 順序工作負載的低首令牌延遲
用戶評價
5.0
/ 50 則評價
5 星
0
4 星
0
3 星
0
2 星
0
1 星
0
暫無評價,來寫第一條吧
相似產品
General Compute 推廣元件
使用網站徽章展示您的產品已收錄於 Hootool,推動社群對工具發現與傳播的支持。推廣元件可輕鬆新增到首頁或頁尾。






