什麼是 Langfuse?
Langfuse 是一個開源的 LLM 工程平台,為 AI 代理和應用程式提供可觀測性、提示管理、評估和實驗工具。它使團隊能夠追蹤、監控和除錯 LLM 呼叫,管理提示,執行評估,並將 AI 系統從原型改進到生產規模。該平台支援自架設和雲端部署,注重開放標準和資料可攜性。
如何使用 Langfuse?
- 要開始使用 Langfuse,請建立帳戶或自架設平台,然後從專案設定中取得 API 憑證。安裝 Langfuse SDK(Python、JS/TS 等)或使用 OpenTelemetry 儀器來攝取追蹤資料。選擇您的框架(OpenAI SDK、LangChain、Vercel AI SDK 等),並按照整合指南自動記錄模型呼叫。使用儀表板監控追蹤、管理提示、執行評估和設定實驗。
Langfuse 的核心功能
- LLM 可觀測性:分層追蹤,捕捉每次 LLM 呼叫、工具呼叫和檢索步驟
- 評估:LLM 作為評判者、啟發式函數以及基於生產資料的人工審查
- 提示管理:將提示與程式碼分離,支援一鍵部署和回滾
- 遊樂場:在真實生產輸入上測試提示,並並排比較模型
- 實驗:定義測試案例並並排比較結果
- 人工標註:協作式人在迴路工作流程,用於審查和黃金資料集
- 成本與延遲監控:成本、延遲和品質的儀表板和自動警報
- 開放平台:MIT 授權、可自架設、REST API 和 100 多個整合
用戶評價
5.0
/ 50 則評價
5 星
0
4 星
0
3 星
0
2 星
0
1 星
0
暫無評價,來寫第一條吧
相似產品
Langfuse 推廣元件
使用網站徽章展示您的產品已收錄於 Hootool,推動社群對工具發現與傳播的支持。推廣元件可輕鬆新增到首頁或頁尾。






