Langfuse · AI 工具图鉴

📌 核心价值：YC 明星开源 LLM 工程平台，把 LLM 调用的每一步都摊开给你看

Langfuse 是 Y Combinator W23 孵化的开源 LLM 工程平台，GitHub 26.6K Star，集成 OpenAI / LangChain / LlamaIndex / LiteLLM / OpenTelemetry 等 100+ 框架，Docker Compose 5 分钟自托管，MIT 协议。

封面图

🚀 什么是 Langfuse？

Langfuse 是一个开源 LLM 工程平台，帮助团队协作开发、监控、评估、调试 AI 应用。它在几分钟内即可自托管，已被 Langflow、Open WebUI、screenshot-to-code、RAGFlow、Firecrawl 等 60+ 头部 AI 项目采用。

核心定位：不是单纯的 LLM 监控代理，而是 LLM 应用的全生命周期工程平台——把追踪、提示词管理、评估、Playground、API 都塞进一个平台，省去开发者自己拼凑 Datadog + LangSmith + 自建 Eval 的痛苦。

Langfuse 主界面

✨ 核心功能一览

Langfuse 核心功能

5 大模块覆盖 LLM 工程全流程：从开发期的提示词管理、Playground 调试，到运行期的链路追踪、指标收集，再到迭代期的 LLM-as-a-Judge 评估、用户反馈闭环——一个平台打通。

Langfuse 特性总览

🛠️ 快速上手：5 分钟自托管 + 第一个追踪

1️⃣ 自托管部署

# 克隆最新代码
git clone --depth=1 https://github.com/langfuse/langfuse.git
cd langfuse

# 用 Docker Compose 一键启动（依赖 ClickHouse + Postgres + Redis）
docker compose up

启动后访问 http://localhost:3000 即可看到 Langfuse 控制台。官方也提供 Cloud 版本（cloud.langfuse.com），免费层无需信用卡。

2️⃣ 安装 Python SDK

pip install langfuse openai

3️⃣ 配置环境变量

LANGFUSE_SECRET_KEY="sk-lf-..."
LANGFUSE_PUBLIC_KEY="pk-lf-..."
LANGFUSE_BASE_URL="https://cloud.langfuse.com"

4️⃣ 5 行代码完成第一次 LLM 调用追踪

from langfuse import observe
from langfuse.openai import openai  # OpenAI 自动埋点集成

@observe()
def story():
    return openai.chat.completions.create(
        model="gpt-4o",
        messages=[{"role": "user", "content": "What is Langfuse?"}],
    ).choices[0].message.content

@observe()
def main():
    return story()

main()

跑完即可在 Langfuse UI 看到完整的调用链（输入、输出、token 消耗、延迟、嵌套关系）。

真实追踪界面

注意：上面用的是 Langfuse 的 OpenAI drop-in 集成——你不需要改任何业务代码，只需把 from openai import openai 换成 from langfuse.openai import openai，所有 OpenAI SDK 调用都会被自动埋点。

📊 与竞品对比

Langfuse vs 主流竞品

Langfuse 的差异化优势：唯一同时支持自托管 + 提示词管理 + 评估 + 完整 LLM 工程链路的开源平台。Helicone 只做可观测性代理（不管理提示词、不支持自托管），Arize Phoenix 强在评估但提示词管理缺失。

💡 适用场景

场景 1：LLM 应用线上故障排查

部署架构

功能说明：当生产环境的 ChatGPT 应用突然出现错误响应，开发者通常需要捞日志、看 trace、重放请求。Langfuse 把每次 LLM 调用的输入、输出、模型参数、token 消耗、延迟、嵌套子调用全部记录在一个 trace 里，直接在 UI 上点开就能看。

输入要求：用 Langfuse SDK 或 OpenTelemetry 自动埋点

输出效果：可视化调用链 + 完整输入输出 + 性能指标

适用场景：Agent 系统的多步推理失败定位、RAG 检索结果质量回溯、长上下文 token 成本分析

场景 2：提示词版本管理与协作

功能说明：产品经理改提示词、算法工程师调模型参数、文案改 system prompt——传统做法是改代码、发版、回滚。Langfuse 把提示词从代码里抽出来，集中到一个 Web 界面，支持版本控制、A/B 测试、协作评论，所有迭代无需发版。

输入要求：通过 Langfuse UI 或 API 上传提示词

输出效果：服务端 + 客户端双层缓存，切换提示词不增加任何延迟（官方基准测试 < 1ms）

适用场景：多场景多版本的 prompt 模板管理、提示词 A/B 实验、新人协作 onboarding

场景 3：LLM 输出质量评估

功能说明：评估 LLM 应用输出质量是工程化最难的环节。Langfuse 内置 LLM-as-a-Judge、用户反馈收集、手动标注、Code 评估器、自定义 SDK 5 种评估方式，配合 Datasets 模块做 pre-deployment 测试和持续 CI 评估。

输入要求：定义评估指标 + 标注测试集 + 配置评估 pipeline

输出效果：每次发版自动跑评估 + 历史趋势对比 + 失败 case 列表

适用场景：RAG 系统答案准确率评估、Agent 任务完成率评估、Chatbot 用户满意度回归测试

场景 4：跨框架统一可观测性

集成生态

功能说明：很多团队同时用 OpenAI API + LangChain + LlamaIndex + 自建 Agent 框架。Langfuse 的 SDK 支持 Python / JS/TS，并通过 OpenTelemetry 协议接入任意 LLM 框架——所有调用统一打到 Langfuse，不再需要为每个框架单独埋点。

输入要求：安装 Langfuse SDK + 配置环境变量

输出效果：单一面板看到所有框架的调用 + 统一成本核算 + 跨框架性能对比

适用场景：多技术栈团队、混合使用商业 API 和开源模型、需要统一成本监控的 AI 产品

用户群体总结

✅ AI 产品团队：快速搭建 LLM 应用监控 + 迭代闭环
✅ RAG 工程师：可视化检索链路 + 答案质量评估
✅ Agent 开发者：多步推理追踪 + 工具调用日志回溯
✅ 企业 AI 落地：私有化部署 + 数据不出内网
❌ 不适合：纯 LLM 学术研究者（用 LangSmith 更轻量）

💰 定价方案

套餐	费用	关键限制
Langfuse Cloud 免费层	$0	5K events/月，50K observations，30 天数据保留
Langfuse Cloud Pro	$39/月起	100K events/月，90 天数据保留
Langfuse Self-Host（社区版）	$0	MIT 协议，无功能限制，仅自运维
Enterprise（企业版）	定制	SSO / 审计 / 高级支持，含 `ee/` 商业模块

开源协议： MIT（ee/ 企业版文件夹除外）

💡 新用户福利：Cloud 免费层无需信用卡，注册即用；自托管版 5 分钟跑通，永久免费

🎯 总结

Langfuse 把 LLM 工程化从"零散拼凑 Datadog + 自建 Eval + Notion 提示词表"变成了"一个平台搞定一切"——这是 YC W23 团队用 26.6K Star 验证过的工程范式。

对于国内团队，自托管版本用 Docker Compose 5 分钟跑通，数据完全不出内网，规避了合规风险；对于出海团队，Cloud 版的 EU/US 双区域满足 GDPR 要求。

如果你正在开发任何严肃的 LLM 应用——不论是 RAG、Agent 还是 Chatbot——Langfuse 都应该是你工程栈的必选项。

推荐指数： ⭐⭐⭐⭐⭐（满分 5 星）

适合人群： AI 产品工程师 / RAG 团队 / Agent 开发者 / 企业 AI 落地团队

立即体验： Langfuse 官网 · Cloud 版 · GitHub 仓库

数据截至 2026-06-25，最新信息请以官网为准。

配套媒体