模型能调起来之后,下一个问题是「它到底跑得怎么样」。LangSmith 就是 LangChain 生态里负责这件事的平台:把大模型应用的调用链路、性能指标、测试数据和提示词放到一个地方管理。
12.1 什么是 LangSmith
LangSmith 是 LangChain 生态中专门用于 LLM 应用调试、监控、评估和管理的平台。四个关键词可以概括它的定位:
- 追踪(Tracing):记录每次 LLM 调用的详细信息;
- 监控(Monitoring):实时查看应用性能;
- 调试(Debug):排查问题、优化性能;
- 评估(Evaluate):系统化测试 LLM 应用。
登录后的主界面以 Tracing 项目列表为中心,可以看到每个项目最近的运行时间、Trace 数量、错误率、P50/P99 延迟、Token 消耗和成本。

首页还会用卡片引导你完成 Tracing、Studio、Playground 和 Experiment 四件事,下方直接展示最近 7 天的 Tracing 项目和数据集入口。

12.2 核心应用与开发
12.2.1 Tracing(追踪)
这是 LangSmith 最核心的功能。它会完整记录大模型应用的每一次调用链路(Trace)。当 Agent 或 RAG 系统运行变慢、报错时,点进对应的项目,就能看到每一步的 Prompt 是什么、模型返回了什么、消耗了多少 Token,以及每个链条节点的耗时。排查 Bug 和优化性能都靠它。
12.2.2 Monitoring(监控)
提供生产环境的数据可视化看板,从宏观角度观察应用在一段时间内的运行状况:Token 消耗趋势、QPS(每秒请求数)、错误率、平均延迟以及成本预估。应用上线后,用来看系统稳定性和开销。
12.2.3 Datasets & Experiments(数据集与实验)
用于管理测试数据集并运行对比实验。可以把用户的真实输入、特定的边界情况(Edge Cases)存成数据集。修改 Prompt 或更换底层模型后,在这里跑自动化对比测试,就能直观看到新旧版本在同一批测试集上的表现差异。
12.2.4 Evaluators(评估器)
用于配置和自动化评估任务。大模型的输出往往难以用传统断言(Assert)测试,LangSmith 允许配置基于规则(如关键词匹配)或基于模型(LLM-as-a-judge)的评估指标,例如答案相关性、是否包含幻觉,然后对追踪到的数据或实验结果自动打分。
12.2.5 Annotation Queues(标注队列)
人工反馈与数据清洗工具。在开发或初上线阶段,可以把一部分 Trace 发送到标注队列,让核心成员、业务专家或人工客服手动打分、纠正回答或贴标签。这些高质量的人工标注数据,后续可以直接用于微调模型或充当测试集。
12.3 提示词与调试工具
12.3.1 Prompts(提示词管理)
可以理解为「提示词版的 GitHub」。它把 Prompt 从代码中解耦出来,统一在云端管理:支持版本控制(v1、v2),代码里可以通过 API 动态拉取最新提示词,还支持团队协作和 Prompt 分享。
12.3.2 Playground(演练场)
一个网页端的模型交互界面。不用写代码,直接选择不同模型(OpenAI、Anthropic 或本地模型),快速微调并测试 Prompt 效果,还可以一键把调整好的 Prompt 保存到 Prompts 仓库。
12.3.3 Studio(工作室)
通常与 LangGraph 深度集成,提供可视化的图形交互界面。如果应用是基于图结构的复杂 Agent 架构,Studio 可以让你看到状态机(State)在各个节点之间如何流转,甚至支持在某个节点暂停、手动修改数据后再继续执行。调试复杂智能体交互时很有用。
12.3.4 Context Hub(上下文中心)
用于管理全局上下文或通用组件配置,存放可以在多个项目或 Prompt 中复用的公共上下文模板、全局变量或系统预设提示。
12.4 部署与沙盒
12.4.1 Deployments(部署)
一键把 LangChain 应用或 LangGraph Agent 部署为线上可用的 API 服务(通常依托 LangGraph Cloud)。平台负责高并发、队列管理和状态持久化,开发者只需要专注业务逻辑。
12.4.2 Sandboxes(沙盒)
提供轻量级的在线运行和测试环境,在不污染生产环境的前提下,安全地试运行、测试新部署的 Agent 或执行自动化脚本。当前 Sandboxes 可能以私有预览的形式开放,需要加入 waitlist。

12.5 学习建议
现阶段重点关注两件事:用 Tracing 观察项目里的调用细节,用 Playground 快速调优提示词。等应用结构变复杂,例如引入复杂的 RAG 检索或多 Agent 协同,再逐步引入 Datasets 做量化评估,并用 Studio 做可视化调试。
12.6 小结
LangSmith 不是模型,也不是框架,而是围绕 LLM 应用全生命周期的观测与评估平台。先把 Tracing 用起来,就能解决「模型为什么这么答、慢在哪、花了多少 Token」这三个最常见的问题。
下一篇:LangChain 1.2 入门(十三):注册 LangSmith 并配置 API Key;上一篇:输出美化、profile 与 config。
本文根据公开课程课件整理,并结合 LangSmith 官方文档核对与补充。