AI 产品最容易出现的误区，是把一次效果不错的模型调用当成已经完成的能力。
真正进入生产环境后，我们还要回答更多问题：答案来自哪里？什么时候会失败？失败后如何定位？同一个问题重复测试时为什么发生波动？
从可演示到可交付
一个可靠的 AI 功能至少包含四层：
- 输入边界：明确系统接收什么，以及什么情况应该拒绝。
- 证据链路：让检索结果、工具调用和最终答案之间能够被追踪。
- 质量评估：用固定案例和真实反馈判断变化究竟是提升还是回退。
- 运行诊断：出现问题时，能够快速定位发生在哪一层。
type AnswerTrace = {
query: string;
evidence: Evidence[];
decisions: Decision[];
answer: string;
};
技术选型并不是最难的部分。更重要的是建立一条团队能够理解、验证和持续改进的产品链路。
保留复杂度预算
不是每个问题都需要 Agent，也不是每次请求都应该经过多轮推理。简单请求走确定性路径，复杂请求才进入更昂贵的推理流程，通常更可靠。
好的 AI 产品不是展示模型有多聪明，而是让用户知道它什么时候值得信任。