AI · IN · 218
双端非确定性
Double Ended Non Determinism · double-ended-non-determinism--reganti-badam
所属簇 AI 产品开发方法论
解决什么问题
解释为什么"demo 惊艳 → 生产崩溃 → 问题纠缠难追因 → 产品方向动摇"的剧本在 AI 产品上反复上演——这不是执行不力，而是忽视了 AI 系统对传统软件假设的根本性破坏。
核心内容
- 传统软件的可预测性来自两端确定：用户以已知方式交互（点击、表单、API 调用），代码把输入映射到结果；坏了通常是代码问题，可以回溯。
- AI 产品在两端同时引入非确定性：
- 输入端：用户通过开放式 prompt、语音等自然输入交互——难校验、易误解、意图表达方式差异巨大。
- 输出端：模型被训练来生成"貌似合理"的回应，而非遵循固定规则。同一请求会因措辞、上下文甚至换模型而产生不同结果。
- 设计含义：你不再是为可预测的用户流设计，而是为"可能行为"（用户侧与产品侧都是）设计，不是"保证行为"。开发流程必须从一开始就内建不确定性处理，在"你预期的"与"真实世界出现的"之间持续校准。
- 这是作者提出 CC/CD 的第一动机：50+ 个 AI 实施项目里反复看到团队沿用传统产品流程，导致意外失败、糟糕决策与用户信任的静默流失。
适用边界
- 作者的立场：AI 时代每一条行业最佳实践都值得重估，最快调整的团队获得巨大优势；本洞察是重估的出发点，另一半是 agency-control 权衡。
- 非确定性同样会污染 eval（eval 常按预期行为设计），所以 eval 本身也要随真实数据迭代。
关键引述 · 原话
Aishwarya Reganti & Kiriti Badam: "You're no longer designing for a predictable user flow. You're designing for likely behavior—both from the user and the product—not guaranteed behavior."
关联卡片
- 引出 `cc-cd-framework--reganti-badam`；与 `agency-control-tradeoff--reganti-badam` 并列为 AI 产品的两大差异。 - evals 存在的根本原因，衔接 `error-analysis-open-axial-coding--husain-shankar`。
被这些卡引用
出处：Aishwarya Reganti & Kiriti Badam (曾主导 50+ AI 实施项目，Maven 课程讲师) · 02-newsletters/why-your-ai-product-needs-a-different-development-lifecycle.md
提炼自 Lenny Rachitsky 的 Lenny’s Newsletter & Podcast（2019–2026）。本站为个人学习用途的二次创作，与 Lenny’s Newsletter 无官方关联。
provenance · 已核验 · glm-5.2
提炼自 Lenny Rachitsky 的 Lenny’s Newsletter & Podcast（2019–2026）。本站为个人学习用途的二次创作，与 Lenny’s Newsletter 无官方关联。
provenance · 已核验 · glm-5.2