操盘手年鉴The Operators’ Almanac
AI · MM · 349

AI 产品两大差异

AI Products Two Differences · ai-products-two-differences--reganti-badam
AI 与新工作方式 思维模型 AI 时代 2026-01 Aishwarya Naresh Reganti + Kiriti Badam ✓ 已核验出处

解决什么问题

为什么不能照搬传统软件的产品开发方式来做 AI 产品——先在头脑里立起两个根本差异,再谈流程与方法。

核心内容

差异一:双端非确定性(最常被忽视)

  • 传统软件是映射清晰的决策引擎(Booking.com:意图→按钮/表单→动作,路径可预测)。AI 产品用自然语言这个流体界面替换了这一层:
    • 输入侧不可预测:用户表达同一意图的方式无穷多;
    • 输出侧不可预测:LLM 是对提示措辞敏感的概率黑盒。
  • 结果是输入、输出、过程三者你都不完全理解,只能"预估行为并为其构建"。而多数系统要交付的是确定性结果——用非确定性技术实现确定性结果,正是难度所在。
  • 硬币的另一面:这也是 AI 产品之美——说话比点按钮自然,使用门槛大幅降低。

差异二:agency-control 权衡

  • 每次把决策权(autonomy/agency)交给 agent,你就同步放弃了一部分控制。给出 agency 之前,agent 必须先"挣得"这份信任——靠可靠性记录,而不是靠愿景。
  • 佐证:UC Berkeley/Databricks 团队的调研显示约 74-75% 受访企业的首要问题是可靠性——这也是为什么当前多数 AI 产品做的是低自主的"生产力增强"而非端到端替代工作流。

适用边界

  • 作者强调 AI 系统与软件系统仍有大量相似处,差异论不等于推倒重来。
  • 差异一在受限输出场景(分类、结构化抽取)会被弱化;差异二在只读/建议型产品中不构成主要矛盾。

关键引述 · 原话

"You don't know how the user might behave with your product, and you also don't know how the LLM might respond to that." — Aishwarya Naresh Reganti

"Every time you hand over decision-making capabilities to agentic systems, you're kind of relinquishing some amount of control on your end." — Aishwarya Naresh Reganti

关联卡片

- 这是 cccd-framework 卡的理论前提:因为行为无法预判,才需要持续校准。 - 与 Simon Willison 的 lethal-trifecta(提示注入风险)同指非确定性 API 的安全面。

出处Aishwarya Naresh Reganti + Kiriti Badam (AI 顾问 / OpenAI Codex) · 03-podcasts/aishwarya-naresh-reganti--kiriti-badam.md
提炼自 Lenny Rachitsky 的 Lenny’s Newsletter & Podcast(2019–2026)。本站为个人学习用途的二次创作,与 Lenny’s Newsletter 无官方关联。
provenance · 已核验 · glm-5.2