对话界面护栏机制

Chat Interface Guardrails · chat-interface-guardrails--tamar-yehoshua

解决什么问题

为什么 chat 界面的 AI 产品留存差、用户用不好，以及产品层面该补什么。

核心内容

能力不透明是 chat 的原罪：用户面对空输入框不知道"什么能问、什么不能问"。Glean 助手质量团队的最大问题之一，就是用户拿它问根本不可能有答案的事（"我下周的最高优先级该是什么"——系统根本不知道你的优先级），失败后归因为"产品不行"。
留存机理：（作者引述当时的理解）ChatGPT 类产品留存偏低，因为它不在用户工作流里，且用户无法形成"它能干什么"的稳定心智模型——玩一下就放下。
历史类比：搜索花了多年教育用户。查询改写/细化这个行为，是靠 autocomplete、页底相关搜索等一系列产品特性长期养成的。chat 需要等价物：建议 prompt、引导示例（"你可以这样问：查一下 Tamar 做的那个 feature 的状态"）、明确的能力边界提示——作者统称 guardrails。
企业场景的确定性期望：企业 CIO 周末会玩 ChatGPT，但周一上班就期望软件是确定性的。非确定性产品进企业，用户教育是产品工作的一部分。
隐含结论：不要指望用户自己摸索出正确用法；"帮用户发现能力"本身是核心功能，不是锦上添花。

适用边界

2024 年的观察；后续产品（记忆、建议、proactive 形态）都在按这个方向补，但"能力不透明"在每个新能力出现时都会重演。
高技术受众（开发者工具）用户自我探索能力更强，guardrails 优先级可下调。

关键引述 · 原话

"An enterprise CIO will go use ChatGPT on the weekends, but they come to work and they expect their software to be deterministic." — Tamar Yehoshua

"One of the biggest issues they have is people trying to use Glean for things that there's no way it could know." — Tamar Yehoshua

— Tamar Yehoshua

关联卡片

- 是 Amol Avasare 的 ai-activation-good-friction（capability overhang）在 2024 年的前奏：同一问题的两个时代表述。 - 与 Alexander Embiricos 的 proactive-contextual-ai 相接：proactivity 是"用户不知道能问什么"的终极解法。

出处：Tamar Yehoshua (Glean 产品与技术总裁, ex-Slack CPO) · 03-podcasts/tamar-yehoshua.md
提炼自 Lenny Rachitsky 的 Lenny’s Newsletter & Podcast（2019–2026）。本站为个人学习用途的二次创作，与 Lenny’s Newsletter 无官方关联。
provenance · 已核验 · glm-5.2