AI护栏四模式

作者真实案例：一个总结 Slack 长讨论串为"决定和行动项"的 AI 功能，测试时表现良好，直到它开始在没人达成一致的情况下给行动项分配负责人，有时还分配给了错的人。团队意识到问题出在护栏缺失，不是模型能力不够，于是只在系统提示词里加了一句话：

"Only assign an owner if someone explicitly volunteers or is directly asked and confirms. Otherwise, surface themes and ask the user what to do next."

这一条约束几乎立刻消除了最大的信任问题。

四种覆盖大多数真实场景的护栏模式：

1. 模型看起来不确定时 → 让它问而不是猜：在系统/任务提示词里加一句明确指令，例如"如果你不确定，先问一个澄清性问题，而不是做假设。"小问题（"你想要摘要还是关键决定？"、"应该聚焦 onboarding 还是支付？"）往往能防止下游更大的错误。
2. 上下文太长时 → 把选择权交给用户：不要让模型悄悄丢弃信息，而是问"这段讨论很长——应该聚焦前半段、后半段，还是只看行动项？"这样做既快又诚实，还能避免幻觉。
3. 模型编造结构时 → 让它明说：如果输入里根本没有决定/负责人/明确结果，让模型回复"我在这里没看到任何决定——你想要主题总结吗？"透明本身就是在建立信任。
4. 输出忽高忽低摇摆不定时 → 加一点轻量结构：如果同一个请求每次产生截然不同的答案,用一个简单格式稳住它,例如"列出:讨论了什么、决定了什么、需要跟进什么。"这样能减少方差,同时不会让产品显得僵硬。

核心原则：这些护栏都不会让模型变得"更聪明"，它们只是保护用户不受模型短板的影响，并防止误解——提前决定好系统该在哪里放慢速度、寻求帮助、收窄范围，或者直接说"我不知道"。