拥抱高风险用例

核心立场：多数科技公司到一定规模会"逃离"高风险用例（直接拒答以规避所有下行风险）；OpenAI 的选择是奔向它们——因为上行价值太大（GPT-5 在医疗 benchmark 是 state of the art，却禁用医疗问答，"会是巨大的遗憾"）。

配套做法：

1. 做好 ≠ 直接回答："该不该和男朋友分手？"——模型不应替你回答，而应像有思考力的伙伴那样给框架、帮你想清楚；用户挣扎时连接外部资源。定义"好行为"本身就是产品工作（Lenny 夫妻争议的例子：模型是"裁决"还是"帮你们自己解决"，这些微交互细节很重要）。
2. 激励结构先行（"Show me the incentive and I'll show you the outcome"）：订阅制商业模式不激励 engagement 最大化，目标是"你离开产品时感觉更好/达成了目标"。激励对了，才能判断野外的坏行为"是 bug 还是 by design"——对 OpenAI，谄媚明确是 bug。
3. 事故→度量的闭环（sycophancy 事件的处理模板）：某次更新让模型更爱说"当下听起来舒服的话"（"你完全对，你该分手"）→ 危险。响应：公开完整 retro 过度沟通；把新发现的问题变成每次发布都跑的回归指标（现在每个 release 都测 sycophancy，GPT-5 在此指标上有改进）；写公开博客阐明优化目标（帮你达成目标，而非留住你）。
4. 实验室里发现不了这类问题：与现实接触不仅暴露用例，也暴露该避免什么——纯 lab 环境里除非请医生参与，否则根本发现不了 sycophancy 的危害。