操盘手年鉴The Operators’ Almanac
AI · MM · 374

AI 人设框定体验护栏

AI Persona Framing For UX Guardrails · ai-persona-framing-for-ux-guardrails--ryan-j-salva
AI 与新工作方式 思维模型 AI 前 2022-09 Ryan J. Salva ✓ 已核验出处

解决什么问题

设计 AI 产品的行为边界/内容审查规则时(什么该说、什么不该说、语气该怎样),怎么快速拉齐一个团队(工程、法务、隐私、安全、用户)的判断标准,而不是逐条抽象地辩论"哪些词该屏蔽"。

核心内容

GitHub 给 Copilot 定的核心框架是把它想象成一个具体的人物设定:"AI 结对编程搭档"(AI pair programmer)——两个开发者并肩坐着,一个敲键盘,另一个在旁边帮忙梳理思路、提建议、纠错。一旦有了这个具体人物设定,很多抽象的产品原则问题就能转译成一个更直觉的问题:"如果这个坐在你旁边的搭档一直在你耳边讲政治、性别话题、脏话或攻击性言论,你还能专心工作吗?" 这个具体的画面感,比抽象讨论"AI 该不该有言论限制"更容易让团队(不只是产品,还包括法务、隐私、安全团队)就"合适的行为边界"达成共识,也更容易向用户解释为什么要有这些限制。

同一原则也用于圈定能力边界:"如果 Copilot 是搭档,而不是主驾驶,那它就不该自动生成代码到没有人类在做决策"——即产品的核心承诺是增强(augment)而不是替代(replace),并且不应该替代其他已有的质量保障机制(静态分析工具、单元测试等),这些机制应该原样保留,而不是被 AI 的"看起来很智能"所取代。

适用边界

赋予 AI 一个具象人格类比有助于快速对齐团队直觉,但作者自己也承认实际执行内容审查(例如用简单屏蔽词表)会不断遇到"这个词到底该不该屏蔽"的边界案例,说明这个框架能帮助定方向,但不能替代持续的、具体场景下的迭代打磨(他们后来引入了专门的责任 AI 团队用模型判断语境而非死板的屏蔽词表)。

关键引述 · 原话

"if Copilot is your AI pair programmer and they're whispering crazy stuff into your ear... you're probably not going to be able to focus on your work" — Ryan J. Salva

关联卡片

与 copilot-not-pilot-human-in-loop--inbal-shani 表达同一产品哲学(增强而非替代),这张卡补充了"怎么用具象人格类比把这个哲学转译成具体设计规则"的方法。

出处Ryan J. Salva (VP of Product, GitHub Copilot) · 03-podcasts/ryan-j-salva.md
提炼自 Lenny Rachitsky 的 Lenny’s Newsletter & Podcast(2019–2026)。本站为个人学习用途的二次创作,与 Lenny’s Newsletter 无官方关联。
provenance · 已核验 · glm-5.2