操盘手年鉴The Operators’ Almanac
Guest · 6 张署名卡

Caitlin Sullivan

署名于 AI 与新工作方式

AI·MM·070 思维模型

分析型 LLM 模型选择法LLM Selection For Analysis

做定性数据分析(访谈/问卷)时选哪个 LLM;以及理解你正在用的那个模型的盲区——多数团队只有一家的企业账号,永远看不到自己模型的短板。

Caitlin Sullivan AI 时代
AI·PB·202 操作手册

上下文加载四要素Context Loading Four Components

AI 分析输出泛泛主题("价格是一个因素""用户重视可靠性")或只是复读你已知的东西,无法支撑具体决策。根因通常是提示词里的 context 要么只有三行目标、要么是四段想到哪说到哪的流水账。

Caitlin Sullivan AI 时代
AI·PB·207 操作手册

少样本校准量表Few Shot Calibration Scale

AI 给的是计数和分类("22 人提到想要屏幕""情感 72% 正面"),不是决策清晰度。它分不清"屏幕能直接留住的人"、"其实只需要改 App UX 的人"和"屏幕完全无关的流失",所有 mention 被同等对待。

Caitlin Sullivan AI 时代
AI·PB·272 操作手册

引语幻觉验证规则Quote Selection Rules Verification

AI 分析中的引语幻觉:完全虚构的"客户原话",以及把访谈中多处发言缝合成的 "Frankenstein quotes"。它们会顶着真实参与者的名字进 deck,影响产品语言和百万级决策。

Caitlin Sullivan AI 时代
AI·PB·356 操作手册

AI 分析人工验证流AI Analysis Verification Pass

AI 的第一遍分析永远是一份"看起来完整"的草稿:主题清晰、引语动人、表格能直接进 deck,且所有内容都以同等自信呈现——它不会主动说"P03 我其实不确定"。人类专家会本能地做多遍复查,LLM 默认不会,除非你明确要求。这是作者认为最常见的失败模式。

Caitlin Sullivan AI 时代
AI·FW·357 框架

AI 分析四种失效模式AI Analysis Four Failure Modes

用 LLM 分析客户访谈、问卷等定性数据时,输出永远显得自信,但可能充满幻觉引语、伪洞察和错误结论。这些错误是隐形的——直到干系人问出你答不上的问题,或三个月后决策崩盘。本框架用来系统识别并修复 AI 分析的错误。

Caitlin Sullivan AI 时代

框架、方法、洞察本身属于 Caitlin Sullivan。卡片是用中文重新组织的转述,仅保留少量带署名的短引述。关于与出处 →