操盘手年鉴The Operators’ Almanac
AI · MM · 367

AI 技术栈差异化定位

Where To Differentiate In AI Stack · where-to-differentiate-in-ai-stack--varun-mohan
AI 与新工作方式 思维模型 AI 时代 2025-04 Varun Mohan ✓ 已核验出处

解决什么问题

AI 公司该在技术栈哪一层建立差异化?哪些模型该自研、哪些直接用 frontier 模型?什么样的产品注定沦为"套壳"?

核心内容

判断一:基础设施层难以长期差异化。 Codeium 的原始假设是模型架构会高度异构(CNN/GNN/RNN/LSTM...),代管复杂性有价值;2023 年中一切收敛到 transformer,"所有人跑同样的基础设施",假设证伪 → 价值上移。应用层则是"非常深的一层":改善开发者工作流的方式"实际上没有天花板"。

判断二:自研 vs 租用的唯一判据是"你有没有别人没有的位置/数据"。 Windsurf 的分工:

  • 规划(planning):直接用 Sonnet 等 frontier 模型——"我想不出一个连贯的论证说明我们凭什么在纯规划上做到最好"
  • 检索(retrieval):完全自研预训练——因为有独家信号:检索后用户是否接受了代码修改
  • 补全/编辑:基于开源模型后训练——因为独家数据:每小时数千万条用户反馈,以及"正在输入中的不完整代码状态"——这种 mid-edit 数据在互联网和 GitHub 上不存在,frontier 模型几乎没见过
  • 纪律:"不为了自尊去训练模型"——不是自己能做到最好的环节,就用开源或 Anthropic

判断三:"too high a plane" 警告。 如果产品只消费极高层的输入(如纯 web 元素),贴着 frontier 模型的抽象面工作,那很难做得比 frontier 模型本身更好——"不如全部直接插 Sonnet"。持续差异化要求能沉到代码/领域的深处(如 1 亿行级企业代码库的理解、分布式索引与排序)。

判断四:界面可能才是价值的瓶颈。 同样的 ML 模型,从受 VSCode 插件 API 限制的 UI 迁到自有 IDE 的定制 UI(Windsurf Tab 内联重构),acceptance rate 直接翻三倍。技术不差但用户拿到的价值很低时,该考虑自建 surface(这是 fork VSCode 的核心依据)。前提认知:AI 写 90%+ 代码后,开发者的主要工作变成 review,需要为 review 重新设计的界面。

适用边界

  • "架构收敛于 transformer"是 2023-2025 的经验事实,未来若再度分化则 infra 判断要重估
  • 自研判据依赖真实的独特数据规模(他们是每小时千万级反馈),小流量产品套用不了
  • 自建 surface 代价高昂(维护 fork),只在平台确实构成天花板时值得(他们对可扩展性好的 JetBrains 就选择继续做插件而非替代)

关键引述 · 原话

"Same ML models, it just tripled." — Varun Mohan(谈迁移到自有 IDE 后 acceptance rate)

"If the inputs you're consuming are just... extremely high level web elements, then... you are just better off just plugging in Sonnet for everything." — Varun Mohan

关联卡片

- 与 Boris Cherny `bet-on-the-general-model` 表面相反、实则互补:默认租用通用模型,只有独特数据/位置处自研 - 数据飞轮式护城河(用户反馈 → 更好的专用模型 → 更多用户)

被这些卡引用

出处Varun Mohan (Windsurf/Codeium, co-founder & CEO) · 03-podcasts/varun-mohan.md
提炼自 Lenny Rachitsky 的 Lenny’s Newsletter & Podcast(2019–2026)。本站为个人学习用途的二次创作,与 Lenny’s Newsletter 无官方关联。
provenance · 已核验 · glm-5.2