基础与定制模型三明治

Cursor 创业之初刻意决定"不做模型研发",因为算过训练成本账,也觉得复刻大厂已经做好的东西(尤其是预训练——教一个什么都不懂的神经网络学会整个互联网)是浪费精力去解决错误的问题。但实际发展中,自研模型变成了 Cursor 每一个"神奇时刻"背后的关键组件。他们总结出的取舍原则是:不重新发明轮子,而是专挑基础模型的弱点、专挑基础模型服务不了的场景去补位。具体落地成一个"三明治"式的模型架构:

1. 输入侧(检索/上下文准备):用自研的小模型在代码库里做"迷你版的谷歌搜索",专门用来找出该展示给大模型看的相关代码片段——大模型本身不擅长/不划算做这件事。
2. 中间层(高层推理):交给最聪明的基础模型(Sonnet、Gemini、GPT等)去做高层次思考,只花少量 token 给出"草图级"的修改方案。
3. 输出侧(细节落地):用自研的、专门训练过的小而快的模型(配合推理层面的技巧),把大模型给出的高层修改草图,展开填充成完整、精确的代码 diff。

此外还有一类完全不涉及基础模型、纯自研的场景——autocomplete(多文件/多位置的"下一步编辑"预测)。这类场景的判断标准是:

• 必须极快(需要在 300 毫秒内给出补全,且每次按键都要重新预测);
• 必须极便宜(每个按键都要跑一次推理,量级巨大,用旗舰大模型跑不起);
• 任务高度专用(不是"预测下一个 token"这种通用任务,而是"预测一系列跨文件的 diff",通用基础模型没有针对性训练过)。

自研模型多数基于开源预训练模型做后训练(post-training),而非从零训练,有时也和闭源模型提供商合作调优——Cursor 只关心"能不能训练/后训练这个模型",不关心"能不能逐行读取权重矩阵"。