操盘手年鉴The Operators’ Almanac
AI · FW · 322

Agent 三层栈架构

Agent Stack Model Api Harness · agent-stack-model-api-harness--alexander-embiricos
AI 与新工作方式 框架 AI 时代 2026-01 Alexander Embiricos ✓ 已核验出处
所属簇 Agent 构建

解决什么问题

做 agent 产品时容易只盯着"训个更强的模型"。这个框架说明 agent 实际是三层栈,重要能力必须跨层协同才能 ship。

核心内容

Agent = 三层栈

  1. 模型:会做特定类型任务的推理模型;
  2. API:把模型按 agent 语义 serve 出来的接口层;
  3. Harness:组织工具调用、上下文和执行环境的外壳。

跨层协同的实证:compaction(长时运行)

  • 要让模型连续跑 24 小时以上必然超出 context window。解法 compaction 需要三层同时改:模型要在训练中理解"接近窗口上限时准备迁移到新上下文"的概念;API 要有对应端点;harness 要会准备迁移 payload。任何一层缺位,功能都不成立。作者判断"这种跨层特性会越来越多"。

单一 harness 假设加速训练

  • 市面上每个编码产品的 harness 意见都不同(语义搜索派 / 定制工具派 / 纯 shell 派)。若想让模型适配所有派系,训练慢;只为一种世界观优化(Codex 选择:模型只用 shell + 终端,配沙箱保证安全)可以快得多。
  • 组织保障:product 与 research 紧密一体的团队,同时迭代模型与 harness,可试验的组合数远高于分离团队。

用户侧配套技巧(长任务)

  • 想让 agent 跑很长的任务:先与它协作写一份 plan.md,包含可验证的步骤,确认满意后再放它执行——步骤可验证时它能工作得久得多。

适用边界

  • "单一 harness"策略的代价是模型对第三方 harness 的泛化性可能弱一些(作者提到其他 API 大客户后来也开始采用 Codex 模型,说明代价可控但非零)。
  • 三层栈框架来自第一方模型厂视角;纯应用层公司只能控制 harness 层,需靠 API 能力谈判。

关键引述 · 原话

"Shipping this compaction feature... actually meant working across all three things. And I think that's increasingly going to be true." — Alexander Embiricos

"If you want to train a model to be good at all the different ways it could work... you can move much faster if you're just optimizing for one of those worlds." — Alexander Embiricos

关联卡片

- 是 every-agent-is-a-coding-agent 卡的工程实现面。 - plan.md 可验证步骤与 spec-driven development 潮流相关;作者对"人人写 spec"存疑,提出 "chatter-driven development"(从团队沟通流中直接产出代码)作为替代想象。

被这些卡引用

出处Alexander Embiricos (OpenAI Codex 产品负责人) · 03-podcasts/alexander-embiricos.md
提炼自 Lenny Rachitsky 的 Lenny’s Newsletter & Podcast(2019–2026)。本站为个人学习用途的二次创作,与 Lenny’s Newsletter 无官方关联。
provenance · 已核验 · glm-5.2