AI · FW · 322
Agent 三层栈架构
Agent Stack Model Api Harness · agent-stack-model-api-harness--alexander-embiricos
所属簇 Agent 构建
解决什么问题
做 agent 产品时容易只盯着"训个更强的模型"。这个框架说明 agent 实际是三层栈,重要能力必须跨层协同才能 ship。
核心内容
Agent = 三层栈:
- 模型:会做特定类型任务的推理模型;
- API:把模型按 agent 语义 serve 出来的接口层;
- Harness:组织工具调用、上下文和执行环境的外壳。
跨层协同的实证:compaction(长时运行)
- 要让模型连续跑 24 小时以上必然超出 context window。解法 compaction 需要三层同时改:模型要在训练中理解"接近窗口上限时准备迁移到新上下文"的概念;API 要有对应端点;harness 要会准备迁移 payload。任何一层缺位,功能都不成立。作者判断"这种跨层特性会越来越多"。
单一 harness 假设加速训练
- 市面上每个编码产品的 harness 意见都不同(语义搜索派 / 定制工具派 / 纯 shell 派)。若想让模型适配所有派系,训练慢;只为一种世界观优化(Codex 选择:模型只用 shell + 终端,配沙箱保证安全)可以快得多。
- 组织保障:product 与 research 紧密一体的团队,同时迭代模型与 harness,可试验的组合数远高于分离团队。
用户侧配套技巧(长任务)
- 想让 agent 跑很长的任务:先与它协作写一份 plan.md,包含可验证的步骤,确认满意后再放它执行——步骤可验证时它能工作得久得多。
适用边界
- "单一 harness"策略的代价是模型对第三方 harness 的泛化性可能弱一些(作者提到其他 API 大客户后来也开始采用 Codex 模型,说明代价可控但非零)。
- 三层栈框架来自第一方模型厂视角;纯应用层公司只能控制 harness 层,需靠 API 能力谈判。
关键引述 · 原话
"Shipping this compaction feature... actually meant working across all three things. And I think that's increasingly going to be true." — Alexander Embiricos
"If you want to train a model to be good at all the different ways it could work... you can move much faster if you're just optimizing for one of those worlds." — Alexander Embiricos
关联卡片
- 是 every-agent-is-a-coding-agent 卡的工程实现面。 - plan.md 可验证步骤与 spec-driven development 潮流相关;作者对"人人写 spec"存疑,提出 "chatter-driven development"(从团队沟通流中直接产出代码)作为替代想象。
被这些卡引用
出处:Alexander Embiricos (OpenAI Codex 产品负责人) · 03-podcasts/alexander-embiricos.md
提炼自 Lenny Rachitsky 的 Lenny’s Newsletter & Podcast(2019–2026)。本站为个人学习用途的二次创作,与 Lenny’s Newsletter 无官方关联。
provenance · 已核验 · glm-5.2
提炼自 Lenny Rachitsky 的 Lenny’s Newsletter & Podcast(2019–2026)。本站为个人学习用途的二次创作,与 Lenny’s Newsletter 无官方关联。
provenance · 已核验 · glm-5.2