Agent 成本优化双杠杆
解决什么问题
AI agent 是"自己决定何时运行的持续进程"+ 平台按用量计价,成本是 PM 对 agent 的头号顾虑(超过安全和幻觉)。什么时候优化成本、怎么优化?
核心内容
两个杠杆(Jacob Bank):AI 步骤要降本只有两条路——
- 换更便宜的模型;
- 喂更少的数据。
操作顺序:先用好模型 + 充足数据把东西跑通;如果用例频率不高,压根不做成本优化;只有到"一天跑 100 次、一次 $10"的量级,才去拉这两个杠杆。
算账视角(Flo Crivello):公司有数百万美元的 payroll,却只肯在 AI 上花一千美元——这两条线应该交叉。你应该乐意在 agent 平台上花钱,因为花的每 $1 都在替代人类做同样事情的 $10。
宏观背景:agent 公司想按价值定价,但竞争会把价格压向成本,而基础模型的运行成本在持续下降——重优化的收益随时间递减。
适用边界
- 适用于按用量计价的 agent/automation 平台;订阅制平台的账不同。
- "先跑通再优化"的前提是下行风险已封顶(见 design checklist),否则高成本运行错误流程更亏。
关键引述 · 原话
"You pick a cheaper model or you feed it less data. I typically recommend first getting the thing working with a good model and lots of data." — Jacob Bank (Relay.app)
"Every dollar you spend on the AI agent platform is saving you $10 that a human would have done otherwise." — Flo Crivello (Lindy)
关联卡片
- `pm-agent-design-checklist--tal-raviv` 的配套决策 - 与 `underfund-headcount-overfund-tokens--boris-cherny`、`genie-token-allocation--lazar-jovanovic` 同属"AI 支出该怎么想"的判断族
被这些卡引用
提炼自 Lenny Rachitsky 的 Lenny’s Newsletter & Podcast(2019–2026)。本站为个人学习用途的二次创作,与 Lenny’s Newsletter 无官方关联。
provenance · 已核验 · glm-5.2