Benjamin Mann
署名于 AI 与新工作方式
AI 与新工作方式 · 6 张
AI·IN·008 洞察
安全能力凸性Safety Capability Convexity
"重视AI安全"常被当成"会拖慢产品竞争力、牺牲商业化速度"的对立面。这条反直觉的洞察指出,至少在Anthropic的实践里,这个假设是错的。
Benjamin Mann AI 时代
AI·PB·012 操作手册
编码 Agent 雄心重试Ambitious Retry Not Patch
用Claude Code这类编码agent时,为什么有些人用得特别好、有些人用得很一般?区分两者的具体行为差异是什么,普通用户该怎么调整自己的使用方式。
Benjamin Mann AI 时代
AI·FW·013 框架
变革性 AI 经济图灵测试Economic Turing Test Transformative AI
"AGI"这个词太模糊、太容易各说各话——有人说是"能做人类能做的一切事",有人说是"比人聪明"。需要一个可操作、可衡量、能落地判断"我们是不是已经到了那个临界点"的标准,而不是停留在哲学争论。
Benjamin Mann AI 时代
AI·PB·153 操作手册
面向 Agent 时间边界构建Build For Agent Time Horizon Growth
在AI能力快速指数增长的阶段,产品团队该按"今天模型能做到什么"来设计产品,还是该按"未来6-12个月模型能做到什么"来设计?这决定了产品会不会一上线就显得落后。
Benjamin Mann AI 时代
AI·MM·196 思维模型
三界对齐难度模型Three Worlds Alignment Difficulty
面对"AI对齐到底有多难"这种极度不确定、几乎没有历史参照系可用的问题,该怎么组织自己的判断,并据此决定"现在具体该做什么",而不是陷入无休止的抽象辩论。
Benjamin Mann AI 时代
AI·PB·251 操作手册
宪法 AI 自我批判循环Constitutional AI Self Critique Loop
传统对齐模型价值观的方式依赖大量人工标注员(RLHF),既慢又不可扩展,而且价值观标准最终取决于"你恰好招到了什么样的标注员"。如何让一个AI模型的价值观有据可依、可公开、可规模化地"自我修正",而不完全依赖人工打分?
Benjamin Mann AI 时代
框架、方法、洞察本身属于 Benjamin Mann。卡片是用中文重新组织的转述，仅保留少量带署名的短引述。关于与出处 →