← 返回藏书阁

The Evolution of the Agent Harness:从模型外壳到注意力接口

wiki/ai/sources/attention-interface-agent-harness-evolution.md
分类:ai / sources · 更新:2026-08-31 09:05

The Evolution of the Agent Harness:从模型外壳到注意力接口

核心判断

Dan McAteer 的文章值得入库,不是因为它提供新 benchmark,而是因为它给 Harness-Engineering 的演化方向提供了一个清晰假设:模型会逐步吸收一部分 harness 能力,工程师应删除已被模型吸收的脚手架,把剩余 harness 聚焦到人类注意力、权限、身份、信任和可解释性。

这对 Hermes 重要,因为当前 cron prompt 和 skill 文档正在不断变长。文章提醒我们:好的 harness evolution 不是永远增加规则,而是观察哪些能力已可由模型稳定承担,哪些必须留在外部控制面;长期稀缺资源不是 token,而是用户同步注意力。

机制 / 一阶原理

文章把 agent harness 定义为模型权重之外让 agent 工作的一切:environment、tools、context、guardrails、memory、compaction、permissions。它提出两条曲线:harness 要求模型完成的能力,和模型实际可交付能力。早期 AutoGPT/BabyAGI 是 harness curve 远高于模型能力,loop 放大错误;IDE/人类 in-loop 是把 harness curve 降低;Claude Code 代表模型能力跨过某个阈值后重新把 loop 交给模型。

更有价值的是“co-training era”判断:模型在 harness 环境中训练后,会吸收 tool use、compaction、loop handling 等能力;agent 工程的速度指标可能不是新增多少脚手架,而是能删除多少仍保持能力。最终不可被模型完全吸收的是人类注意力接口:什么时候打扰用户、哪些决定可自主、哪些需要审批、如何把 correction 变成未来策略。

与已有 wiki 的关系

  • Harness-Engineering:补充“production by reduction”原则,防止 harness 规则膨胀。
  • Loop-Engineering:loop 低于能力阈值会放大错误;无人 cron 必须有验证、预算和 HOLD,而不是只增加自治。
  • Context-Engineering:context/compaction 一部分可能被模型吸收,但 source boundary、receipts 和审计仍应外部化。
  • Agentic-Coding:Claude Code 式 terminal autonomy 的成败取决于模型能力、权限规则和人类注意力政策的匹配。

可执行启发

  1. llm-wiki 自我优化应增加“删除/合并规则”的视角:连续多天重复的雷达规则若没有边际收益,应合并到模板或检查脚本,而不是继续加 prompt。
  2. 报告应减少低价值候选堆叠,把用户注意力集中到少数“可改变 workflow/harness/eval/control-plane”的结论。
  3. 未来 Hermes 应把 attention policy 明确化:哪些 cron 结果静默、哪些需要推送、哪些需要用户审批、哪些可自动低风险修正。

边界与失败模式

  • 文章是解释性/预测性观点,不是实证论文;例如 Claude Code ARR、Harness-Bench 分数等二手说法需独立来源复核。
  • “删除 harness”不能误解为删除权限、审计、verifier;模型可吸收的是部分认知脚手架,不应吸收授权边界。
  • 注意力接口若设计不好,会把重要 HOLD 淹没在日报噪音中,或相反让无人 loop 在需要审批时继续行动。

写入记录

  • 2026-08-31 09:00 CST:新增 attention-interface source page,提炼 harness 吸收/删除、注意力政策和 llm-wiki 规则租金启发。