Skill 可以自我改进,但判断不能自动接管
约 627 字大约 2 分钟
Skill 可以自我改进,但判断不能自动接管
我看到一些关于 self-improving agents 的实践后,最初很容易把 Trace 也理解成“从反馈里自动提炼 Skill,让 Agent 下一次回答更好”。这条路线有价值,却没有覆盖我真正关心的问题。
反馈驱动的改进确实可行
Agent 可以从失败、用户反馈和任务结果中调整提示、工具调用方式和执行流程。这说明 Skill loop 是一个真实可行的工程方向:做一次,得到反馈,更新结构,再做下一次。
但如果把所有反馈都自动变成规则,系统也可能把一次性的偏好、错误判断或特殊场景固化下来。
Trace 关注的是谁的判断
我想管理的不是 Agent 规则本身,而是人和团队如何确认一条判断值得进入未来。这里至少要保留:来源、适用范围、证据、反例、不确定性、采用者、激活场景,以及撤销条件。
Agent 可以提出候选,不能越过用户直接采用;反馈可以触发讨论,不能自动伪装成长期原则。
两条 loop 不应该混为一谈
Agent Skill Loop:执行 → 反馈 → 优化 Agent 行为
判断治理 Loop:线索 → 讨论 → 采用 → 激活 → 验证 / 撤销前者优化“Agent 怎样做得更好”,后者确认“什么理解值得被带入未来”。两者可以连接,但不能因为都使用 feedback 就合并成同一个系统。
对产品的启发
Trace 可以把一个判断导出成 Skill,但这应该是用户明确选择的发布路径,而不是产品自动完成的默认动作。公开文章、项目规则和 Agent Skill 都是不同的产物,需要不同的验收和撤回方式。
我现在更愿意把产品定位在 human / team judgment governance:让人的判断进入协作和未来之前,有机会被看见、讨论、验证和撤销,而不是让系统悄悄替人决定下一次应该相信什么。
