my taste 基建调研报告

my taste 及数据驱动自进化基建

调研报告与分阶段规划 · 2026-08-09 · 基于 project-blueprint v2.2

my taste 及数据驱动自进化基建 — 调研报告与分阶段规划

第一章 执行摘要

1.1 一句话

本报告回答一个问题:如何把「用户的判断力」与「系统的进化力」从人肉监督,沉淀为可携带、可版本化、可自我进化的 AI-native 资产(my taste + 进化引擎),让 Mac mini 上的 Hermes 管家替你催办、跟进、验收、质检所有项目,且事事有回应、件件有着落。

1.2 核心结论(先行)

# 结论 依据
1 方向正确且有行业先例:Karpathy 提出「Claws = agent 之上的编排/调度/上下文/持久化层」,Simon Willison 认可并观察到多个实现涌现;用户要建的「管家」正是这一层 调研 A③
2 不需要从零建:Hermes 原生已具备 70% 底座(Kanban 任务队列、Profiles 角色隔离、API Server/SSH/Webhook 跨机通道、agent-self-analysis 分析流水线、project-blueprint 门禁体系) 现状盘点
3 my taste = 用户可编辑的文本文件(Markdown + git),不是向量库:Anthropic 官方立场(memory tool 是客户端文件操作、CLAUDE.md 当代码维护);Mem0 2026-04 起从「增删改」改为「只增不删」ADD-only 调研 B①
4 「用户品味 digital twin 替用户审核」无开源先例:Symphony/Maestro 解决了「控制平面 + proof-of-work 验收」,但「验收决策依据用户品味文件」需要自建——这是差异化机会,零件全部现成 调研 C③
5 自进化闭环有教科书范式可抄:MaximeRobeyns 的 evaluate→archive→改自己→回归(self_improving_coding_agent,论文 2504.15228),与需求完全同构 调研 A④
6 执行级验证 > LLM 打分:tau-bench(DB 终态比对 + pass^k 稳定性)、SWE-bench(跑真实测试)、Claude Code 最佳实践「用证据代替自报、干活的不打分」——这正是 project-blueprint 门禁体系已有的优势 调研 C④ / D②
7 LLM-judge 有实证偏差(self-preference、position、verbosity),只配做粗筛;门禁用 graded rubric + 参考答案 + 交叉模型盲评 调研 D②
8 3.6GB VPS 约束下不引入重型平台:Langfuse v3 五组件架构过重;用「自建 JSONL+SQLite + CF Pages 展示」与现有架构同构 调研 D④

1.3 分阶段规划一览

阶段 项目名 核心交付 依赖
TasteExtractor(my taste 提取器) taste 库 v1(git 版本化)+ 提取流水线 + 提取质量报告
Steward(管家监督闭环) Mac mini 管家实例 + 跨机状态机 + 催办/跟进/验收能力 阶段一
EventLog(执行日志规范·公共能力#1) JSONL 事件流规范 + 埋点 + gen_ai.* 命名 阶段二
EvolutionEngine(自进化引擎) 日志分析 + 行业检索工具 + 实验框架 + 沉淀机制,跑通完整闭环 阶段二+三
公共平台化(数据驱动决策平台) 公共组件库 + 全项目接入 + 仪表盘升级 + 定期行业情报订阅 阶段四

每个阶段单独列为一个项目,走 project-blueprint 四阶段流程;阶段间有明确依赖与验收门禁。

第二章 需求理解(需求事实)

2.1 需求事实清单(REQ)

编号 需求事实 来源
REQ-1 从历史所有项目的对话记录中提取用户面对各种情况时的思路、要求、偏好,形成「my taste」资产 原话①
REQ-2 my taste 代替用户催办其他 Hermes 完成项目/任务/要求(代用户行使监督权) 原话①
REQ-3 部署目标:用户本机(Mac mini)上的 Hermes 实例使用 my taste 跟进/推进/验收/质检所有项目进展 原话②
REQ-4 所有任务必须事事有回应、件件有着落(显式状态机 + 闭环终态,禁止不了了之) 原话②
REQ-5 需求确认环节:第一性原理 + my taste 与用户高效沟通,确认需求事实 原话③
REQ-6 设计环节:第一性原理 + 剃刀原理形成设计事实 原话④
REQ-7 设计审查:第一性原理 + 对抗性验证检查设计事实是否满足需求事实 原话⑤
REQ-8 交付审查:第一性原理 + 对抗性验证检查实现是否与设计一致且结果正确可靠 原话⑥
REQ-9 系统必须 AI-native:具备 harness/loop 结构,能自我推理、自我进化 原话⑦
REQ-10 执行时必须使用 my taste(taste 是每次执行的在环组件) 原话⑧
REQ-11 运行时必须记录日志(结构化、可分析) 原话⑧
REQ-12 定时分析日志,找出长处与不足(定量 + 定性) 原话⑧
REQ-13 自行实时搜索行业内大牛分享的成熟方案找灵感(GitHub/X/HF 定期搜索) 原话⑧⑩
REQ-14 设计实验找到增长智能水平的点(实验框架 + 假设 + 验证) 原话⑧
REQ-15 执行实验并观察日志得到结论(结论驱动下一轮改进,形成闭环) 原话⑧
REQ-16 为其他项目提供「数据驱动决策自进化」公共能力 原话⑨
REQ-17 基建方案参考行业成熟方案与大牛分享 原话⑩
REQ-18 先产出调研报告,再分阶段规划;每个阶段可单独列出一个项目 原话⑪
REQ-19 整个项目按最新版 project-blueprint 四阶段流程执行 原话⑫

2.2 待确认项(已确认 2026-08-09)

编号 问题 用户确认 对设计的影响
Q1 部署目标设备 Mac mini(最终承载机) 阶段二 Steward 部署路径:Mac mini Hermes 实例;VPS→Mac mini 迁移要点已调研
Q2 taste 提取数据源范围 全部历史会话;当前数据不足,后面逐步过渡到关键项目 阶段一全量提取 + 数据量盘点;数据积累后聚焦关键项目
Q3 taste 提取后人工审校强度 逐条确认(每一条都值得分析) 提取流水线必须支持逐条确认工作流(user-approved saves 模式);taste 条目带 confirm 状态
Q4 管家催办权限边界 渐进式授权:前期管家推荐→用户同意→定期总结规律给用户确认→已确认规律自动执行 阶段二核心机制:授权递增(推荐→确认→规律化→自动化),与 Anthropic auto mode 93% 自动审批同思路但多了「规律确认」环节
Q5 「其他 Hermes」范围 目前 2 台 VPS,以后可能多机 跨机通道设计要支持多机扩展(Profiles + API Server 可注册多节点);状态机设计为多实例

2.3 现状盘点(已有基建,可复用的底座)

已有资产 位置/说明 对本案的作用
Hermes 多实例架构调研 research-deliverable skill → references/hermes-multi-instance-architecture.md(2026-08-03) 跨机通道(API Server RPC/SSH/Webhook)、Profiles、Kanban 边界——管家部署底座
agent-self-analysis 7 步流水线 ~/.hermes/scripts/unified-daily.py + unified-report.pages.dev 「定时分析日志→分类→修正→日报」的 V1 雏形,进化引擎前身
project-blueprint v2.2 四阶段 + 三层用例 + 门禁体系 管家验收/质检的执行标准(REQ-5~8 落地载体)
Hermes memory 渐进式披露 MEMORY.md/USER.md + refs 指针 + 冷启动验证 my taste 库的架构参照
Hermes Kanban ~/.hermes/kanban.db 单机任务队列 管家催办状态机的本机底座
CC 任务卡 + 长期工作目录 ~/cc-workspace/ + .cc/ 自包含 执行层各项目的标准作业方式
统一分析日报 cron 每日 9:00 no_agent + Python 脚本 进化引擎「定时分析」的现成调度

第三章 行业调研全景

调研方法:2026-08-09 通过 GitHub 网页搜索(绕过 API 限流)、官方文档 curl、arXiv API、HN Algolia、博客/演讲抓取,真实访问 100+ 来源。X/Twitter 反爬严重,大牛观点改从博客/播客/演讲等可访问渠道获取。四份完整笔记存于 /home/ubuntu/research/

3.1 Agent 自我进化:学术里程碑与工程范式

学术里程碑

论文/项目 核心机制 对我们的启示
Reflexion(NeurIPS 2023) 不更新权重,用语言反馈强化:agent 对任务反馈做口头反思,写入情景记忆缓冲,改善后续 trial;HumanEval pass@1 达 91% 反思 = 把批评写进记忆而非模型——直接可落地
Self-Refine(NeurIPS 2023) 同一 LLM 同时扮演生成器、批评者、精炼器,迭代改进;7 任务平均提升约 20% 单模型测试时反思即可显著改进
STaR(ICLR 2023) 训练期自举:用成功 rationale 微调自己,「从自己的成功轨迹中学习」 「只保留成功轨迹」的筛选思想
Voyager(Minecraft) 自动课程 + 持续增长的技能库(可执行代码,可组合可检索)+ 迭代提示;零微调 技能沉淀即进化——Hermes skills 机制同构
AgentGym/AgentEvol 自进化三要素:多样环境 + 轨迹集 + 有效进化方法 系统设计清单
AlphaEvolve(DeepMind) 编排自治 LLM 流水线直接修改代码改进算法,evaluator 反馈迭代;改进 Strassen 算法 56 年来首次突破 「evaluator 反馈 + 代码变异 + 迭代」= 代码级自进化最强案例
A Self-Improving Coding Agent(2504.15228) agent 自主编辑自身代码提升 benchmark(SWE-bench +17%~53%):LLM reflection + 代码更新 与我们的闭环几乎同构,官方开源实现直接可抄

大牛共识

人物 观点 对我们的启示
Karpathy agent loop 是「新操作系统」;反思类比人类「白日梦/反思」阶段,直接 fine-tune 进模型效果不好,应放循环/外部机制;Claws = agent 之上的编排/调度/上下文/持久化层 管家正是 Claws 层;反思放 harness 不放权重
Simon Willison agent = 「LLM 跑工具循环达成目标」;agent 不能为自己的行为负责,问责/记忆/改进机制必须由外层 harness 承担 进化责任在外层管家,执行实例只跑任务+写日志
Andrew Ng 四大 Agentic Design Patterns:Reflection / Tool Use / Planning / Multi-Agent;反思 = 「把人类给模型提意见自动化」 反思是显式架构组件
Harrison Chase(LangChain) reflection 实现上让 reflector 扮演「老师」批评初稿;反思要 grounded 在外部数据、强制引用 分析结论必须挂日志证据
Jerry Liu(LlamaIndex) agent = LLM + tools + memory 的循环;生产级需要 typed state、循环编排与可观测性 记忆是 agent 定义的组成部分

工程范式:五大框架的 loop 同构

框架 反思机制 日志/可观测性
Anthropic Agent SDK hooks(PreToolUse/PostToolUse/Stop)+ subagent 摘要指令 事件流(Assistant/Result/User/Stream)
OpenAI Agents SDK Guardrails 输入/输出校验;可自写 evaluator Tracing 内置
LangGraph 显式「评估节点 + 回边」(evaluator-optimizer) LangSmith 轨迹评估
CrewAI 评审角色 agent 反馈 任务/过程日志
LlamaIndex 工具结果写回 memory 供下轮决策 Workflows 可观测性

要点提炼:行业共识——agent = 工具 + 循环 + 目标;反射是显式架构组件(hooks/guardrails/评估节点);进化分层:prompt/技能层(最快)→ 工具层 → 代码层(最重);「记忆层 = 自改进载体」是主流路线(Letta/OpenViking/MemOS 24k-28k★)。

3.2 用户品味建模与 AI 记忆系统

记忆系统主流方案

系统 核心思路 对本项目的启示
Mem0(62.9k★) 2026-04 新算法放弃 UPDATE/DELETE,改「只增不删」ADD-only,靠检索时上下文过滤 my taste 增量只追加,不自动删
Letta(原 MemGPT,24.2k★) MemFS = git 版控的 Markdown 记忆文件 + 后台 dreaming 反思 Markdown + git = 记忆载体,与 Anthropic 立场一致
Zep/Graphiti(29.7k★) 双时间戳时序知识图谱,事实不删除只标记失效 过时偏好标记失效而非删除
LangMem(1.6k★) User Profiles 用 Pydantic schema + 原地更新 结构化 profile schema
Cognee(29.9k★) ECL pipeline + Claude Code 生命周期钩子 提取流水线参照

Anthropic 官方立场(决定架构走向)

画像提取的行业共识

问题 行业共识 来源
提取准确性 人审 + 自动混合(Vercel 模板 user-approved saves);USENIX Security'25 警示需人审 调研 B④
版本化 git / 不可变版本化 Letta MemFS
防臃肿 索引 + 主题文件分层(核心 ≤200 行 + topics/*.md) Anthropic CLAUDE.md 实践
防过时 时间戳 + provenance 溯源;只增不删 + 季度修剪 Mem0/Graphiti
自动覆写 自动抽取 OK,自动覆写危险 调研 B④

要点提炼:my taste = Markdown + git + 分层(核心 ≤200 行 + 主题文件)+ 只增不删 + provenance 溯源 + 首版强制人审。这个结论与 Hermes 已有的 memory 渐进式披露架构完全同构——不是新发明,是升级。

3.3 多 Agent 监督/编排/验收:如何「事事有着落」

编排范式

范式 代表 核心机制
orchestrator-worker Anthropic 多 agent 研究系统 lead 拆解任务 → 并行 subagent → 汇总;subagent 输出直接写文件系统、只传引用(避免传话游戏);缩放规则约束投入
handoff OpenAI Swarm/Agents SDK agent 任意时刻移交对话;input_type 要求结构化移交理由;guardrails 三类检查
supervisor LangGraph supervisor / CrewAI manager 中央 supervisor 控制全部通信与委派
SOP 流水线 MetaGPT 把人类软件公司 SOP 编码为提示词序列;中间结果校验削减级联幻觉

「事事有着落」的行业解

机制 代表 要点
可查询状态机 GitHub Projects / Claude Code task list(三态 + 跨会话共享)/ agent teams(任务依赖 + 文件锁认领) 有回应有着落 = 显式状态机 + 自动迁移
可验证结束状态 Claude Code /goal(每轮轻量模型检查完成条件) 用可验证结束态取代「人盯着」
proof of work OpenAI Symphony(26.5k★) 守护服务读 issue → 隔离工作区 → spawn agent → 交付 CI 状态/PR 评审/演示视频证据 → 验收过才合 PR;WORKFLOW.md 仓库内策略文件(验收标准随代码版本化)
心跳纪律 OpenClaw Starter Kit HEARTBEAT_OK 静默心跳(健康只回 HEARTBEAT_OK,异常才打扰人)+ NO_REPLY 纪律 + 防退化规则
轮询催办 Claude Code Routines/scheduled tasks 催办的官方实现 = 「定时重跑一个 prompt」

验收质量门禁(四档强度)

档位 机制 说明
1 prompt 内「先跑检查再迭代」 最弱
2 /goal 独立小模型每轮复查 无人值守跑完
3 Stop hook 脚本化硬门禁 检查不过不放行(CI 门禁本地版)
4 second opinion 反驳者 新模型/子代理试图推翻结果——「干活的不打分」= 对抗性验证的官方表述

要点提炼:管家 = 用户侧控制平面(Symphony/Maestro 范式)+ 用户品味化身(无先例,差异化);验收铁律 = 证据优先于自报、干活者不打分、终态评估(end-state evaluation)而非步骤审查、审批是状态机的合法终态(分级自动代批 + 关键决策人审)。

3.4 可观测性 / Evals / 实验设计:数据驱动决策的度量层

可观测性工具(3.6GB VPS 约束下的选择)

工具 免费额度 自托管 结论
LangSmith 5k traces/月 $0 支持 self-hosted 个人起步够用
OpenAI Tracing 内置免费 dashboard 云上,span 可导出 零成本最快路径
AgentOps 云免费档 全 MIT 开源可自托管(5.8k★) 功能最全的开源选择
Braintrust $0 起 平台闭源,SDK 开源 evals + traces 一体
Langfuse v3 云免费 50k units/月 需 Postgres+ClickHouse+Redis+S3+Worker 五件套 3.6GB VPS 过重,不选
自建 JSONL+SQLite 零成本 完全自有 与现有 agent-self-analysis 架构同构,首选

Evals 方法论(决定「如何验证进化有效」)

层级 对象 指标 代表 成本
单轮级 最终输出 correctness/relevance RAGAS RAG 指标
轨迹级 中间过程 Tool Call Accuracy / Goal Accuracy / 卡死检测 RAGAS Agentic / DeepEval
执行级 真实环境结果 DB 终态比对 / 测试通过 tau-bench / SWE-bench

要点提炼:执行级验证优先(金标准层 = project-blueprint 已有的 Playwright/测试门禁);LLM-judge 只做粗筛;实验纪律 = 离线 eval 判回归 + 线上指标判漂移 + canary 灰度 + pass^k 防运气;框架只管埋点(JSONL),eval 交给自己的分析层——与现有架构同构,零新服务。

第四章 第一性原理分析:本质与架构蓝图

4.1 根本目的(第一性原理)

剥离所有表象,用户要解决的是三个本质矛盾:

# 矛盾 本质
1 用户的判断力是稀缺的,但被重复消耗 每个新项目都要用户重新对齐需求、审核设计、验收交付——同样的话说了几十遍(「第一性原理」「剃刀」「对抗性验证」「测试用例要精确」),每次都在 memory 里重新写一遍
2 系统的进化力是零散的,但被浪费 做对的事不留痕(没沉淀成 skill),做错的事重复犯(用户纠正 3+ 次才记住);agent-self-analysis 只到「分析+报告」,没到「实验+验证+沉淀」
3 监督是串行的,但项目是并行的 用户一个人盯不过来所有项目的进展,催办靠用户口头触发(CC 额度重置机制「计划了但没落地」就是典型)

所以:my taste 不是「又一个配置文件」,而是「用户的判断力数字化」;进化引擎不是「又一个分析脚本」,而是「系统的进化力机制化」。

4.2 能力分层(L0-L4)

L4 呈现层   统一仪表盘(成功率/成本/延迟/回归率/pass^k 趋势)
L3 进化层   EvolutionEngine:日志分析 → 行业检索 → 实验设计 → 验证 → 沉淀
L2 监督层   Steward 管家:需求确认/设计审核/交付验收/催办跟进(消费 my taste)
L1 品味层   My Taste 库:Markdown + git + 分层 + 只增不删 + provenance
L0 数据层   历史对话(state.db)+ 执行日志(JSONL 事件流)

4.3 Harness / Loop 结构(AI-native 的核心)

核心洞察(来自调研):进化责任必须在外层 harness(Simon Willison),反思放循环/外部机制而非模型权重(Karpathy)。所以:

外循环(监督 loop,REQ-2~8):管家加载 my taste → 用第一性原理+my taste 确认需求事实 → 用剃刀原理审核设计事实 → 用对抗性验证验收实现 → 事事有回应件件有着落。

内循环(进化 loop,REQ-9~15):执行日志 → 定时分析(长处/不足+证据)→ 行业检索(找灵感)→ 设计实验(增长点假设)→ 执行验证(执行级+rubric)→ 沉淀结论(写回 taste/技能库)→ 下一轮更强。

(架构图与循环图见第五章的 PlantUML 图)

4.4 关键设计决策(第一性 + 剃刀推导)

决策点 选项 决策 理由
taste 载体 向量库 vs Markdown+git Markdown + git Anthropic 官方立场 + Letta MemFS 实证 + 人可读可审 + Hermes memory 同构
提取方式 全自动 vs 人审混合 自动提取 + 首版强制人审 + 对抗性验证质检 USENIX 警示 + 用户自己的哲学(正好用第一性+对抗性验证检验 taste 本身)
更新策略 增删改 vs 只增不删 只增不删 + 标记失效 + 季度修剪 Mem0/Graphiti 共识,防自动覆写危险
监督架构 自建任务系统 vs 扩展现有 扩展 Hermes Kanban + 跨机通道 多实例调研已确认 70% 底座现成,不重建
进化闭环 自研 vs 抄 MaximeRobeyns 抄范式 + 本地化 self_improving_coding_agent 与需求同构,evaluate→archive→改→回归
可观测性 Langfuse/AgentOps vs 自建 自建 JSONL+SQLite + CF Pages 3.6GB VPS 约束 + 与现有架构同构 + 数据完全自有
验证金标准 LLM-judge vs 执行级 执行级优先,LLM-judge 仅粗筛 tau-bench/SWE-bench 范式 + self-preference 偏差实证
审批模式 全自动 vs 分级 分级:常规自动代批 + 关键决策人审 OpenAI SDK HITL + Anthropic auto mode 93% 自动审批思路

my taste 及数据驱动自进化基建 — 调研报告与分阶段规划(第二部分)

第五章 架构蓝图(Harness / Loop 设计)

5.1 总体架构

architecture diagram

图 5-1:my taste 管家体系总体架构 — 左:用户与 taste 库(品味层);中:Steward 管家(监督层,Mac mini);右:VPS 执行实例(执行层)与进化引擎(进化层);下:统一仪表盘(呈现层)。

5.2 外循环:监督 loop(REQ-2~8)

supervision-loop diagram

图 5-2:Steward 监督循环 — 每个项目从立项到交付,管家按「需求事实 → 设计事实 → 实现验证」三关推进,每关都用第一性原理 + my taste / 剃刀 / 对抗性验证,并写入跨机状态机(事事有回应件件有着落)。

5.3 内循环:进化 loop(REQ-9~15)

evolution-loop diagram

图 5-3:EvolutionEngine 进化循环 — 执行日志 → 定时分析(长处/不足+证据)→ 行业检索(GitHub/X/HF 灵感)→ 设计实验(增长点假设 + benchmark)→ 执行验证(pass^k + 执行级断言)→ 沉淀结论(写回 taste/技能库)→ 下一轮更强。

5.4 状态机:事事有回应、件件有着落(REQ-4)

state-machine diagram

图 5-4:任务状态机 — 借鉴 GitHub Projects/Claude Code agent-teams/Symphony:每个任务显式状态迁移 + 证据门禁 + 4 种终态(completed/cancelled/merged/stale),pending 超 30 天自动标 stale 询问用户。这与 project-blueprint 已有的任务闭环机制(todo-board)一致,但升级为跨机。

5.5 进化实验框架(REQ-13~15)

第六章 分阶段规划(每个阶段独立项目)

6.1 阶段总览与依赖

roadmap diagram

图 6-1:五阶段路线图 — 阶段一 TasteExtractor(无依赖)→ 阶段二 Steward(依赖阶段一)→ 阶段三 EventLog(依赖阶段二,公共能力#1)→ 阶段四 EvolutionEngine(依赖阶段二+三)→ 阶段五 公共平台化(依赖阶段四)。每阶段单独列项目,走 project-blueprint 四阶段。

6.2 阶段一:TasteExtractor — my taste 提取器

内容
目的 从历史对话中提取用户品味,形成可版本化的 taste 库 v1
输入 Hermes state.db 历史会话(或按 Q2 确认的范围)、session_search 全文
产出 taste/ 仓库:taste.md(核心 ≤200 行)+ topics/*.md(主题文件)+ sources.json(provenance 溯源)+ git 版本化 ② 提取流水线脚本 ③ 提取质量报告(HTML)
提取维度 ① 思维方法论(第一性原理/剃刀/对抗性验证的使用习惯)② 沟通偏好(中文、分步迭代、先简单后复杂)③ 质量要求(测试精确断言、Bug 加回归、门禁证据)④ 交付要求(HTML+CF Pages 链接、移动端优先、目录左侧)⑤ 工作方式(CC 委派、任务卡、自包含)⑥ 红线与纠正史(用户纠正过的错,如「能自查的别问用户」「链接必须附」)
验证方法 ① 首版强制人审(用户逐条确认)② 对抗性验证质检:把 taste 交给一个不知道来源的子代理,让它用 taste 判断几个历史 case 的「用户会怎么要求」,对照真实对话验证(cold-start 测试,同 memory 指针验证法)③ 提取覆盖率报告
验收标准 门禁 1-3:taste 覆盖 6 大维度、provenance 100% 可溯源、cold-start 测试通过率 ≥80%
里程碑 M1 提取流水线跑通 → M2 首版 taste 库 + 人审 → M3 质量报告 + 部署

6.3 阶段二:Steward — 管家监督闭环

内容
目的 Mac mini 上建 Steward 实例(Hermes profile),加载 my taste,替用户催办/跟进/验收/质检
输入 taste 库 v1(阶段一)+ 跨机通道(API Server RPC/SSH,已有调研)+ 各项目现状
产出 ① Steward profile(Hermes 配置 + 专属 skills)② 跨机状态机(镜像 VPS 各项目到本地 Kanban/看板)③ 催办循环(cron 轮询 + 心跳协议 HEARTBEAT_OK/NO_REPLY)④ 三级验收门禁(需求/设计/交付,对应 REQ-5~8)⑤ 监督日报(HTML)
关键设计 渐进式授权(Q4 确认):前期管家只做推荐(催办动作 + 意见预判 + 证据整理)→ 用户逐条同意 → 管家定期把已同意的决策模式总结成「规律」给用户确认 → 已确认的规律进入自动执行白名单(授权递增,Anthropic auto mode 93% 自动审批同思路但多了规律确认环节,防越权)② 每个项目 WORKFLOW.md(验收标准随代码版本化,Symphony 模式)③ 证据优先:要求执行实例附测试输出/命令返回/截图,禁止自报完成 ④ 对抗性复核:second opinion 子代理反驳实现者结论(干活的不打分)⑤ 多机支持(Q5 确认):跨机通道按多节点设计(当前 2 台 VPS,未来可注册新节点)
验证方法 ① 选 1-2 个真实项目(如 wechat-qa-bot 迭代)跑通全流程 ② Playwright 测试监督日报 ③ 冷启动测试:Steward 无用户在场时能否独立完成「催办 → 跟进 → 验收」
验收标准 门禁 1-3:Steward 独立跟进 ≥1 个真实项目从需求到交付、事事有回应(状态机无悬挂项)、验收结论与用户人工判断一致率 ≥80%
里程碑 M1 跨机通道 + 状态机 → M2 催办循环跑通 → M3 三级门禁 + 真实项目试点 → M4 监督日报上线

6.4 阶段三:EventLog — 执行日志规范(公共能力 #1)

内容
目的 统一所有执行实例的日志规范,为进化引擎供料(REQ-11)
输入 阶段二运行中的真实日志 + Claude Code hooks 事件流参考
产出 ① JSONL 事件流规范(字段:turn/plan/tool/input/output/ok/cost/duration/error + gen_ai.* 标准命名)② 埋点工具(执行实例统一落盘)③ 规范文档 + 校验脚本
关键设计 ① 事件流格式对齐 Anthropic Agent SDK(AssistantMessage/ResultMessage/UserMessage)② 字段命名按 OTel GenAI 语义约定(防锁定、未来可迁移)③ 幂等写入 + 防御性解析(JSONL append-only,schema 可能演进)
验证方法 ① 校验脚本:格式合规 + 字段完整性 ② 真实跑批测试:同一任务两次执行日志结构一致 ③ 文档↔测试契约(运行时输出协议必须有测试断言,project-blueprint 规则)
验收标准 门禁 1-3:规范文档每条都有对应测试;执行实例 100% 落盘合规日志
里程碑 M1 规范 v1 + 校验脚本 → M2 埋点接入 → M3 全项目日志统一

6.5 阶段四:EvolutionEngine — 自进化引擎

内容
目的 跑通完整进化闭环(REQ-12~15):分析日志 → 找长处不足 → 检索行业方案 → 设计实验 → 验证 → 沉淀
输入 统一日志(阶段三)+ taste 库 + 行业检索工具(GitHub 网页搜索/HN Algolia/arXiv API 封装,本调研已验证的抓取手段固化)
产出 ① 日志分析器(长处/不足 + 证据链,Reflexion 模式,定时 cron)② 行业检索工具(search-industry 技能:针对失败模式自动检索 GitHub/HN/arXiv,产出「问题→候选方案(带来源)」)③ 实验框架(benchmark 集 + archive 实验记录 + pass^k 判定)④ 沉淀机制(结论写回 taste/技能库/进化日志)⑤ 进化报告(HTML)
关键设计 ① 分析结论必须 grounded 在日志证据(Harrison Chase 强制引用)② 每次只改一个变量,A/B 用同一 benchmark ③ LLM-judge 只粗筛,执行级断言金标准 ④ 防自欺:交叉模型盲评 + 人工抽检 ⑤ 结论分级:L0 技能沉淀(最快见效)→ L1 工具调优 → L2 harness 代码
验证方法 ① 完整闭环演练:人为注入一个已知缺陷 → 进化引擎能否通过「日志→分析→检索→实验→验证→沉淀」修复它 ② 回归测试:进化不破坏既有能力(benchmark 分数不降)③ 进化日志可追溯(每轮结论有证据链)
验收标准 门禁 1-3:闭环演练通过(注入缺陷被检测并修复);一轮完整进化后 benchmark 分数提升 ≥5% 或成本下降 ≥20%;无能力回退
里程碑 M1 日志分析器 + 报告 → M2 行业检索工具 → M3 实验框架 + archive → M4 完整闭环演练

6.6 阶段五:公共平台化 — 数据驱动决策平台

内容
目的 把阶段三/四的公共能力组件化,供所有项目接入(REQ-16),并建立持续行业情报订阅(REQ-13/17)
输入 阶段四验证过的组件 + 现有 unified-report 体系
产出 ① 公共组件库(日志埋点/分析器/实验框架/检索工具,做成可配置)② 全项目接入(wechat-qa、todo-board、车贷、游泳馆等按优先级)③ 仪表盘升级(成功率/成本/延迟/回归率/pass^k 趋势,CF Pages)④ 行业情报订阅 cron(每周检索 GitHub/X/HF → 灵感简报 → 实验提案)
关键设计 ① 组件化:每个项目通过配置接入,不改组件代码 ② 指标可获取性审查:每个仪表盘指标必须能拿到原始数据且有独立价值(project-blueprint 规则)③ 订阅与进化联动:情报简报自动生成候选实验
验证方法 ① 每个接入项目跑通一轮进化闭环 ② 仪表盘指标数据真实性审计(从报告数值反向追溯到日志)③ Playwright 测试仪表盘
验收标准 门禁 1-3:≥3 个项目接入并跑通闭环;仪表盘指标 100% 可溯源;情报订阅每周自动产出
里程碑 M1 组件库 → M2 首批项目接入 → M3 仪表盘升级 → M4 情报订阅上线

6.7 阶段间门禁与依赖

阶段一 TasteExtractor ──(taste 库 v1 验收通过)──▶ 阶段二 Steward
阶段二 Steward ──(真实项目试点跑通)──▶ 阶段三 EventLog
阶段三 EventLog ──(日志 100% 合规)──▶ 阶段四 EvolutionEngine
阶段四 EvolutionEngine ──(闭环演练通过)──▶ 阶段五 公共平台化

门禁规则:每个阶段完成 = 该阶段验收标准达成(测试全绿 + 门禁证据物齐全),才进入下一阶段。阶段一可与阶段三的部分工作并行(日志规范不依赖 taste),但按「先简单后复杂」原则,建议严格串行推进,每阶段先交付再扩展。

第七章 技术选型与剃刀决策

7.1 用(选型清单)

组件 选择 理由
taste 载体 Markdown + git(taste/ 仓库) Anthropic 官方立场 + Letta MemFS 实证 + 人可读可审
跨机通道 API Server RPC 主 + SSH backend 辅 多实例架构调研(2026-08-03)已确认,VPS 已有独立 Hermes 实例
监督状态机 扩展 Hermes Kanban + 镜像看板 不重建任务系统,Kanban 单机设计边界已明确
执行实例 现有 VPS Hermes 各项目(CC 任务卡模式) 已投产,不迁移
进化载体 Python + SQLite + JSONL + CF Pages 与 agent-self-analysis 同构,零新服务
实验判定 pass^k + 执行级断言 + graded rubric tau-bench/SWE-bench 范式
行业检索 GitHub 网页搜索 + HN Algolia + arXiv API(curl 封装) 本调研已验证的反爬绕过路径,固化为工具
行业对照 Karpathy Claws / Symphony / Maestro / self_improving_coding_agent 验证方向 + 抄范式

7.2 不用(剃刀排除)

组件 排除理由
Langfuse v3 自托管 五组件架构(PG+CH+Redis+S3+Worker)对 3.6GB VPS 过重
完整可观测平台(LangSmith/AgentOps 自托管) 免费档够起步,自托管运维成本 > 收益
向量库做 taste 存储 Anthropic 官方立场 + 用户需要人审 + 与 memory 同构
自建跨机任务系统 Kanban + 跨机通道已覆盖 70%
多 agent 框架重写(LangGraph/CrewAI) Hermes 原生已具备 agent loop + hooks + 记忆;框架引入是新复杂度
LLM-judge 作为唯一验收 self-preference 实证偏差,只做粗筛

第八章 风险与对抗性验证

8.1 风险清单

# 风险 概率 影响 缓解
R1 taste 提取失真(误读用户偏好,管家「替用户」做出错误判断) 首版强制人审 + cold-start 对抗性验证 + 只增不删 + provenance 溯源
R2 管家自主性失控(自动代批越权,如误批准高风险操作) 分级审批:关键决策强制人审;审批策略进 WORKFLOW.md 版本化;回滚拦截 deny 规则
R3 自进化改进反而退化(实验改了 A 坏了 B) benchmark 回归测试 + pass^k + 每次只改一个变量 + 进化日志可回滚
R4 日志不足导致分析空心化(没数据可分析) 阶段三日志规范先行,执行实例强制埋点,校验脚本门禁
R5 行业检索被反爬/失效(GitHub API 限流、X 封锁) 已验证替代路径(GitHub 网页搜索/HN/arXiv),固化为工具多源兜底
R6 跨机通道不稳定(API Server/SSH 断连) 双通道冗余 + 心跳协议异常告警 + 离线缓冲队列
R7 用户品味随时间漂移(taste 过时) 只增不删 + 标记失效 + 季度修剪 + 用户抽查反馈闭环
R8 阶段间依赖阻塞(阶段二未验收,阶段四无法启动) 阶段规划明确门禁;阶段一/三可并行部分工作

8.2 对抗性验证(自问自答)

Q1:这个方案是不是又造了一个「分析报告」而没有真正进化? A:不是。进化闭环的落地标志 = 注入缺陷能被检测并修复(阶段四的闭环演练),且有 benchmark 分数/成本的可量化对比。分析报告只是中间产物,不是交付物。

Q2:my taste 会不会变成另一个没人读的大文档? A:防呆设计:① taste 库分层(核心 ≤200 行强制在环,主题文件按需读取——渐进式披露,与 memory 同构)② 管家每次执行必须引用 taste 条目(引用即使用,未引用即缺陷)③ 冷启动测试验证「给管家看 taste 后行为是否改变」。

Q3:管家「代替用户」会不会把用户的判断力外包给一个不可靠的 LLM? A:分级设计:常规催办/跟进/证据收集自动(低风险),关键决策(需求确认/设计放行/合入)保留人类审批点;管家做的是「第一遍审查 + 证据整理 + 意见预判」,用户做最终裁决——管家放大用户的判断力,不替代用户的判断力。

Q4:进化引擎改进的对象是什么?如果改 Hermes 自己的代码,会不会越改越乱? A:按成本递增分层:L0 技能/prompt 层(主要,安全)→ L1 工具层(描述/参数调优)→ L2 harness 代码层(最重,需完整回归)。进化对象优先是「管家的行为」,不是「执行实例的核心逻辑」。

Q5:五阶段是不是太多?能不能砍? A:每阶段都有独立可验收价值:阶段一(taste 资产,立即有用)、阶段二(催办闭环,最直接解决痛点)、阶段三(日志规范,公共能力)、阶段四(进化闭环,AI-native 核心)、阶段五(平台化,规模化)。若资源紧张,可先做阶段一+二(监督闭环),进化引擎(三+四)随后——但建议按序走,每阶段先交付再扩展。

Q6:与已有 agent-self-analysis(unified-report)什么关系? A:agent-self-analysis 是「V1 雏形」:它已实现日志分析 + 分类 + 自动修正 + 日报,但没有行业检索、没有实验框架、没有 pass^k 验证、没有沉淀闭环。阶段四 EvolutionEngine 是在其上的升级,不是另起炉灶——统一分析体系原则(用户 2026-08-07:「做个体系是最好,既不会重也不会漏」)适用,进化引擎应扩展 unified-daily.py 而非新建平行系统。

第九章 下一步行动(落地清单)

  1. 本报告交付:调研报告 + 分阶段规划部署上线(本交付物)
  2. 确认待确认项(Q1-Q5)→ 阶段一启动
  3. 阶段一 TasteExtractor:提取 state.db 历史会话 → taste 库 v1 → 人审 → 质量报告
  4. 阶段二 Steward:Mac mini Hermes 实例配置 + 跨机状态机 + 催办闭环 + 真实项目试点
  5. 阶段三 EventLog:日志规范 + 埋点
  6. 阶段四 EvolutionEngine:进化闭环跑通
  7. 阶段五 公共平台化:全项目接入 + 仪表盘 + 情报订阅

每个阶段单独列项目,走 project-blueprint 四阶段(需求对齐 → 方案确认 → 任务实现 → 复用总结),三张表(验收用例/覆盖矩阵/契约用例)为门禁证据。

附录 A:调研来源与笔记

调研主题 笔记文件 来源数量
Agent 自我进化 /home/ubuntu/research/agent-self-improvement-research-2026-08-09.md 60+
用户品味建模与 AI 记忆 /home/ubuntu/research/user_taste_modeling_research.md 57
多 Agent 监督/编排/验收 /home/ubuntu/research/multi-agent-supervision-research.md 30+
可观测性/Evals/实验 /home/ubuntu/research/agent-observability-evals-research.md 25+

关键一手来源(节选):Anthropic《Building Effective Agents》《How we built our multi-agent research system》《Demystifying evals for AI agents》《Claude Code Best Practices》、OpenAI Symphony SPEC、Karpathy LLM OS 演讲/Claws 概念、Simon Willison agents 定义、Andrew Ng Agentic Design Patterns、Reflexion/Voyager/AlphaEvolve/self_improving_coding_agent 论文、Mem0/Letta/Zep/LangMem、tau-bench/SWE-bench、LLM-as-judge 偏差论文(2306.05685/2404.13076)。

附录 B:报告方法论说明