DAY 01–30
把真实经验抽象为开源 Agent Evaluation Lab
使用全新公开数据和代码,构建工具调用、结构化输出、状态持久化、失败恢复和人工审批;发布架构决策,明确哪些地方使用工作流、哪些地方需要自治。
Architecture decision recordTool contractsHuman-in-the-loopFailure recovery
明确系统边界、依赖与演进条件,让功能选择服务于产品目标和维护成本。
将模型与工具输出转为可复现的评测、回归与故障诊断。
把共享组件、开发流程与工程知识沉淀成可以重复使用的能力。
让延迟、成本、权限与恢复方式成为设计的一部分。
90-day delivery sequence
三个阶段依次形成架构、评测、可观测性、安全与互操作的公开证据。
使用全新公开数据和代码,构建工具调用、结构化输出、状态持久化、失败恢复和人工审批;发布架构决策,明确哪些地方使用工作流、哪些地方需要自治。
创建至少 100 条代表性评测样本;跟踪任务成功率、工具错误、延迟、token 和成本;把线上失败转为回归用例。
实现一个 MCP server/client,执行直接与间接 prompt injection 测试;工具使用最小权限,高风险动作强制审批。最后发布一篇含失败复盘、指标和取舍的系统设计案例。