
最近看了深入理解AI Agent这本书,滤过了过于专业的章节, agent = LLM + context + tools 这个公式让外行一下抓住了重点, 也就从这个角度来完善自己的hermes agent, context+tools 我就直接理解为整个harness了, 来更好的规范我的hermes的行为。配图主要参考了小黑插图。
现在的harness组成如下:
- 9router , 统一管理provider, 调度控制成本。
- byterover, 日常对话记忆积累。
- openkb, 用于RAG,文档类型的管理和检索。
- trilium/memos/typecho, 自组织的一些笔记和记录。
- agent-reach/tinyfish, 网络实时信息则通过这两个项目进行检索。
9router
对比了类似freeLLM,api-hub这些项目后, 还是9router最为轻量,高效,combo还能生成自己想要的模型组合,用于不同场合控制成本, 如低价或免费的组合用于byterover。
byterover
上篇文章 https://molezz.net/Hermes-Discord-Trilium 更多的是想免费可控记忆, 实际发现不够自动化, 还是需要后台那种无感记忆, 其实主要就是harness 部分的context范围, 比较了几个项目后(memo0等),选择了内置的byterover, 本地调用, 缺点是要花费些token, 不过低价免费的都可以胜任, 还是不错的。
openkb
至于工作中用到的一些固化文档RAG,尝试了dyfy和anythinllm等,有些重, 偶然知道了openkb项目,感觉还是挺适合的, 毕竟使用到的文档不那么多, openkb 实现这类context还是轻量高效的。
tinyfish
Agent-Reach 充当网络能力的统一路由器,负责意图分发与平台,TinyFish 则作为其底层通用的基础驱动引擎,通过无状态的 Search 与 Fetch API 承载轻量、免渲染的高并发全网语义搜索与网页正文 Markdown 纯净化提取。
评论