跳到正文
meng shao· @shao__meng · X·· 1 小时前AI 评分58
AI 导读

Parth Sharma 总结过去一年半做 Agent 工程的实践经验,认为理解运行框架可以先抓住一个 while 循环,但真正影响系统质量的是工具设计、上下文管理和可靠的后端实现。

正文 · 原文

Parth Sharma 总结过去一年半做 Agent 工程的实践经验:理解运行框架,可以先抓住一个 while 循环;但真正影响系统质量的,则是工具设计、上下文管理,以及可靠的后端实现

https://parthshr370.github.io/blogs/its-all-a-while-loop/

循环很短,上下文却在不断增长

基本流程是:将用户消息放入历史,调用模型;模型提出工具调用,系统便执行工具,把结果追加到历史,再次调用模型。直到模型不再调用工具,或达到轮次上限、发生错误,循环结束。

每轮产生的内容,都会成为后续输入的一部分。因此,工具返回多少信息、哪些值得保留,会直接影响后续成本和判断质量。作者欣赏 pydantic-ai、pi 这类核心流程清楚的实现,便于理解辅助逻辑究竟解决了什么问题。

工具要让模型容易用,也要少占上下文

工具本质上仍是函数,只是参数改由模型填写,执行结果又影响模型下一步的选择。

引用 pi 的做法:读取、写入、编辑文件和执行 shell 命令,四类工具就能支撑大量编码任务。重点在于接口是否清楚、输入是否简洁,以及能否在工具端完成筛选,避免把大量无关内容塞进上下文。过大的结果可以落盘,返回路径供模型按需读取。

他也将子 Agent 还原成一种工具调用:启动独立会话,运行类似循环,最后交回结果。它的价值在于隔离上下文、明确分工,不必赋予额外的神秘感。

真正费功夫的是循环周围的工程

Agent 一次运行可能持续数分钟,后端必须处理流式传输、心跳、断线重连,以及混杂的文本、工具调用和错误事件。

取消和超时需要传递到实际 HTTP 请求及子进程;重试要考虑幂等,避免重复产生副作用;可恢复的工具错误应反馈给模型,帮助它调整下一步,而不只是写入日志。

因此,作者建议回到基础规范和系统原理:理解流式传输协议,再看框架封装;理解 Linux 命名空间、资源限制与进程隔离,再看沙箱产品。基础清楚,新工具就更容易理解和比较。

来源:meng shao · x.com