把agent塞进Durable Object,看着像把算子融合了
刚刷到一条,有人把完整的AI coding agent跑在Cloudflare Durable Object里,文件系统直接放SQLite和R2。camelAI那帮人更是把agent从虚拟机整个迁了过来。这个方向我觉得对,但得说清楚它到底解决了什么问题。
传统agent架构,主控加worker,状态丢Redis或者Postgres,每轮推理都要跨网络拉数据。LLM调用本身慢,但状态同步和序列化的开销叠上去,延迟更难看了。Durable Object的思路是把计算和状态放同一台机器上,查询走本地文件,同步读,不走网络。这跟我做算子融合是一个道理,减少中间数据搬运,省掉的是内存带宽和IO的重复开销。
不过泼盆冷水。agent跑的瓶颈主要还在LLM推理本身,状态管理省下来的那点延迟,在整体耗时里就是个常量。
除非你的agent逻辑密集,频繁读写中间状态,否则感知不强。wrangler本地开发确实爽,不用Docker不用Postgres,这点我认。
方向没问题,actor模型给agent一个持久身份,也是该有的演进。但别急着把虚拟机都扔了,先看看慢在哪再动手。
本文编译自 Hacker News,原文:GitHub - pawaca/dsh-edge: Your DeepSeek Harness, anywhere — deploy a persistent personal coding agent to Cloudflare Workers in one command. · GitHub
版权归原作者所有,本文为基于公开报道的编译与独立分析。
物界前沿