社区讨论 · 其他

WorkBuddy 用了两个月,我发现真正决定成本的,是重跑次数,不是 token 单价

阿杰阿杰10月28日2026/10/28 98 浏览

昨天刷到信通院那份《大模型词元服务性能监测报告》,国内归一化均价从 2025 下半年的 6.8 元涨到今年的 13.46 元,涨幅接近一倍。同一条新闻里还有个数字,8 月国内模型平均 TPS 到了 78.23,比 2025 年均值 38.25 翻了一倍。首词时延也在涨,从 0.78 秒到 1.26 秒。我把这几行看了两遍,想起的却是上个月整理报销单的那个下午。

那事儿我写过,二十来张发票,PDF 加手机拍的截图,四张金额对不上,发票上 86 导出来变 68,还有两张日期空着。当时我以为是图拍歪了,重拍再传,还是老样子。后来把这四张单独拎出来处理,一次只丢一张,才对了。

那个 bug 是另一回事。这篇想聊的是,在 token 均价翻倍的当口,WorkBuddy 这种成品工具跟我自己写脚本调 API,到底差在哪。

我自己做过一次对照。同一个任务,社团一学期的活动记录,三十多份文档加两张表,要汇总成一张带日期、主题、参与人数、预算的表格。路线 A 是我用 Python 调 API,自己写 prompt,自己解析返回的 JSON。路线 B 是 WorkBuddy 直接丢文件进去。

识别质量上,两边其实拉不开。WorkBuddy 背后也是模型,文档格式规整的时候,字段抽得都挺准。差别出在后面。路线 A 出错,我能看到原始返回,知道是模型漏了还是我正则写错了,改一行代码重跑。路线 B 出错,我看到的只有结果表,得靠猜。那四张金额错的发票,我猜了三次才猜对原因。

但路线 A 的成本完全不可控。一份文档我要拆成几段喂,中间还要重试,token 是按次烧的。WorkBuddy 这边我根本不知道它内部调了几次模型,只知道最后交给我一张表。听起来是缺点,不过换个角度,正因为我看不见,我也不会因为焦虑去反复重跑。

我这边测下来,一份三千字的活动记录,跑一次大概几十秒。如果我因为结果不对,改了 prompt 重跑五遍,成本就是五倍。信通院那个 13.46 元是归一化均价,具体到单次任务可能就几分钱,但乘上五次十次,账就不是这么算了。token 单价翻倍这件事,对普通办公用户的真实影响,远小于反复重跑带来的浪费。

所以我现在用 WorkBuddy 的方式也变了。以前我总想一次把需求说全,按日期、主题、参与人数、预算归类,预算保留两位小数,日期统一成 2026-XX-XX 格式,主题超过十个字截断。结果它经常顾此失彼,预算格式对了,日期又乱了。后来我学乖了,一次只让它干一件事。先只做字段抽取,导出来我自己在 Excel 里调格式。慢一点,但重跑次数从平均三四次降到一次多。

还有个坑是字段名。这个我上个月专门写过一篇,现在还是得再说一遍,因为它是 WorkBuddy 最容易踩的地方。我那份活动记录表,表头写的是「参与人数」,我在需求里写「人数」,导出来整列空的。它按字段名严格对齐,差一个字就当没这个字段。这个设计我觉得是对的,严格总比瞎猜好,但对新手特别不友好,因为报错是静默的,你看到的就是一列空白。

我朋友上周也栽在这上面。他整理社团报销,表头写的是报销金额,需求里只说了金额两个字,整列空。他折腾了一个多小时,以为是文件太大处理不了。

WorkBuddy 最大的问题是黑盒。它不告诉你处理到哪一步,不告诉你哪些文件失败了,也不告诉你内部调了几次模型。批量丢十几个文件进去,中间卡住一个,你只能等,等完发现结果表少了两行,还得自己回去对是哪两份。这个体验在文件少的时候无所谓,上了二十份就很烦。

对比之下,我自己写脚本虽然笨,但每一步都有日志,失败了能定位到具体文件。所以我现在的分工是,十份以内的活儿直接 WorkBuddy,超过二十份、或者要求可复现可审计的,我还是回去写脚本。财务报表这种要留痕的东西,我不会交给一个不告诉我中间发生了什么的工具。

还有个隐藏成本,报告里没提。上下文长度在扩,被监测模型里 1M 上下文的占比已经到 47.8%,200K 以上的合计 95.7%。工具现在能把一整份长文档塞进去,不用切片。听起来是好事,但对我这种用户来说,塞得越多,我越难判断它到底读了哪一段。有一次我把一整学期的会议纪要丢进去,让它总结决议事项,结果它把上学期的一条决议也算进来了。文件是我自己放错的,但它没有任何提示。

WorkBuddy 适合把结构清晰的脏活批量清一遍,不适合做需要留痕、需要精确数值、需要事后追责的账。 前者它比手写脚本快得多,后者比手写脚本危险得多。

再说价格。信通院那份报告说国外典型模型今年均价 117.8 元,国内 13.46 元,差着将近九倍。这个差距短期内不会消失。对 WorkBuddy 这类产品来说,它跑在国内模型上,成本结构是占优的。但我不觉得这个优势会传导到用户身上,因为办公工具的定价逻辑从来不看 token 成本,看的是你愿意为省下来的时间付多少钱。所以别指望模型降价了 WorkBuddy 就便宜。

回到那个报销单的下午。我现在的做法是,先把所有发票丢进去做一轮识别,导出表格,然后自己在 Excel 里逐行核对金额和日期。核对大概花二十分钟。这二十分钟不能省,因为我不知道它哪一张会错。WorkBuddy 帮我把两小时的活压到四十分钟,剩下那二十分钟是我的保险。

信通院那份报告我存了下来,下次调价再翻出来对一遍。WorkBuddy 我还是照现在这么用:一次让它干一件事,导出之后自己核一遍。

2 条回复

?
Ctrl + Enter 快速回复
hongtao
hongtao10月28日

“一次只让它干一件事”这个我信,我们实验室跑批量实验也是,prompt 塞太满反而要反复重跑,账全耗在重试上。

飞控少年
飞控少年10月29日
回复 hongtao

对,我飞控调 IMU 也是这毛病,参数一次塞满就反复重跑,跟楼主说的 prompt 塞太满一个道理。