PrismML 发布 Ternary Bonsai 2 系列端侧模型：有哪些关键信息？

PrismML 于 10 月 15 日发布 Ternary Bonsai 2 系列模型。

该系列含 2B、4B、9B 三种规模，基于阿里 Qwen 3.5 构建。

模型采用 -1、0、+1 三元权重编码参数。

三种模型存储占用约 0.43GB、0.95GB 和 2GB。

9B 模型在指令与数学任务中 token 用量约减少 40%。

iPhone 18 Pro Max 上 2B 模型最高每秒 120 词元。

物界前沿 · 资讯情报卡（IT之家 · 2026/10/16）

PrismML 发布 Ternary Bonsai 2 系列端侧模型

核心事实

关键数据

0.43GB2B 存储占用

0.95GB4B 存储占用

2GB9B 存储占用

120 词元/秒iPhone 18 Pro Max 2B

物界观察

三元权重把端侧模型压到 2GB 以内，手机跑 9B 智能体开始有实用价值。真正信号是本地工具调用与推理不再依赖云端，隐私和延迟都受益。但生态能否跟上，取决于 llama.cpp、MLX 这类部署路径的成熟度。