PrismML推出Ternary Bonsai 2系列模型

驱动中国10月16日消息，AI公司PrismML于10月15日发布博文，宣布推出Ternary Bonsai 2系列模型。该系列包含2B、4B和9B三种规模，面向手机、PC及可穿戴设备，目标是在本地运行AI智能体，支持推理、识图、调用工具等能力。

从技术路线看，Ternary Bonsai 2系列基于阿里Qwen 3.5基座构建，并采用“三元”权重表示法，即仅使用-1、0、+1三种数值编码模型参数。官方给出的存储占用数据为：2B模型约0.43GB，4B模型约0.95GB，9B模型约2GB。

在能力定位上，该系列强调本地智能体的实用性，覆盖遵循指令、完成日常任务、在移动设备上调用工具、避免重复输出等场景。官方称已在19项基准上测试智能工具调用、数学、指令遵循、编程、知识与推理、视觉理解六类能力。其中，9B模型在标准指令执行和日常数学任务中，所需token数量约减少40%。

性能方面，PrismML表示，在RTX 4090和M5 Pro等硬件上，新模型相较对应全精度模型可实现吞吐量提升可达5倍、能效提升可达3倍。在iPhone 18 Pro Max上，9B模型可达每秒34个词元，2B模型可达每秒120个词元。

产品与生态方面，该系列可与已有的Bonsai 2 27B组成从轻量任务到复杂工作流的完整产品线。开发者可通过llama.cpp在NVIDIA GPU上运行，也可通过MLX在Mac、iPhone和iPad上部署；模型权重以Apache 2.0许可证开放。