核心信息

PrismML发布了Ternary Bonsai 2 27B,这是一个基于Qwen3 27B的三值量化模型,体积比全精度版本小9倍,同时保留了98.2%的聚合基准性能;与初代Bonsai 27B相同的5.9 GB占用下,质量显著提升。

要点

  • 距离首个Bonsai 27B发布仅两个月,Ternary Bonsai 2 27B与全精度版本的差距大幅缩小,尤其在智能体编码、多模态推理和长时程工具调用方面表现突出。
  • 模型保持5.9 GB的紧凑体积,适合本地部署,同时接近全精度模型的性能。
  • 基于Qwen3 27B,这次发布重点在于质量提升而非进一步压缩体积,使其成为复杂AI任务的更强轻量级选择。