核心信息

Z.ai 分享称，GLM-5.3-Flash 的推理基础设施在国产加速器上首次运行后不到两周便进入生产就绪状态，端到端吞吐量达到最初基线的约 3.2 倍，其中大量优化工作由基于 GLM-5.3 构建的“基础设施智能体”（Infra Agent）完成。

要点

  • 模型本身参与了为其提供服务的系统的构建与优化，应对内存和互联带宽有限、100 万 token 上下文、多模态请求等挑战。
  • 关键是通过密集反馈：本地正确性测试、执行轨迹、微基准和端到端测量，支持有针对性地验证假设，而不是只依赖聚合性能指标。
  • 引用内容指出系统从首次成功运行到生产就绪不到两周，端到端吞吐量相对初始基线提升了约 3 倍。