核心信息

腾讯 Hy4 preview 已发布:770B 总参数、49B 激活参数、1M 上下文,开源且价格稳定。官方称 Hy4 在推理研究中自行发现性能瓶颈,并通过算子融合与通信优化将端到端吞吐量提升 31.8%,在不同上下文长度和并发下表现稳定。

要点

  • Hy4 preview:770B 总参数、49B 激活参数、1M 上下文,开源前沿模型。
  • 自动定位推理瓶颈后,通过算子融合和通信优化实现端到端吞吐量提升 31.8%。
  • 吞吐收益在不同上下文长度和并发设置下保持稳定。
  • 已提供博客、Hugging Face 和 GitHub 链接,欢迎测试反馈。