核心信息

腾讯混元最新推出的 Hy4 Preview 是 770B 参数的稀疏 MoE 开源权重模型,每个 Token 仅激活 49B 参数,现已通过官方 API 开放使用。该模型在 203 项工程任务的内部专家评估中取得 2.99/4.00 的评分。

要点

  • 采用 770B 稀疏 MoE 架构,每 Token 仅激活 49B 参数,兼顾性能与推理效率。
  • 开源权重模型,并已正式开放官方 API 接入。
  • 在 203 项实际工程任务的内部盲测中获得 2.99/4.00 的出色表现。