核心信息
腾讯Hy4预览版是一个770B参数的开源模型,每个token仅激活49B参数,支持原生100万上下文、Apache 2.0许可证、vLLM与SGLang直接支持以及官方FP8权重。演示中,Hy4仅根据一句提示就生成了一款可玩的2D太空射击游戏,包含操作、敌人、粒子特效和计分功能。
要点
- 规模大而高效:770B总参数,每个token只激活49B参数。
- 提供原生1M上下文、Apache 2.0许可,并直接支持vLLM/SGLang和官方FP8权重。
- 演示中从提示词直接生成可玩的2D太空射击游戏。
- 当前为预览版,鼓励测试token/s并对比BF16/FP8版本。