核心信息
LiteLLM 发布了 AutoRouter 的 FUSE V2 版本,该能力会预测哪个模型最有希望完成当前任务。在 SWE-bench 测试中,FUSE V2 解决了 25/25 个任务,同时降低了每个已解决任务的成本。
要点
- FUSE V2 通过预测每个任务最可能成功的模型来提升路由效率并降低成本。
- SWE-bench 初步测试结果为 25/25 任务全部解决。
- 该方案同时注重任务成功率和降低单个解决任务的成本。
LiteLLM 发布了 AutoRouter 的 FUSE V2 版本,该能力会预测哪个模型最有希望完成当前任务。在 SWE-bench 测试中,FUSE V2 解决了 25/25 个任务,同时降低了每个已解决任务的成本。