核心信息

LiteLLM 发布了 AutoRouter 的 FUSE V2 版本,该能力会预测哪个模型最有希望完成当前任务。在 SWE-bench 测试中,FUSE V2 解决了 25/25 个任务,同时降低了每个已解决任务的成本。

要点

  • FUSE V2 通过预测每个任务最可能成功的模型来提升路由效率并降低成本。
  • SWE-bench 初步测试结果为 25/25 任务全部解决。
  • 该方案同时注重任务成功率和降低单个解决任务的成本。