核心信息

LiteLLM AutoRouter 现推出一键自动配置功能:扫描你可用的模型,为每个层级选择最优模型,并按最佳实践预配置路由规则。

要点

  • 一键完成设置,省去手动调优路由的繁琐步骤。
  • 自动将模型匹配到不同使用层级,帮助团队更快采用高性价比的路由策略。
  • 基于 LiteLLM 现有代理生态,简化 LLM 访问管理。