核心信息

LiteLLM 宣布为 AutoRouter 推出四项更新，包括自定义路由维度、自动配置最佳路由器、按模型设置输出上限，以及针对最新模型的更新预设。

要点

  • 根据自定义路由维度，让路由规则贴合你的生产流量。
  • 根据可用模型自动配置最佳路由器。
  • 按模型设置输出上限，避免响应被截断。
  • 更新预设以支持最新模型。