核心信息

LiteLLM 转发了 Vultr 团队编写的分步教程，演示如何在 Vultr 上通过 Docker Compose 部署 LiteLLM 网关。

要点

  • 教程由 Vultr 官方团队提供，针对在 Vultr 上运行 LiteLLM 进行了说明。
  • 使用 Docker Compose 部署网关，可以更方便地为多个 LLM 提供 OpenAI 兼容的 API 入口。