核心信息

Render Workflows 现在可以把 LLM 提示词批处理拆分为独立任务运行,并通过 OpenRouter 自动路由为每个提示词选择模型,同时保留所选模型信息。可用 Node 或 Python 搭建项目、本地开发,再用 Render CLI 部署。

要点

  • 使用 render workflows init --language node 初始化项目,用 render workflows start runPromptBatch 启动批处理。
  • 每个提示词都会成为 Render 上独立排队、重试并并行分发的任务,无需再把 LLM 批处理塞进 Web 服务。
  • OpenRouter 的 Auto Router(openrouter/auto)会为每个提示词选择模型,completion.model 可查看实际使用的模型。
  • 本地开发用 render workflows dev,部署用 render workflows create