核心信息
Render Workflows 现在可以把 LLM 提示词批处理拆分为独立任务运行,并通过 OpenRouter 自动路由为每个提示词选择模型,同时保留所选模型信息。可用 Node 或 Python 搭建项目、本地开发,再用 Render CLI 部署。
要点
- 使用
render workflows init --language node初始化项目,用render workflows start runPromptBatch启动批处理。 - 每个提示词都会成为 Render 上独立排队、重试并并行分发的任务,无需再把 LLM 批处理塞进 Web 服务。
- OpenRouter 的 Auto Router(
openrouter/auto)会为每个提示词选择模型,completion.model可查看实际使用的模型。 - 本地开发用
render workflows dev,部署用render workflows create。