Connect LiteLLM

在 Open WebUI 中将 所有 云端模型请求集中到 LiteLLM，便于轮换 Key 与统一审计。

推荐连接方式

Settings → Connections → OpenAI（或添加 OpenAI 兼容连接）：

配置项	推荐值
URL / Base URL	http://127.0.0.1:4001/v1
API Key	环境变量 LITELLM_MASTER_KEY 的值
Enable	是

若 Open WebUI 运行在容器内、且与 LiteLLM 同网，可尝试：

http://litellm:4000/v1

（LiteLLM 容器内监听 4000，未改 operation.sh 时与映射一致。）

验证

1. 保存连接后，打开 Models 页面刷新列表
2. 应出现 config.yaml 中所有 model_name
3. 新建聊天，任选模型发送「ping」

反模式：双通道密钥

避免同时在：

• docker-compose.yml 的 OPENAI_API_KEY
• Open WebUI Connections

配置 不同的 直连 OpenAI Key。否则部分模型走 LiteLLM、部分直连，难以排查配额与账单。

推荐：从 docker-compose.yml 移除明文 OPENAI_API_KEY，仅保留 LiteLLM 路径。改完后：

cd /root/openwebui && docker compose up -d

鉴权说明

LiteLLM 使用 general_settings.master_key。请求头：

Authorization: Bearer <LITELLM_MASTER_KEY>

Open WebUI 会把 Connections 里的 API Key 原样传给 LiteLLM。