Features
用户侧
- 多轮对话、流式输出(SSE)
- 多模型切换(由 LiteLLM
model_list暴露) - 对话历史保存在 Open WebUI(SQLite 卷)
- 可选:知识库、文档上传(Open WebUI 内置能力,受
client_max_body_size等限制)
运维侧
- Docker 容器化,仅绑定
127.0.0.1,由 Nginx 对外 - Let's Encrypt HTTPS(Certbot)
- LiteLLM 无数据库 模式:纯转发网关
- 定时备份 Open WebUI 卷至 Cloudflare R2(
infra-backup) - 备份失败可通过 Resend 邮件告警(
run-all.sh)
当前已接入模型族(示例)
以 /root/litellm/config.yaml 为准,典型包括:
| 对外名称 | 后端 |
|---|---|
gpt-5.1 / gpt-5-mini / gpt-5.1-codex-max | OpenAI |
gemini-2.5-flash / gemini-2.5-pro | Google Gemini |
claude-sonnet-4.5 / claude-haiku-4.5 | Anthropic |
deepseek-chat / deepseek-reasoner | DeepSeek |
glm-4.7 / glm-4.5-flash | 智谱 Z.AI |
新增模型:编辑 config.yaml 后执行 bash /root/litellm/operation.sh 重建容器。