Skip to main content
Version: Current

Features

用户侧​

  • 多轮对话、流式输出（SSE）
  • 多模型切换（由 LiteLLM model_list 暴露）
  • 对话历史保存在 Open WebUI（SQLite 卷）
  • 可选：知识库、文档上传（Open WebUI 内置能力，受 client_max_body_size 等限制）

运维侧​

  • Docker 容器化，仅绑定 127.0.0.1，由 Nginx 对外
  • Let's Encrypt HTTPS（Certbot）
  • LiteLLM 无数据库 模式：纯转发网关
  • 定时备份 Open WebUI 卷至 Cloudflare R2（infra-backup）
  • 备份失败可通过 Resend 邮件告警（run-all.sh）

当前已接入模型族（示例）​

以 /root/litellm/config.yaml 为准，典型包括：

对外名称后端
gpt-5.1 / gpt-5-mini / gpt-5.1-codex-maxOpenAI
gemini-2.5-flash / gemini-2.5-proGoogle Gemini
claude-sonnet-4.5 / claude-haiku-4.5Anthropic
deepseek-chat / deepseek-reasonerDeepSeek
glm-4.7 / glm-4.5-flash智谱 Z.AI

新增模型：编辑 config.yaml 后执行 bash /root/litellm/operation.sh 重建容器。