Open WebUI 使用 Docker Compose 安裝，串接 GitHub Models、Gemini 模型聊天

前言

「Open WebUI」是我目前用過最美觀、功能最齊全、更新快速的 LLM 聊天 UI 開源軟體了，寫這篇文章的當下，它在 Github 上的星星已經有 77k 左右了！

Open WebUI 是一個自託管的 AI 平台，可以完全離線運行，目前支援 Ollama 和 OpenAI 格式的 API 可串接。

除了最基本的對話聊天之外，它還有像是 RAG 功能、網絡搜索、Prompt 樣板、Artifacts (類似 Canvas 畫布功能)、記憶功能、執行 Python 程式碼、語音輸入/語音輸出，再進階一點的 Tool、Function、Pipeline 功能 (可以自己寫或下載別人分享的來用)。
其他還有可多人使用 (當然也有權限限制設定)、聊天共享、可設定模型生成參數、下載 Ollama 模型、模型評估競技場、串接圖像生成……等等。

想要快速看它有哪些重點功能，可前往這篇：https://docs.openwebui.com/features/

說真的還蠻完整，而且功能更新很快，最重要的是我覺得 UI 很符合我的喜好~

* 本文使用 Open WebUI 版本為：v0.5.16
* 本文使用環境為 Windows 11 WSL

安裝 Open WebUI

透過 Docker Compose 安裝

你可以簡單透過 Python pip 安裝，或者使用 Docker 安裝 (推薦)，我這邊要使用 Docker 的 Docker Compose 來示範安裝。

* 更完整的安裝說明，請參考官方文件：https://docs.openwebui.com/getting-started/quick-start/

檔案結構：

.
├─ data
└─ docker-compose.yaml

先建立一個 data 空資料夾，為了儲存 Open WebUI 資料；
再來新增一個 docker-compose.yaml 檔案：

1
2
3
4
5
6
7
8
9
services:
  open-webui:
    image: ghcr.io/open-webui/open-webui:0.5.16
    container_name: open-webui
    volumes:
      - ./data:/app/backend/data
    ports:
      - 8080:8080
    restart: always

(非必要) 如果是在無法連接外網的環境，可以試試添加以下環境變數，他就不會去自動連網下載：

1
2
3
4
5
    environment:
      - RAG_EMBEDDING_MODEL_AUTO_UPDATE=False
      - RAG_RERANKING_MODEL_AUTO_UPDATE=False
      - WHISPER_MODEL_AUTO_UPDATE=False
      # - OFFLINE_MODE=True  # 離線模式

(非必要) 如果你的環境需要使用代理 (proxy) 的話，可以這樣添加：

1
2
3
4
    environment:
      - http_proxy="http://123.123.123.123:3128"
      - https_proxy="http://123.123.123.123:3128"
      - no_proxy="abc.com"

接下來只需要下指令來創建和啟動容器：

1
docker-compose up -d  # -d 表示後台運行

如果需要停止：

1
docker-compose down

1
2
3
4
docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

# 你也可以指定版本號
# docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:0.5.16

第一次要等一段時間，他需要先下載模型和資料。 (我自己是大概 8 分鐘左右網站才進得去，我家網速比較慢😅)

在 console log 中會看到這樣的東西：

2025-02-22 10:31:47 INFO  [open_webui.env] Embedding model set: sentence-transformers/all-MiniLM-L6-v2
2025-02-22 10:31:48 WARNI [langchain_community.utils.user_agent] USER_AGENT environment variable not set, consider setting it to identify your requests.
2025-02-22 10:31:52 Dropping unique constraint: uq_id_user_id
2025-02-22 10:31:52 Dropping unique index: tag_id
2025-02-22 10:31:52 
2025-02-22 10:31:52  ██████╗ ██████╗ ███████╗███╗   ██╗    ██╗    ██╗███████╗██████╗ ██╗   ██╗██╗
2025-02-22 10:31:52 ██╔═══██╗██╔══██╗██╔════╝████╗  ██║    ██║    ██║██╔════╝██╔══██╗██║   ██║██║
2025-02-22 10:31:52 ██║   ██║██████╔╝█████╗  ██╔██╗ ██║    ██║ █╗ ██║█████╗  ██████╔╝██║   ██║██║
2025-02-22 10:31:52 ██║   ██║██╔═══╝ ██╔══╝  ██║╚██╗██║    ██║███╗██║██╔══╝  ██╔══██╗██║   ██║██║
2025-02-22 10:31:52 ╚██████╔╝██║     ███████╗██║ ╚████║    ╚███╔███╔╝███████╗██████╔╝╚██████╔╝██║
2025-02-22 10:31:52  ╚═════╝ ╚═╝     ╚══════╝╚═╝  ╚═══╝     ╚══╝╚══╝ ╚══════╝╚═════╝  ╚═════╝ ╚═╝
2025-02-22 10:31:52 
2025-02-22 10:31:52 
2025-02-22 10:31:52 v0.5.16 - building the best open-source AI user interface.
2025-02-22 10:31:52 
2025-02-22 10:31:52 https://github.com/open-webui/open-webui
2025-02-22 10:31:52 
2025-02-22 10:39:42 
Fetching 30 files:   0%|          | 0/30 [00:00<?, ?it/s]
Fetching 30 files:   3%|▎         | 1/30 [00:00<00:15,  1.88it/s]
Fetching 30 files:   7%|▋         | 2/30 [00:00<00:12,  2.24it/s]
Fetching 30 files:  23%|██▎       | 7/30 [05:58<22:10, 57.85s/it]
Fetching 30 files:  30%|███       | 9/30 [06:05<14:14, 40.70s/it]
Fetching 30 files:  37%|███▋      | 11/30 [06:24<09:49, 31.01s/it]
Fetching 30 files:  60%|██████    | 18/30 [06:32<02:33, 12.78s/it]
Fetching 30 files:  73%|███████▎  | 22/30 [07:21<01:41, 12.63s/it]
Fetching 30 files:  77%|███████▋  | 23/30 [07:49<01:39, 14.27s/it]
Fetching 30 files: 100%|██████████| 30/30 [07:49<00:00, 15.65s/it]
2025-02-22 10:39:42 INFO:     Started server process [1]
2025-02-22 10:39:42 INFO:     Waiting for application startup.
2025-02-22 10:39:42 INFO:     Application startup complete.
2025-02-22 10:39:42 INFO:     Uvicorn running on http://0.0.0.0:8080 (Press CTRL+C to quit)

等出現 Uvicorn running 後，就可以在瀏覽器輸入 http://localhost:8080 前往 Open WebUI ~