跳至主要内容

Open WebUI：本地大型語言模型 (LLM) 視覺化平台

Open WebUI 是目前開源社群中功能最完整、操作體驗最接近 ChatGPT 的本地 AI 前端介面。它能直接串接本地端運行的 Ollama 或遠端 OpenAI 相容 API，提供私密且強大的生成式 AI 對話環境。

主要特色​

  1. 直覺的模型管理：在網頁介面中即可一鍵下載、切換或刪除 Ollama 模型（如 Llama 3、Gemma 2、Qwen 等）。
  2. RAG 私有知識庫問答：支援上傳 PDF、Office 文件或文字檔案，透過向量檢索實現針對私有資料的精準問答。
  3. 即時聯網搜尋 (Web Search)：可整合 SearXNG、DuckDuckGo 等搜尋引擎，讓本地模型具備即時上網搜尋最新資訊的能力。
  4. 多模態與語音支援：支援圖片辨識分析、語音對話輸入（Whisper）與語音朗讀輸出（TTS）。
  5. 使用者管理與權限：支援多使用者帳號、角色權限分級以及客製化 Prompt 提示詞庫分享。

部署步驟 (Docker Compose)​

在已安裝 Ollama 的主機或獨立 VM 中執行：

1. 建立目錄​

sudo mkdir -p /opt/stacks/open-webui/data
cd /opt/stacks/open-webui

2. 建立 compose.yaml​

services:
  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    container_name: open-webui
    restart: unless-stopped
    ports:
      - "8080:8080"
    volumes:
      - ./data:/app/backend/data
    environment:
      # 填入 Ollama 服務的實際存取位址 (若在同一宿主機可用 host.docker.internal)
      - OLLAMA_BASE_URL=http://192.168.1.10:11434
      # 啟用 Web 介面模型下載管理功能
      - ENABLE_OLLAMA_API=true
      # 時區設定
      - TZ=Asia/Taipei

3. 啟動服務​

sudo docker compose up -d

初始設定​

  1. 瀏覽器前往 http://<VM_IP>:8080。
  2. 系統會要求註冊第一組帳號，此帳號會自動取得最高管理員 (Admin) 權限。
  3. 登入後，點擊左下角頭像 -> 管理員面板 (Admin Panel) -> 設定 (Settings) -> 連線 (Connections)，確認 Ollama API 連線狀態正常。
  4. 在對話介面頂部選單選擇欲使用的模型，即可開始私密對話。

相關連結​