Mở WebUI 👋

WebUI mở là một có thể mở rộngNền tảng AI tự lưu trữ giàu tính năng và thân thiện với người dùng được thiết kế để hoạt động hoàn toàn ngoại tuyến. Nó hỗ trợ nhiều trình chạy LLM khác nhau như Ollama và API tương thích với OpenAI, với công cụ suy luận tích hợp cho RAG, biến nó thành một giải pháp triển khai AI mạnh mẽ.

Đam mê AI nguồn mở? Tham gia nhóm của chúng tôi →

[!MẸO]
Đang tìm kiếm một Kế hoạch doanh nghiệp? – Nói chuyện với đội ngũ bán hàng của chúng tôi ngay hôm nay!

Nhận khả năng nâng cao, bao gồm chủ đề tùy chỉnh và xây dựng thương hiệu, Hỗ trợ Thỏa thuận cấp độ dịch vụ (SLA), Phiên bản hỗ trợ dài hạn (LTS)và nhiều hơn nữa!

Để biết thêm thông tin, hãy chắc chắn kiểm tra của chúng tôi Mở tài liệu WebUI.

Các tính năng chính của WebUI mở ⭐

• 🚀 Thiết lập dễ dàng: Cài đặt liền mạch qua pip, uv, Docker hoặc Kubernetes (kubectl, kustomize hoặc helm), với :ollama và :cuda hình ảnh được gắn thẻ có sẵn để triển khai vùng chứa.

• 🤝 Tích hợp mô hình rộng và API: Kết nối mọi API tương thích với OpenAI cùng với các kiểu máy Ollama cục bộ. Trỏ URL API vào LMStudio, GroqCloud, Mistral, OpenRouter, vLLM, v.v. để trộn và kết hợp các nhà cung cấp một cách tự do.

• 🔐 RBAC chi tiết & Nhóm người dùng: Quản trị viên xác định vai trò, nhóm và quyền chi tiết, cấp cho mỗi người dùng quyền truy cập chính xác mà họ cần. Bảo mật theo mặc định, với trải nghiệm phù hợp cho mỗi nhóm.

• 🧩 Hỗ trợ plugin: Mở rộng WebUI mở với Bộ lọc, hành động, Ống, Công cụvà Kỹ năng. Kết nối các dịch vụ bên ngoài thông qua MCP, MCPOvà Máy chủ công cụ OpenAPI. Xây dựng tích hợp tùy chỉnh, giới hạn tỷ lệ, luồng phê duyệt, kết nối dữ liệu, v.v.

• 🤖 Người mẫu & Đại lý: Bao bọc bất kỳ mô hình cơ sở nào bằng các hướng dẫn, công cụ và kiến ​​thức tùy chỉnh để xây dựng các tác nhân chuyên biệt. Hỗ trợ các biến động, kiểm soát quyền truy cập của mỗi người dùng/nhóm và nhập cài đặt trước của cộng đồng thông qua Cộng đồng WebUI mở.

• 📝 Ghi chú: Một không gian làm việc dành riêng cho nội dung bên ngoài các cuộc hội thoại. Soạn thảo bằng trình chỉnh sửa phong phú, sử dụng AI để viết lại văn bản đã chọn và đính kèm ghi chú vào bất kỳ cuộc trò chuyện nào để đưa vào toàn bộ ngữ cảnh.

• 📢 Kênh: Không gian chia sẻ theo thời gian thực, nơi nhóm của bạn và các mô hình AI cộng tác trên cùng một dòng thời gian. Gắn thẻ các mô hình để phác thảo hoặc phê bình, với các chủ đề, phản ứng, ghim và kiểm soát truy cập.

• 🧠 Bộ nhớ liên tục: AI ghi nhớ thông tin thực tế về bạn qua các cuộc trò chuyện, truyền tải ngữ cảnh từ cuộc trò chuyện này sang cuộc trò chuyện tiếp theo.

• ✅ Quy trình làm việc trực tiếp và luồng tin nhắn: Xem quá trình xây dựng và làm việc của AI thông qua danh sách kiểm tra trong thời gian thực. Xếp hàng tin nhắn trong khi AI vẫn đang phản hồi; họ tự động gửi khi nó sẵn sàng.

• 📅 Lịch & Lập kế hoạch AI: Lịch cá nhân và lịch chia sẻ được tích hợp sẵn với chế độ xem tháng/tuần/ngày, sự kiện định kỳ, mã màu, người tham dự và lời nhắc. Các mô hình quản lý lịch trình của bạn một cách trò chuyện thông qua chức năng gọi hàm gốc.

• ⏱️ Tự động hóa: Lên lịch nhắc nhở để chạy theo lịch định kỳ, với các lần chạy hiển thị trên lịch của bạn và mỗi lần chạy hoàn thành sẽ liên kết ngược lại cuộc trò chuyện mà nó tạo ra.

• 📱 Thiết kế đáp ứng & PWA: Trải nghiệm liền mạch trên máy tính để bàn, máy tính xách tay và thiết bị di động, với Ứng dụng web tiến bộ mang lại cảm giác giống như ứng dụng gốc và truy cập ngoại tuyến trên localhost.

• ✒️🔢 Hỗ trợ Markdown và LaTeX đầy đủ: Khả năng Markdown và LaTeX toàn diện để tương tác phong phú hơn.

• 🎤📹 Cuộc gọi thoại/video rảnh tay: Cuộc gọi thoại và video tích hợp với nhiều nhà cung cấp tính năng Chuyển giọng nói thành văn bản (Local Whisper, OpenAI, Deepgram, Azure) và công cụ Chuyển văn bản thành giọng nói (Azure, ElevenLabs, OpenAI, Transformers, WebAPI).

• 💾 Lưu trữ hiện vật liên tục: Bộ lưu trữ khóa-giá trị tích hợp API dành cho các tạo phẩm, cho phép ghi nhật ký, trình theo dõi, bảng xếp hạng và các công cụ cộng tác với phạm vi dữ liệu cá nhân và chia sẻ.

• 📚 Tích hợp RAG cục bộ: Thế hệ tăng cường truy xuất được hỗ trợ bởi 9 cơ sở dữ liệu vectơ và nhiều công cụ trích xuất nội dung (Tika, Docling, Document Intelligence, Mistral OCR, PaddleOCR-vl, trình tải bên ngoài). Hỗ trợ tìm kiếm kết hợp (BM25 + vector) với chế độ sắp xếp lại và toàn ngữ cảnh. Tải tài liệu vào cuộc trò chuyện hoặc kéo chúng từ thư viện của bạn bằng # lệnh.

• 🔍 Tìm kiếm trên web cho RAG: Tìm kiếm trên web thông qua hàng chục nhà cung cấp bao gồm SearXNG, Google PSE, Brave Search, Kagi, Mojeek, Tavily, Perplexity, Firecrawl, serpstack, serper, Serply, DuckDuckGo, SearchApi, SerpApi, Bing, Jina, Exa, Sougou, Azure AI Searchvà Ollama Cloud, đưa kết quả trực tiếp vào cuộc trò chuyện.

• 🌐 Khả năng duyệt web: Kéo các trang web vào cuộc trò chuyện với # lệnh theo sau là URL hoặc để mô hình tự tìm nạp chúng khi cần.

• 🎨 Tạo & Chỉnh sửa Hình ảnh: Tạo và chỉnh sửa hình ảnh bằng nhiều công cụ bao gồm OpenAI DALL·E, Gemini, ComfyUI (cục bộ) và AUTOMATIC1111 (cục bộ), hỗ trợ cả chỉnh sửa tạo và dựa trên lời nhắc.

• ⚙️ Cuộc trò chuyện đa mô hình: Thu hút nhiều mô hình cùng một lúc, khai thác song song các thế mạnh riêng của họ để có phản hồi tốt nhất có thể.

• 📊 Phân tích sử dụng & Đánh giá mô hình: Trang tổng quan dành cho quản trị viên theo dõi khối lượng tin nhắn, mức tiêu thụ mã thông báo và chi phí giữa người dùng và mô hình. Đánh giá các mô hình bằng đấu trường tích hợp, thử nghiệm A/B và bảng xếp hạng dựa trên ELO.

• 🗄️ Cơ sở dữ liệu & lưu trữ linh hoạt: Chọn SQLite (với mã hóa tùy chọn) hoặc PostgreSQL và lưu trữ tệp cục bộ hoặc trên S3, Google Cloud Storage hoặc Azure Blob Storage.

• 🧬 Hỗ trợ cơ sở dữ liệu vectơ nâng cao: Chọn từ 9 cơ sở dữ liệu vectơ: ChromaDB, PGVector, Qdrant, Milvus, Elaticsearch, OpenSearch, Pinecone, S3Vector và Oracle 23ai.

• 🪪 Xác thực và cấp phép doanh nghiệp: Tích hợp đầy đủ LDAP/Active Directory, SSO thông qua các tiêu đề đáng tin cậy và nhà cung cấp OAuth, đồng thời cung cấp tự động SCIM 2.0 cho các nhà cung cấp danh tính như Okta, Azure AD và Google Workspace.

• ☁️ Tích hợp tệp gốc trên nền tảng đám mây: Chọn tệp gốc trên Google Drive và OneDrive/SharePoint để nhập tài liệu liền mạch từ bộ lưu trữ đám mây của doanh nghiệp.

• 🔭 Khả năng quan sát sản xuất: Hỗ trợ OpenTelemetry tích hợp cho dấu vết, số liệu và nhật ký, cắm vào ngăn xếp giám sát hiện có của bạn.

• ⚖️ Khả năng mở rộng theo chiều ngang: Quản lý phiên được hỗ trợ bởi Redis và hỗ trợ WebSocket để triển khai nhiều nút, nhiều nhân viên đằng sau bộ cân bằng tải.

• 🌐🌍 Hỗ trợ đa ngôn ngữ: Sử dụng Open WebUI bằng ngôn ngữ ưa thích của bạn với sự hỗ trợ i18n. Chúng tôi đang tích cực tìm kiếm những người đóng góp để mở rộng phạm vi ngôn ngữ!

• 🌟 Cập nhật liên tục: Chúng tôi cam kết cải thiện Open WebUI bằng các bản cập nhật, bản sửa lỗi và tính năng mới thường xuyên.

• 🛡️ Quy trình bảo mật minh bạch: Các báo cáo bảo mật được phân loại, sửa chữa và xuất bản dưới dạng tư vấn mở thông qua quy trình tiết lộ có trách nhiệm được ghi lại. Xem của chúng tôi Chính sách bảo mật.

Bạn muốn tìm hiểu thêm về các tính năng của Open WebUI? Kiểm tra của chúng tôi Mở tài liệu WebUI để có cái nhìn tổng quan toàn diện!

Hệ sinh thái WebUI mở 🌐

WebUI mở là cốt lõi, được bao quanh bởi các ứng dụng và cơ sở hạ tầng đồng hành giúp mở rộng những gì AI của bạn có thể làm, nơi nó có thể tiếp cận và cách bạn chạy nó:

• 💻 Mở máy tính WebUI (mở-webui/máy tính): Một máy tính và tác nhân mã hóa độc lập, di động đầu tiên chạy trên máy bạn sở hữu. Tệp, thiết bị đầu cuối và git trong tab trình duyệt, có thể truy cập được từ điện thoại của bạn. Kết nối nó với Open WebUI dưới dạng mô hình hoặc tiếp cận nó từ Telegram, WhatsApp, v.v.

• ⚡ Mở thiết bị đầu cuối và Thiết bị đầu cuối (Doanh nghiệp) (mở-webui/open-terminal & mở-webui/thiết bị đầu cuối): Một môi trường điện toán tự lưu trữ cắm vào Open WebUI, cung cấp cho AI một nơi để viết mã, chạy mã, đọc đầu ra, sửa lỗi và lặp lại bên trong cuộc trò chuyện. Thiết bị đầu cuối cung cấp cho bạn các vùng chứa riêng biệt cho mỗi người dùng với thông tin xác thực, giới hạn tài nguyên và quy tắc mạng riêng biệt. Quản lý vòng đời tự động trên Docker hoặc Kubernetes.

• 🔄 ôib (mở-webui/oikb): Cung cấp Cơ sở Kiến thức của bạn từ hơn 45 nguồn (GitHub, Confluence, ServiceNow, Salesforce, Jira, Slack, SharePoint, Notion, v.v.), luôn đồng bộ hóa các công cụ mà nhóm của bạn đã sử dụng.

• 🖥️ Ứng dụng dành cho máy tính để bàn gốc (mở-webui/máy tính để bàn): Chạy Open WebUI dưới dạng ứng dụng gốc trên macOS, Windows và Linux. Thanh trò chuyện Spotlight trên toàn hệ thống có tính năng chụp ảnh màn hình, giọng nói nhấn để nói và suy luận hoàn toàn cục bộ tùy chọn thông qua công cụ Llama.cpp tích hợp sẵn.

Bạn muốn tìm hiểu thêm? Kiểm tra của chúng tôi Mở tài liệu WebUI để biết thêm chi tiết!

---

Chúng tôi vô cùng biết ơn sự hỗ trợ hào phóng của các nhà tài trợ. Những đóng góp của họ giúp chúng tôi duy trì và cải thiện dự án của mình, đảm bảo chúng tôi có thể tiếp tục cung cấp công việc có chất lượng cho cộng đồng của mình. Cảm ơn!

Cách cài đặt 🚀

Cài đặt qua Python pip 🐍

Có thể cài đặt WebUI mở bằng pip, trình cài đặt gói Python. Trước khi tiếp tục, hãy đảm bảo bạn đang sử dụng Python 3.11 để tránh các vấn đề tương thích.

1. Cài đặt WebUI mở: Mở terminal của bạn và chạy lệnh sau để cài đặt Open WebUI:

   pip install open-webui
   

2. Chạy WebUI mở: Sau khi cài đặt, bạn có thể khởi động Open WebUI bằng cách thực thi:

   open-webui serve
   

Thao tác này sẽ khởi động máy chủ Open WebUI mà bạn có thể truy cập tại HTTP://localhost:8080

Bắt đầu nhanh với Docker 🐳

[!LƯU Ý]
Xin lưu ý rằng đối với một số môi trường Docker nhất định, có thể cần có cấu hình bổ sung. Nếu bạn gặp phải bất kỳ sự cố kết nối nào, hướng dẫn chi tiết của chúng tôi về Mở tài liệu WebUI sẵn sàng hỗ trợ bạn.

[!CẢNH BÁO] Khi sử dụng Docker để cài đặt Open WebUI, hãy đảm bảo bao gồm -v open-webui:/app/backend/data trong lệnh Docker của bạn. Bước này rất quan trọng vì nó đảm bảo cơ sở dữ liệu của bạn được gắn đúng cách và ngăn ngừa mọi mất mát dữ liệu.

[!MẸO]
Nếu bạn muốn sử dụng Open WebUI có bao gồm Ollama hoặc tăng tốc CUDA, chúng tôi khuyên bạn nên sử dụng các hình ảnh chính thức của chúng tôi được gắn thẻ bằng một trong hai :cuda hoặc :ollama. Để kích hoạt CUDA, bạn phải cài đặt Bộ công cụ chứa Nvidia CUDA trên hệ thống Linux/WSL của bạn.

Cài đặt với cấu hình mặc định

• Nếu Ollama có trên máy tính của bạn, sử dụng lệnh này:

  docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
  

• Nếu Ollama ở trên Máy chủ khác, sử dụng lệnh này:

  Để kết nối với Ollama trên máy chủ khác, hãy thay đổi OLLAMA_BASE_URL tới URL của máy chủ:

  docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=https://example.com -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
  

• Để chạy Open WebUI với sự hỗ trợ của Nvidia GPU, sử dụng lệnh này:

  docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda
  

Chỉ cài đặt cho mức sử dụng OpenAI API

• Nếu bạn chỉ đang sử dụng OpenAI API, sử dụng lệnh này:

  docker run -d -p 3000:8080 -e OPENAI_API_KEY=your_secret_key -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
  

Cài đặt Open WebUI với gói hỗ trợ Ollama

Phương pháp cài đặt này sử dụng một hình ảnh vùng chứa duy nhất kết hợp Open WebUI với Ollama, cho phép thiết lập hợp lý thông qua một lệnh duy nhất. Chọn lệnh thích hợp dựa trên thiết lập phần cứng của bạn:

• Với sự hỗ trợ của GPU: Sử dụng tài nguyên GPU bằng cách chạy lệnh sau:

  docker run -d -p 3000:8080 --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama
  

• Chỉ dành cho CPU: Nếu bạn không sử dụng GPU, thay vào đó hãy sử dụng lệnh này:

  docker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama
  

Cả hai lệnh đều tạo điều kiện thuận lợi cho việc cài đặt sẵn của cả Open WebUI và Ollama, đảm bảo rằng bạn có thể thiết lập và chạy mọi thứ một cách nhanh chóng.

Sau khi cài đặt, bạn có thể truy cập Open WebUI tại HTTP://localhost:3000. Thưởng thức! 😄

Các phương pháp cài đặt khác

Chúng tôi cung cấp nhiều lựa chọn thay thế cài đặt khác nhau, bao gồm các phương pháp cài đặt gốc không phải Docker, Docker Compose, Kustomize và Helm. Ghé thăm của chúng tôi Mở tài liệu WebUI hoặc tham gia của chúng tôi Cộng đồng bất hòa để được hướng dẫn toàn diện.

Khắc phục sự cố

Gặp phải vấn đề kết nối? của chúng tôi Mở tài liệu WebUI đã giúp bạn được bảo hiểm. Để được hỗ trợ thêm và tham gia cộng đồng sôi động của chúng tôi, hãy truy cập Mở sự bất hòa WebUI.

Mở WebUI: Lỗi kết nối máy chủ

Nếu bạn gặp sự cố kết nối, nguyên nhân thường là do vùng chứa WebUI Docker không thể truy cập vào máy chủ Ollama tại 127.0.0.1:11434 (host.Docker.internal:11434) bên trong vùng chứa . Sử dụng --network=host gắn cờ trong lệnh Docker của bạn để giải quyết vấn đề này. Lưu ý cổng thay đổi từ 3000 thành 8080 dẫn đến link: http://localhost:8080.

Ví dụ lệnh Docker:

docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Luôn cập nhật cài đặt Docker của bạn

Kiểm tra Hướng dẫn cập nhật của chúng tôi có sẵn trong Mở tài liệu WebUI.

Sử dụng nhánh Dev 🌙

[!CẢNH BÁO] :dev nhánh chứa các tính năng và thay đổi không ổn định mới nhất. Bạn phải tự chịu rủi ro khi sử dụng nó vì nó có thể có lỗi hoặc tính năng chưa hoàn chỉnh.

Nếu bạn muốn dùng thử các tính năng tiên tiến mới nhất và thấy ổn với tình trạng không ổn định thường xuyên, bạn có thể sử dụng :dev gắn thẻ như thế này:

docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui --add-host=host.docker.internal:host-gateway --restart always ghcr.io/open-webui/open-webui:dev

Chế độ ngoại tuyến

Nếu bạn đang chạy Open WebUI trong môi trường ngoại tuyến, bạn có thể đặt HF_HUB_OFFLINE biến môi trường thành 1 để ngăn chặn nỗ lực tải xuống mô hình từ internet.

export HF_HUB_OFFLINE=1

Tiếp theo là gì? 🌟

Khám phá các tính năng sắp tới trong lộ trình của chúng tôi trong Mở tài liệu WebUI.

Giấy phép 📜

Dự án này chứa mã theo nhiều giấy phép. Cơ sở mã hiện tại bao gồm các thành phần được cấp phép theo Giấy phép WebUI mở với yêu cầu bổ sung để duy trì nhãn hiệu "Open WebUI" cũng như các đóng góp trước đó theo giấy phép ban đầu tương ứng của chúng. Để biết bản ghi chi tiết về các thay đổi giấy phép và các điều khoản áp dụng cho từng phần của mã, vui lòng tham khảo LICENSE_HISTORY. Để biết chi tiết cấp phép đầy đủ và cập nhật, vui lòng xem GIẤY PHÉP và LICENSE_HISTORY tập tin.

Hỗ trợ 💬

Nếu bạn có bất kỳ câu hỏi, đề xuất hoặc cần hỗ trợ nào, vui lòng mở một vấn đề hoặc tham gia cùng chúng tôi Mở cộng đồng WebUI Discord để kết nối với chúng tôi! 🤝

An ninh 🛡️

Nếu bạn cho rằng mình đã tìm thấy lỗ hổng bảo mật hoặc điều gì đó không nên tiết lộ công khai, vui lòng liên hệ một cách bí mật thông qua chương trình tiết lộ có trách nhiệm của chúng tôi trên GitHub. Chúng tôi chỉ chấp nhận báo cáo thông qua GitHub, không thông qua bất kỳ nền tảng nào khác. Cảm ơn bạn đã giúp chúng tôi giữ an toàn cho Open WebUI!

Lịch sử ngôi sao

---

Tạo bởi Timothy Jaeeryang Baek - Hãy cùng nhau làm cho Open WebUI trở nên tuyệt vời hơn nữa! 💪