ollama/ollama
Thiết lập và chạy với Kimi-K2.6, GLM-5.2, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma và các mẫu khác.
README
Ollama
Bắt đầu xây dựng với các mô hình mở.
Tải xuống
macOS
curl -fsSL https://ollama.com/install.sh | sh
hoặc tải xuống theo cách thủ công
cửa sổ
irm https://ollama.com/install.ps1 | iex
hoặc tải xuống theo cách thủ công
Linux
curl -fsSL https://ollama.com/install.sh | sh
Docker
quan chức Hình ảnh Ollama Docker ollama/ollama có sẵn trên Trung tâm Docker.
Thư viện
cộng đồng
Bắt đầu
ollama
Bạn sẽ được nhắc chạy mô hình hoặc kết nối Ollama với các tác nhân hoặc ứng dụng hiện có của mình, chẳng hạn như Claude Code, OpenClaw, OpenCode , Codex, Copilot, và hơn thế nữa
Mã hóa
Để khởi chạy một tích hợp cụ thể:
ollama launch claude
Tích hợp được hỗ trợ bao gồm Claude Code, Codex, Copilot CLI, DeepSeek Dây nịt, Droidvà Mã mở.
Trợ lý AI
sử dụng OpenClaw để biến Ollama thành trợ lý AI cá nhân trên WhatsApp, Telegram, Slack, Discord, v.v.:
ollama launch openclaw
Trò chuyện với người mẫu
Chạy và trò chuyện với đá quý 4:
ollama run gemma4
Xem Ollama.com/library để có danh sách đầy đủ.
Xem hướng dẫn bắt đầu nhanh để biết thêm chi tiết.
Còn lại API
Ollama có REST API để chạy và quản lý mô hình.
curl http://localhost:11434/api/chat -d '{
"model": "gemma4",
"messages": [{
"role": "user",
"content": "Why is the sky blue?"
}],
"stream": false
}'
Xem tài liệu API cho tất cả các điểm cuối.
Python
pip install ollama
from ollama import chat
response = chat(model='gemma4', messages=[
{
'role': 'user',
'content': 'Why is the sky blue?',
},
])
print(response.message.content)
JavaScript
npm i ollama
import ollama from "ollama";
const response = await ollama.chat({
model: "gemma4",
messages: [{ role: "user", content: "Why is the sky blue?" }],
});
console.log(response.message.content);
Phụ trợ được hỗ trợ
- Llama.cpp dự án được thành lập bởi Georgi Gerganov.
Tài liệu
Tích hợp cộng đồng
Bạn muốn thêm dự án của bạn? Mở một yêu cầu kéo.
Giao diện trò chuyện
Web
- Mở WebUI - Giao diện AI tự lưu trữ, có thể mở rộng
- mã não - Không gian làm việc AI được kết nối
- LibreChat - Bản sao ChatGPT nâng cao với sự hỗ trợ của nhiều nhà cung cấp
- Trò chuyện thùy - Khung trò chuyện hiện đại với hệ sinh thái plugin (tài liệu)
- Tiếp theoTrò chuyện - Giao diện người dùng ChatGPT đa nền tảng (tài liệu)
- Perplexica - Công cụ tìm kiếm được hỗ trợ bởi AI, giải pháp thay thế Perplexity mã nguồn mở
- AGI lớn - Bộ AI dành cho chuyên gia
- Giao diện người dùng web Lollms - Giao diện web đa mô hình
- Trò chuyệnOllama - Chatbot với nền tảng kiến thức
- GPT sinh học - Nền tảng AI tại chỗ
- Giao diện người dùng Chatbot - Giao diện web kiểu ChatGPT
- Hollama - Giao diện web tối thiểu
- hộp trò chuyện - Máy khách AI trên máy tính để bàn và web
- trò chuyện - Ứng dụng web trò chuyện dành cho nhóm
- Ollama RAG Chatbot - Trò chuyện với nhiều tệp PDF bằng RAG
- Máy khách dựa trên Tkinter - Máy khách để bàn Python
Máy tính để bàn
- Dify.AI - Nền tảng phát triển ứng dụng LLM
- Bất cứ điều gìLLM - Ứng dụng AI tất cả trong một cho Mac, Windows và Linux
- người giúp việc - Máy khách di động và máy tính để bàn đa nền tảng
- hóm hỉnh - Ứng dụng máy tính để bàn AI dành cho Mac, Windows và Linux
- Xưởng Anh Đào - Máy khách để bàn đa nhà cung cấp
- Ứng dụng Ollama - Máy khách đa nền tảng cho máy tính để bàn và thiết bị di động
- PyGPT - Trợ lý máy tính để bàn AI cho Linux, Windows và Mac
- Alpaca - Máy khách GTK4 cho Linux và macOS
- SwiftTrò chuyện - Đa nền tảng bao gồm iOS, Android và Apple Vision Pro
- mê hoặc - Máy khách macOS và iOS gốc
- Á hậu RWKV - Á hậu máy tính để bàn đa mô hình
- Ollama Tìm kiếm lưới - Đánh giá và so sánh các mô hình
- macai - ứng dụng khách macOS cho Ollama và ChatGPT
- Studio AI - IDE máy tính để bàn đa nhà cung cấp
- Dây cương - Hỗ trợ điều chỉnh tham số và mô hình lý luận
- ConfiChat - Tập trung vào quyền riêng tư với mã hóa tùy chọn
- LLocal.in - Máy khách để bàn Electron
- TâmMac - Ứng dụng trò chuyện AI cho Mac
- Msty - Máy khách để bàn đa mô hình
- BoltAI cho Mac - Ứng dụng trò chuyện AI cho Mac
- IntelliBar - Trợ lý hỗ trợ AI cho macOS
- Kerlig AI - Trợ lý viết AI cho macOS
- Hillnote - Không gian làm việc AI đầu tiên của Markdown
- Trí nhớ hoàn hảo AI - Năng suất AI được cá nhân hóa theo màn hình và lịch sử cuộc họp
Điện thoại di động
- Ollama Trò chuyện trên Android - Một cú nhấp chuột Ollama trên Android
SwiftChat, Enchanted, Maid, Ollama App, Reins và ConfiChat được liệt kê ở trên cũng hỗ trợ nền tảng di động.
Biên tập và phát triển mã
- Cline - Tiện ích mở rộng VS Code cho mã hóa nhiều tệp/toàn bộ kho lưu trữ
- Tiếp tục - Trợ lý mã nguồn mở AI cho mọi IDE
- Vô hiệu - Trình soạn thảo mã nguồn mở AI, thay thế Cursor
- Copilot cho Obsidian - Trợ lý AI cho Obsidian
- song sinh - Trò chuyện thay thế Copilot và Copilot
- khách hàng gptel Emacs - Ứng dụng khách LLM cho Emacs
- Ollama Copilot - Sử dụng Ollama làm GitHub Copilot
- GPT địa phương Obsidian - AI cục bộ cho Obsidian
- Khách hàng Ellama Emacs - Công cụ LLM cho Emacs
- quỹ đạo - Trình soạn thảo văn bản không cần cấu hình với tính năng hoàn thành tab Ollama
- Hoàn thành AI ST - Trợ lý AI Sublime Text 4
- Mã VT - Tác nhân mã hóa thiết bị đầu cuối dựa trên Rust với Tree-sitter
- QodeHỗ trợ - Trợ lý mã hóa AI cho Qt Creator
- Bộ công cụ AI dành cho VS Code - Tiện ích mở rộng VS Code chính thức của Microsoft
- Mở thông dịch viên - Giao diện ngôn ngữ tự nhiên cho máy tính
Thư viện & SDK
- LiteLLM - Hợp nhất API cho hơn 100 nhà cung cấp LLM
- Hạt nhân ngữ nghĩa - Điều phối AI của Microsoft SDK
- LangChain4j - Java LangChain (ví dụ)
- LangChainGo - Đi LangChain (ví dụ)
- AI mùa xuân - Hỗ trợ AI framework mùa xuân (tài liệu)
- LangChain và LangChain.js với ví dụ
- Ollama cho Ruby - Thư viện Ruby LLM
- bất kỳ-LLM - Giao diện LLM hợp nhất của Mozilla
- OllamaSharp cho .NET - .NET SDK
- LangChuỗiRỉ Sét - Rust LangChain (ví dụ)
- Đại lý-Flex cho Java - Khung tác nhân Java (ví dụ)
- Thuốc tiên LangChain - Thuốc tiên LangChain
- Ollama-rs cho Rust - Rust SDK
- LangChain cho .NET - .NET LangChain (ví dụ)
- chromem-go - Truy cập cơ sở dữ liệu vectơ với phần nhúng Ollama (ví dụ)
- LangChuỗiPhi tiêu - Phi tiêu LangChain
- LlmLốc xoáy - Giao diện C# hợp nhất cho nhiều API suy luận
- Ollama4j cho Java - Java SDK
- Ollama cho Laravel - Tích hợp Laravel
- Ollama cho Swift - Swift SDK
- LlamaIndex và LlamaIndexTS - Khung dữ liệu cho ứng dụng LLM
- đống cỏ khô - Khung đường ống AI
- Firebase Genkit - Khung AI của Google
- Ollama-hpp cho C++ - C++ SDK
- Nhắc nhởTools.jl - Bộ công cụ Julia LLM (ví dụ)
- Ollama cho R - rollama - R SDK
- Khóa cảng - Cổng AI
- Thùng thử nghiệm - Thử nghiệm dựa trên container
- LPhant - Khung AI PHP
Khung & Đại lý
- AutoGPT - Nền tảng tác nhân AI tự động
- phi hành đoànAI - Khung điều phối đa tác nhân
- Đại lý sợi - Xây dựng tác nhân dựa trên mô hình của AWS
- Mèo Cheshire - Khung trợ lý AI
- bất kỳ đại lý nào - Giao diện khung tác nhân hợp nhất của Mozilla
- Stakpak - Đại lý DevOps nguồn mở
- hexabot - Trình tạo AI đàm thoại
- Thần kinh SAN - Điều phối đa tác nhân (tài liệu)
RAG & Cơ sở kiến thức
- RAGFlow - Công cụ RAG dựa trên sự hiểu biết sâu sắc về tài liệu
- R2R - Công cụ mã nguồn mở RAG
- MaxKB - Chatbot RAG sẵn sàng sử dụng
- Tối thiểu - Tại chỗ hoặc cục bộ hoàn toàn RAG
- Máy băm nhỏ - Giao diện AI với Haystack RAG
- ARGO - RAG và nghiên cứu sâu về Mac/Windows/Linux
- Lưu trữ - Thư viện tài liệu hỗ trợ RAG
- Casibase - Nền tảng kiến thức AI với RAG và SSO
- Súp Não - Máy khách gốc với RAG và tự động hóa đa tác nhân
Bot & Nhắn tin
- LangBot - Bot nhắn tin đa nền tảng với các đại lý và RAG
- AstrBot - Chatbot đa nền tảng với RAG và plugin
- Discord-Ollama Chat Bot - TypeScript Bot bất hòa
- Ollama Bot Telegram - Điện tín bot
- LLM Bot Telegram - Telegram bot để nhập vai
Nhà ga & CLI
- aichat - LLM CLI tất cả trong một với Shell Assistant, RAG và các công cụ AI
- oterm - Ứng dụng khách đầu cuối cho Ollama
- gollama - Trình quản lý mô hình dựa trên cờ vây cho Ollama
- tlm - Vỏ cục bộ Copilot
- tenere - TUI cho LLM
- ParLlama - TUI cho Ollama
- LLM-Ollama - Plugin cho Bộ dữ liệu của LLM CLI
- ShellOracle - Gợi ý lệnh Shell
- LLM-X - Ứng dụng web tiến bộ cho LLM
- cmdh - Ngôn ngữ tự nhiên cho các lệnh shell
- VT - Ứng dụng trò chuyện AI đa phương thức tối thiểu
Năng suất & ứng dụng
- AppFlowy - Không gian làm việc hợp tác AI, giải pháp thay thế Notion tự lưu trữ
- Ống màn - Ghi âm màn hình và mic 24/7 với tính năng tìm kiếm được hỗ trợ bởi AI
- rung cảm - Ghi chép và phân tích các cuộc họp
- Hỗ trợ trang - Tiện ích mở rộng của Chrome để duyệt web được hỗ trợ bởi AI
- Tâm trí bản địa - Trợ lý AI trình duyệt riêng tư trên thiết bị
- Ollama Pháo đài - Proxy bảo mật cho Ollama
- 1Bảng điều khiển - Quản lý máy chủ Linux dựa trên web
- Viết sách - Trình soạn thảo văn bản có tích hợp Ollama
- QA-Thí điểm - Hiểu biết về kho mã GitHub
- Tiện ích mở rộng Raycast - Ollama trong Raycast
- Vẽ tranh Droid - Ứng dụng vẽ tranh tích hợp AI
- Quán rượu thanh thản - Ứng dụng nhập vai AI
- EDM của người Maya - Quản lý tài liệu với quy trình làm việc Ollama
- TagSpaces - Quản lý tập tin với Gắn thẻ AI
Khả năng quan sát & giám sát
- ý kiến - Gỡ lỗi, đánh giá và giám sát các ứng dụng LLM
- OpenLIT - Giám sát gốc OpenTelemetry cho Ollama và GPU
- âm lịch - Khả năng quan sát LLM với phân tích và mặt nạ PII
- Langfuse - Khả năng quan sát mã nguồn mở LLM
- mật ong - Khả năng quan sát và đánh giá AI cho các đại lý
- Theo dõi dòng chảy ML - Khả năng quan sát mã nguồn mở LLM
Cơ sở dữ liệu & nhúng
- pgai - PostgreSQL dưới dạng cơ sở dữ liệu vectơ (hướng dẫn)
- Tâm tríDB - Kết nối Ollama với hơn 200 nền tảng dữ liệu
- chromem-go - Cơ sở dữ liệu vector có thể nhúng cho Go (ví dụ)
- chuột túi - Máy khách SQL được hỗ trợ bởi AI
Cơ sở hạ tầng & Triển khai
đám mây
- Đám mây của Google
- Fly.io
- Koyeb
- Bến cảng - Bộ công cụ LLM được đóng gói với Ollama làm chương trình phụ trợ mặc định
Người quản lý gói
Dự án cùng danh mục
f.k.a. Lời nhắc ChatGPT tuyệt vời. Chia sẻ, khám phá và thu thập lời nhắc từ cộng đồng. Nguồn mở và miễn phí — tự lưu trữ cho tổ chức của bạn với sự riêng tư hoàn toàn.
🤗 Transformers: khung định nghĩa mô hình cho các mô hình học máy tiên tiến ở dạng văn bản, hình ảnh, âm thanh và mô hình đa phương thức, cho cả suy luận và đào tạo.
Giao diện AI thân thiện với người dùng (Hỗ trợ Ollama, OpenAI API, ...)
Suy luận LLM trong C/C++
21 bài học, bắt đầu xây dựng bằng AI sáng tạo
Triển khai LLM giống ChatGPT trong PyTorch từ đầu, từng bước