Unsloth là ứng dụng máy tính để bàn đầu tiên chạy và đào tạo các mô hình.

Tính năng • Bắt đầu nhanh • Sổ tay • Tài liệu

⚡ Bắt đầu

Tải xuống ứng dụng Unsloth Desktop gốc cho hệ điều hành của bạn:

Nền tảng	liên kết
cửa sổ	Tải xuống
macOS	Tải xuống
Linux / Ubuntu (deb)	Tải xuống
Linux (Hình ảnh ứng dụng)	Tải xuống
Linux (Arm64)	Tải xuống

Tải xuống từ cởi trói hoặc GitHub Bản phát hành.

Hoặc nếu bạn thích cài đặt thủ công:

macOS, Linux, WSL:

curl -fsSL https://unsloth.ai/install.sh | sh

Windows:

irm https://unsloth.ai/install.ps1 | iex

Cộng đồng:

• Bất hòa
• 𝕏 (Twitter)
• Reddit

⭐ Tính năng

Unsloth hoạt động trên Windows, Linux, WSL và macOS. Chúng tôi hỗ trợ Nhiều thiết lập GPU, NVIDIA, AMD, GPU Intel, CPU và Vulkan phụ trợ.

Chạy & Xây dựng với AI

• Chạy và đào tạo các mô hình LLM, khuếch tán, nhúng, âm thanh: Kimi K3, MiniMax-H3, Qwen3.8, nàng thơ tia sáng, DeepSeek-V4, đá quý 4.
• Đại lý & Công cụ: Sử dụng các mô hình cục bộ với Claude Code, Codexvà MCP, bao gồm cả việc gọi công cụ và thực thi mã.
• Tìm kiếm & RAG: Sử dụng tìm kiếm trên web riêng tư và không giới hạn, nghiên cứu sâu, tự động nén (cửa sổ ngữ cảnh cuộn) và RAG.
• Hình ảnh và video: Chạy và tập luyện hình ảnh và các mô hình phổ biến video hoặc đa phương thức
• Từ xa & LAN: Truy cập các mô hình cục bộ của bạn từ bất kỳ thiết bị nào trên mạng LAN hoặc từ xa thông qua bảo mật Cloudflare HTTPS.
• Kết nối: Phục vụ các mô hình thông qua một OpenAI tương thích API. Đồng thời kết nối đăng ký ChatGPT/Codex của bạn và nhà cung cấp đám mây

Đào tạo & Triển khai

• Tinh chỉnh: Đào tạo các mô hình LLM, khuếch tán, TTS và nhúng nhanh hơn gấp 2 lần với VRAM ít hơn 70% với không mất độ chính xác
• Hỗ trợ đầy đủ: Hỗ trợ học tăng cường, LoRA, QLoRA, tinh chỉnh đầy đủ, huấn luyện trước, RL, GRPO, DPO và FP8.
• Xuất & Triển khai: Xuất khẩu hoặc Triển khai các mô hình bao gồm GGUF, NVFP4, FP8 và nhiều định dạng khác.
• Bộ dữ liệu: Xây dựng bộ dữ liệu từ tệp PDF, CSV, tệp DOCX, v.v. với Công thức dữ liệu.

🚀 Bắt đầu giải trí

Bắt đầu giải trí kết nối Claude Code, Codex và các tác nhân khác tới các mô hình cục bộ bằng một lệnh.

unsloth start claude --model unsloth/Qwen3.8-27B-GGUF:UD-Q4_K_XL

đại lý	Lệnh
Claude Code	unsloth start claude
OpenAI Codex	unsloth start codex
Đại lý Hermes	unsloth start hermes
OpenClaw	unsloth start openclaw
Mã mở	unsloth start opencode

📥 Cài đặt

Unsloth có thể được sử dụng theo ba cách: Máy tính để bàn Unsloth, ứng dụng dành cho máy tính để bàn; Studio Unsloth, giao diện người dùng web; hoặc Lõi Unsloth, phiên bản dựa trên mã.

Máy tính để bàn Unsloth (được khuyến nghị)

Nền tảng	liên kết
cửa sổ	Tải xuống
macOS	Tải xuống
Linux / Ubuntu (deb)	Tải xuống
Linux (Hình ảnh ứng dụng)	Tải xuống
Linux (Arm64)	Tải xuống

Unsloth Studio (giao diện người dùng web)

macOS, Linux, WSL:

curl -fsSL https://unsloth.ai/install.sh | sh

Windows:

irm https://unsloth.ai/install.ps1 | iex

Khởi động

unsloth studio

HTTP Triển khai an toàn

unsloth studio --secure

Docker

Sử dụng của chúng tôi hình ảnh Docker unsloth/unsloth thùng chứa. Chạy:

docker run -d -e JUPYTER_PASSWORD="mypassword" \
  -p 8888:8888 -p 8000:8000 -p 2222:22 \
  -v $(pwd)/work:/workspace/work \
  --gpus all \
  unsloth/unsloth

Truy cập HTTPS & LAN từ xa

Các công cụ phía máy chủ được bật theo mặc định - vì vậy hãy cẩn thận! Giữ mật khẩu của bạn an toàn hoặc sử dụng --disable-tools khi tiếp xúc với Unsloth.

Truy cập HTTPS toàn cầu: Tạo liên kết Cloudflare miễn phí phục vụ Unsloth - bạn có thể truy cập liên kết trên toàn cầu (ngay cả trên điện thoại của mình!)

unsloth studio --secure

-H 0.0.0.0 và các cổng khác nhau cũng hoạt động:

unsloth studio -H 0.0.0.0 -p 8888

Truy cập mạng LAN (mạng gia đình): Settings > API keys > LAN access

Quản lý mật khẩu và khởi động không đầu

Bắt đầu không đầu:

UNSLOTH_STUDIO_PASSWORD='your-strong-password' unsloth studio --secure   # via env var

Đặt lại mật khẩu của bạn:

unsloth studio reset-password

Nhà phát triển, Hàng đêm, Gỡ cài đặt

Để xem hướng dẫn dành cho nhà phát triển, hàng đêm và gỡ cài đặt, v.v., hãy xem cài đặt nâng cao.

Unsloth Core (dựa trên mã)

Linux, WSL:

curl -LsSf https://astral.sh/uv/install.sh | sh
uv venv unsloth_env --python 3.13
source unsloth_env/bin/activate
uv pip install unsloth --torch-backend=auto

Windows:

winget install -e --id Python.Python.3.13
winget install --id=astral-sh.uv  -e
uv venv unsloth_env --python 3.13
.\unsloth_env\Scripts\activate
uv pip install unsloth --torch-backend=auto

AMD, Intel, DGX Spark, Blackwell:

Xem của chúng tôi Hướng dẫn về Blackwell và Hướng dẫn DGX Spark.
Để cài đặt Unsloth trên AMD và Intel GPU, hãy theo dõi chúng tôi Hướng dẫn AMD và Hướng dẫn Intel.

📒 Sổ tay miễn phí

Đào tạo miễn phí với sổ ghi chép của chúng tôi. Đọc của chúng tôi hướng dẫn. Thêm tập dữ liệu, chạy, sau đó triển khai mô hình đã đào tạo của bạn.

người mẫu	Sổ tay miễn phí	Hiệu suất	Sử dụng bộ nhớ
Studio Unsloth	♥️ Bắt đầu miễn phí
Đá quý 4 (E2B)	♥️ Bắt đầu miễn phí	nhanh hơn 1,5 lần	Giảm 50%
Qwen3.5 (4B)	♥️ Bắt đầu miễn phí	nhanh hơn 1,5 lần	Giảm 60%
gpt-oss (20B)	♥️ Bắt đầu miễn phí	nhanh hơn gấp 2 lần	Giảm 70%
Qwen3.5 GSPO	♥️ Bắt đầu miễn phí	nhanh hơn gấp 2 lần	Giảm 70%
gpt-oss (20B): GRPO	♥️ Bắt đầu miễn phí	nhanh hơn gấp 2 lần	Giảm 80%
Qwen3: GRPO nâng cao	♥️ Bắt đầu miễn phí	nhanh hơn gấp 2 lần	Giảm 70%
nhúnggemma (300M)	♥️ Bắt đầu miễn phí	nhanh hơn gấp 2 lần	Giảm 20%
Llama 3.1 (8B) Alpaca	♥️ Bắt đầu miễn phí	nhanh hơn gấp 2 lần	Giảm 70%
Llama 3.2 Đàm thoại	♥️ Bắt đầu miễn phí	nhanh hơn gấp 2 lần	Giảm 70%
Orpheus-TTS (3B)	♥️ Bắt đầu miễn phí	nhanh hơn 1,5 lần	Giảm 50%

• Xem tất cả sổ tay của chúng tôi cho: Kaggle, GRPO, TTS, nhúng & Tầm nhìn
• Xem tất cả các mô hình của chúng tôi và tất cả sổ ghi chép của chúng tôi
• Xem tài liệu chi tiết về Unsloth ở đây

🦥 Tin tức về Unsloth

• Đào tạo AMD: Đào tạo, chạy RL, trò chuyện và triển khai trên GPU AMD trên Windows, WSL và Linux. hướng dẫn
• Mô hình địa phương cho bất kỳ đại lý nào: Sử dụng unsloth start với Claude Code, Codex, Hermes, OpenCode, OpenClaw, v.v. thông qua các API tương thích với OpenAI- và Anthropic của Unsloth. hướng dẫn
• GLM-5.2: Chạy cục bộ mô hình mở ngữ cảnh 1M, tham số 744B của Z.ai với Unsloth Dynamic GGUF. hướng dẫn
• DeepSeek-V4: Chạy DeepSeek-V4-Flash cục bộ với hành vi gọi công cụ và nhiều lượt đã được sửa. hướng dẫn
• đá quý 4: Chạy và huấn luyện các mô hình văn bản, hình ảnh và âm thanh Gemma 4 với sự hỗ trợ QAT, MTP, GGUF và MLX. hướng dẫn
• máy chủ MCP: Kết nối các mô hình cục bộ với các tệp, ứng dụng, cơ sở dữ liệu và các công cụ bên ngoài thông qua Giao thức bối cảnh mô hình. hướng dẫn
• Mẫu mới: Qwen-AgentWorld, Ornith, Mã Kimi K2.7 và MiniMax M3

Thêm tin tức

• Kết nối: Kết hợp các mô hình cục bộ với nhà cung cấp API (OpenAI, Anthropic) hoặc máy chủ (vLLM, Ollama) trong cùng một giao diện. hướng dẫn
• Giới thiệu Unsloth Studio: giao diện người dùng web mới của chúng tôi để chạy và đào tạo LLM. Blog
• Khuếch tánGemma: Chạy và tinh chỉnh mô hình ngôn ngữ phổ biến của Google với khả năng suy luận nhanh hơn 1,8 lần trong Unsloth Studio. hướng dẫn
• Qwen3.6: Chạy và huấn luyện Qwen3.6 với MTP để suy luận nhanh hơn 1,4-2,2 lần và định lượng NVFP4 cho các GPU được hỗ trợ. hướng dẫn
• tàu hỏa MoE LLM nhanh hơn 12 lần với VRAM ít hơn 35% - DeepSeek, GLM, Qwen và gpt-oss. Blog
• Nhúng mô hình: Unsloth hiện hỗ trợ tinh chỉnh nhúng nhanh hơn khoảng 1,8-3,3 lần. Blog • Sổ tay
• Mới RL ngữ cảnh dài hơn 7 lần so với tất cả các thiết lập khác, thông qua thuật toán tạo khối mới của chúng tôi. Blog
• RoPE & MLP mới Hạt nhân Triton & Đệm miễn phí + Đóng gói: Đào tạo nhanh hơn gấp 3 lần và VRAM ít hơn 30%. Blog
• Bối cảnh 500K: Hiện có thể đào tạo mô hình 20B với ngữ cảnh >500K trên GPU 80GB. Blog
• FP8 & Tầm Nhìn RL: Giờ đây bạn có thể thực hiện FP8 & VLM GRPO trên GPU thông thường. Blog FP8 • Tầm nhìn RL

📥 Cài đặt nâng cao

Các hướng dẫn nâng cao dưới đây dành cho Unsloth Studio. Để cài đặt nâng cao Unsloth Core, xem tài liệu của chúng tôi.

Số lượt cài đặt dành cho nhà phát triển / Hàng đêm / Thử nghiệm: macOS, Linux, WSL:

Nhà phát triển cài đặt các bản dựng từ main chi nhánh, đây là nguồn mới nhất (hàng đêm).

git clone https://github.com/unslothai/unsloth
cd unsloth
./install.sh --local
unsloth studio -p 8888

Để cài đặt vào một vị trí biệt lập, hãy đặt UNSLOTH_STUDIO_HOME:

UNSLOTH_STUDIO_HOME="$PWD/.studio" ./install.sh --local
UNSLOTH_STUDIO_HOME="$PWD/.studio" unsloth studio -p 8888

Sau đó để cập nhật:

cd unsloth && git pull
./install.sh --local
unsloth studio -p 8888

Số lượt cài đặt dành cho nhà phát triển/hàng đêm/thử nghiệm: Windows PowerShell:

Nhà phát triển cài đặt các bản dựng từ main chi nhánh, đây là nguồn mới nhất (hàng đêm).

git clone https://github.com/unslothai/unsloth.git
cd unsloth
Set-ExecutionPolicy -Scope Process -ExecutionPolicy Bypass
.\install.ps1 --local
unsloth studio -p 8888

Để cài đặt vào một vị trí biệt lập, hãy đặt UNSLOTH_STUDIO_HOME:

$env:UNSLOTH_STUDIO_HOME="$PWD\.studio"; .\install.ps1 --local
$env:UNSLOTH_STUDIO_HOME="$PWD\.studio"; unsloth studio -p 8888

Sau đó để cập nhật:

cd unsloth; git pull
.\install.ps1 --local
unsloth studio -p 8888

Tùy chọn khởi chạy nâng cao

Bỏ qua PyTorch (chế độ chỉ GGUF):

curl -fsSL https://unsloth.ai/install.sh | UNSLOTH_NO_TORCH=1 sh

$env:UNSLOTH_NO_TORCH=1; irm https://unsloth.ai/install.ps1 | iex

Bỏ qua lời nhắc sau khi cài đặt khởi động Unsloth (hữu ích cho cài đặt tự động):

curl -fsSL https://unsloth.ai/install.sh | UNSLOTH_SKIP_AUTOSTART=1 sh

$env:UNSLOTH_SKIP_AUTOSTART=1; irm https://unsloth.ai/install.ps1 | iex

Ghim phiên bản Python:

curl -fsSL https://unsloth.ai/install.sh | UNSLOTH_PYTHON=3.12 sh

$env:UNSLOTH_PYTHON='3.12'; irm https://unsloth.ai/install.ps1 | iex

Cài đặt vào một vị trí tùy chỉnh với UNSLOTH_STUDIO_HOME:

curl -fsSL https://unsloth.ai/install.sh | UNSLOTH_STUDIO_HOME=/abs/path sh

$env:UNSLOTH_STUDIO_HOME='C:\path'; irm https://unsloth.ai/install.ps1 | iex

Trỏ bản dựng giao diện người dùng vào máy nhân bản/proxy npm của công ty với UNSLOTH_NPM_REGISTRY:

UNSLOTH_NPM_REGISTRY=https://artifactory.example.com/api/npm/npm/ ./install.sh --local

$env:UNSLOTH_NPM_REGISTRY='https://artifactory.example.com/api/npm/npm/'; .\install.ps1 --local

Nhóm luồng CPU gốc của Cap Unsloth trên các máy chủ lõi cao: UNSLOTH_CPU_THREADS=8 unsloth studio -p 8888.

Vulkan, phần phụ trợ Llama.cpp tùy chỉnh:

Bạn có thể buộc phụ trợ trong khi cài đặt:

export UNSLOTH_LLAMA_CPP_BACKEND=vulkan   # or cpu, cuda, rocm, auto
curl -fsSL https://unsloth.ai/install.sh | sh

$env:UNSLOTH_LLAMA_CPP_BACKEND="vulkan"   # or cpu, cuda, rocm, auto
irm https://unsloth.ai/install.ps1 | iex

Gỡ cài đặt

MacOS, WSL, Linux: curl -fsSL https://raw.githubusercontent.com/unslothai/unsloth/main/scripts/uninstall.sh | sh

Windows (PowerShell): irm https://raw.githubusercontent.com/unslothai/unsloth/main/scripts/uninstall.ps1 | iex

Để biết thêm thông tin, xem tài liệu của chúng tôi.

Xóa các tập tin mô hình

Bạn có thể xóa các tệp mô hình cũ khỏi biểu tượng thùng rác trong tìm kiếm mô hình hoặc bằng cách xóa thư mục mô hình được lưu trong bộ nhớ đệm có liên quan khỏi thư mục bộ đệm Hugging Face mặc định. Theo mặc định, HF sử dụng:

MacOS, Linux, WSL: ~/.cache/huggingface/hub/

Windows: %USERPROFILE%\.cache\huggingface\hub\

💚 Cộng đồng và liên kết

Loại	Liên kết
Bất hòa	Tham gia máy chủ Discord
r/unsloth Reddit	Tham gia cộng đồng Reddit
📚 Tài liệu & Wiki	Đọc tài liệu của chúng tôi
Twitter (còn gọi là X)	Theo dõi chúng tôi trên X
🔮 Mô hình của chúng tôi	Danh mục Unsloth
✍️ Blog	Đọc blog của chúng tôi

Trích dẫn

Bạn có thể trích dẫn repo Unsloth như sau:

@software{unsloth,
  author = {Daniel Han, Michael Han and Unsloth team},
  title = {Unsloth},
  url = {https://github.com/unslothai/unsloth},
  year = {2023}
}

Nếu bạn đã đào tạo một người mẫu bằng 🦥Unsloth, bạn có thể sử dụng nhãn dán thú vị này!  

Giấy phép

Unsloth sử dụng mô hình cấp phép kép của Apache 2.0 và AGPL-3.0. Gói Unsloth cốt lõi vẫn được cấp phép theo Apache 2.0, trong khi một số thành phần tùy chọn nhất định, chẳng hạn như Giao diện người dùng Unsloth Studio được cấp phép theo giấy phép nguồn mở AGPL-3.0.

Cấu trúc này giúp hỗ trợ quá trình phát triển Unsloth đang diễn ra trong khi vẫn giữ cho dự án là nguồn mở và cho phép hệ sinh thái rộng lớn hơn tiếp tục phát triển.

Cảm ơn bạn

• các Thư viện Llama.cpp cho phép người dùng chạy và lưu mô hình bằng Unsloth
• Nhóm Hugging Face và thư viện của họ: máy biến áp và TRL
• PyTorch và Ngọn đuốc AO nhóm vì những đóng góp của họ
• NVIDIA cho họ NeMo DataDesigner thư viện và những đóng góp của họ
• Và tất nhiên đối với mỗi người đã đóng góp hoặc đã sử dụng Unsloth!