unsloth
unslothai/unsloth
本地运行和训练大型语言模型及扩散模型的图形界面应用
为什么选它支持多种模型格式和GPU加速
安装
- GitHub
- unslothai/unsloth
- 星数
- ★ 78.5k
- 许可
- Apache-2.0
- 语言
- Python
- 分类
- 本地运行
适合用来
- 在本地运行 Qwen、DeepSeek、Gemma 等 LLM、GGUF 和扩散模型
- 以更少显存微调 LLM、TTS、embedding 等模型，支持 LoRA、QLoRA、GRPO、DPO
- 用 unsloth start claude 等命令让 Claude Code、Codex 使用本地模型
- 把模型导出为 GGUF、FP8 等格式，或通过 OpenAI 兼容 API 提供服务
怎么开始
- 运行 curl -fsSL https://unsloth.ai/install.sh | sh（Windows 用 PowerShell 命令，或下载 Unsloth Desktop）
- 打开 Unsloth，选择要运行或训练的模型
- 要接入 agent 时运行 unsloth start claude 或 unsloth start codex
使用前须知
支持 Windows、Linux、WSL 和 macOS，可使用 NVIDIA、AMD、Intel GPU、多 GPU、CPU 或 Vulkan 后端。
以上由 AI 根据项目说明整理，实际用法请以官方文档为准。
同类工具
- rtk本地运行 · ★ 84.5k
CLI代理工具，可減少LLM的token消耗60-90%
- Ollama本地运行 · ★ 185k
一行指令在本地下载并运行 Qwen、DeepSeek、Gemma、gpt-oss 等开放权重模型，并提供 OpenAI 兼容 API。
- Open WebUI本地运行 · ★ 157k
自架的 ChatGPT 式网页界面，可接 Ollama 与任何 OpenAI 兼容 API，内置 RAG、网页搜索、多用户与 MCP。
- Cherry Studio本地运行 · ★ 52.9k
跨平台桌面 AI 客户端，一个界面集成多家云端模型与本地 Ollama，内置知识库、MCP、agent 与 300+ 助手范本。
- Jan本地运行 · ★ 45.1k
完全脱机运行的 ChatGPT 式桌面 App，内置模型下载与 llama.cpp 引擎，也能切换到云端 API。
出处 GitHub · 更新于 2026年10月24日 · 版权属原作者