Jan
janhq/jan
完全脱机运行的 ChatGPT 式桌面 App，内置模型下载与 llama.cpp 引擎，也能切换到云端 API。
为什么选它对不想碰终端的人最友善的本地 LLM 方案，Tauri 打包、体积小，可同时当本地 API 服务器。
安装
适合用来
- 从 HuggingFace 下载 Llama、Gemma、Qwen 等模型并离线聊天
- 切换到 OpenAI、Anthropic、Mistral、Groq 等云端模型
- 在 localhost:1337 提供 OpenAI 兼容 API 给其他程序使用
- 创建自定义助手，并通过 MCP 扩展 agent 能力
怎么开始
- macOS 运行 brew install --cask jan，或从 jan.ai、GitHub Releases 下载对应系统的安装包
- 打开 Jan，下载一个本地模型或填入云端 API 密钥
- 开始对话，需要时在设置中启用本地 API 服务器
使用前须知
macOS 需要 13.6 以上，建议 3B 模型 8GB 内存、7B 模型 16GB、13B 模型 32GB；Windows 需要 10 以上。
以上由 AI 根据项目说明整理，实际用法请以官方文档为准。
同类工具
- rtk本地运行 · ★ 84.5k
CLI代理工具，可減少LLM的token消耗60-90%
- unsloth本地运行 · ★ 78.5k
本地运行和训练大型语言模型及扩散模型的图形界面应用
- Ollama本地运行 · ★ 185k
一行指令在本地下载并运行 Qwen、DeepSeek、Gemma、gpt-oss 等开放权重模型，并提供 OpenAI 兼容 API。
- Open WebUI本地运行 · ★ 157k
自架的 ChatGPT 式网页界面，可接 Ollama 与任何 OpenAI 兼容 API，内置 RAG、网页搜索、多用户与 MCP。
- Cherry Studio本地运行 · ★ 52.9k
跨平台桌面 AI 客户端，一个界面集成多家云端模型与本地 Ollama，内置知识库、MCP、agent 与 300+ 助手范本。
出处 GitHub · 更新于 2026年10月24日 · 版权属原作者