LocalAI
mudler/LocalAI
在任何硬體上運行任何 AI 模型，無需 GPU
為什麼選它支持多種模型和硬體，靈活且隱私保護
安裝
- GitHub
- mudler/LocalAI
- 星數
- ★ 50.2k
- 授權
- MIT
- 語言
- Go
- 最近更新
- 2026年11月7日
- 分類
- 本機執行
適合用來
- 運行各種AI模型
- 無需GPU的隱私保護
- 支援多種硬體
- 靈活的API相容性
怎麼開始
- 安裝Docker
- 執行docker run命令
- 訪問8080端口
- 加載模型
使用前須知
需要Docker環境，支援多種硬體與模型。
以上由 AI 依據專案說明整理，實際用法請以官方文件為準。
相關新聞
- 政策
Altman：DRAM應優先供應資料中心
OpenAI執行長Altman主張應將全球有限DRAM產能優先保留給雲端資料中心。他認為個人電腦本地端跑AI效率低下，建議資源應集中於雲端以最大化運算效益。
- 產品
聯想開天發布信創AI主機
聯想開天推出首款信創AI主機，搭載兆芯KX-7000處理器與後摩智能力擎LQ50 NPU。該機提供160TOPS本地AI算力，支持35B量級大模型，並預裝天禧AI Pro智能體，面向企業市場。
- 開源
開源工具 VoiceStudio 提供本地 AI 語音功能
一款名為 VoiceStudio 的免費開源工具發布，支援在 Windows 上本地運行。該工具作為 ElevenLabs 的替代方案，提供語音複製、音訊轉文字等多語言 AI 語音處理功能。
- 晶片
奧特曼：DRAM應優先供數據中心
OpenAI CEO Sam Altman 指出，在全球 DRAM 供應緊張之際，將記憶體集中部署於數據中心比分散在個人電腦上更有效。他認為個資化 AI 推論會導致資源閒置，應優先滿足整體算力需求以降低成本。
同類工具
- private-gpt本機執行 · ★ 57.6k
在本地模型上運行私有AI應用的完整API層，支援RAG、工具、MCP等
- codebase-memory-mcp本機執行 · ★ 48.3k
本地程式碼智能工具，連接程式碼、文件與基礎設施於持久圖中。
- meetily本機執行 · ★ 32.5k
本地處理的AI會議助手，提供實時語音轉文字與會議摘要
- llamafile本機執行 · ★ 26.5k
透過單一檔案分發和運行大型語言模型
- Ollama本機執行 · ★ 186k
一行指令在本機下載並執行 Qwen、DeepSeek、Gemma、gpt-oss 等開放權重模型，並提供 OpenAI 相容 API。
出處 GitHub · 更新於 2026年11月3日 · 版權屬原作者