淘寶MNN開源0.3B手機模型 脫機推理達350token/s
淘寶MNN團隊開源MNN-Pocket-0.3B模型,針對手機端低算力場景優化。該模型在iPhone 18 Pro上實現350 token/s解碼速度,峰值內存低於300MB,旨在為行動應用提供離線端側AI能力。
由 AI 依據 1 家媒體的報導整理
出處
- IT之家閱讀原文 ↗
最新
- 開源
美團龍貓開源 LongCat-2.5 模型
美團龍貓正式開源原生多模態模型 LongCat-2.5,採用 MIT 協議。該模型總參數 1.6 萬億,支援百萬級上下文,針對國產算力晶片優化,強化長程智能體任務與視覺編碼能力。
- 開源
Reason Machines 開源 AI 代理程式 Git 伺服器 Aspen
Reason Machines 開源了專為 AI 代理程式設計的 Git 伺服器 Aspen。該專案採用自我託管模式,並在測試中展現單台八核心伺服器每秒 567 次推送的效率,強化了 AI 開發基礎設施。
- 開源
0sec Labs 開源 AI 安全工具 0
0sec Labs 開源了 AI 安全框架 0,支援代碼審查、滲透測試與逆向工程。該工具支援瀏覽器、命令行及 MCP 伺服器執行,並允許使用者自訂模型供應商,強化本地安全防護能力。
全部新聞 → · 版權屬原作者