开源离线知识工具 Project NOMAD 发布
一款名为 Project NOMAD 的免费开源工具发布,允许用户在离线状态下搜索维基百科、教科书、电子书及医疗资料,并整合离线 AI 助手。该工具旨在为无网络环境或灾难场景提供信息存取,强调本地化知识检索与 AI 辅助功能。
由 AI 根据 1 家媒体的报道整理
出处
- GIGAZINE阅读原文 ↗
最新
- 开源
Buoyant 推出开源推理控制平面 Kinference
Buoyant 发布了基于 Apache 2.0 授权的开源推理控制平面 Kinference,专为 Kubernetes 和 vLLM 设计。该工具提供声明式路由策略、感知 KV 缓存的负载均衡及租户指标,在测试中将中位 TTFT 降低 95%。
- 开源
Ricursive 发布开放模型 Ripple-65B
Ricursive Intelligence 推出 650 亿参数的开放权重模型 Ripple-65B Preview。该模型采用 Apache 2.0 授权,在 TerminalBench 2.1 编码基准测试中,其表现为美国开源模型之冠。
- 开源
Zyphra 发布 ZYFA 加速 AMD 芯片推理
Zyphra 发布开源 ZYFA 注意力内核,支持 AMD MI355X。测试显示其 FP8 内核比 AMD AITER 快 1.16 至 1.76 倍,且误差降低。
全部新闻 → · 版权属原作者