开源

开源离线知识工具 Project NOMAD 发布

一款名为 Project NOMAD 的免费开源工具发布,允许用户在离线状态下搜索维基百科、教科书、电子书及医疗资料,并整合离线 AI 助手。该工具旨在为无网络环境或灾难场景提供信息存取,强调本地化知识检索与 AI 辅助功能。

由 AI 根据 1 家媒体的报道整理

出处

最新

  1. 开源

    Buoyant 推出开源推理控制平面 Kinference

    Buoyant 发布了基于 Apache 2.0 授权的开源推理控制平面 Kinference,专为 Kubernetes 和 vLLM 设计。该工具提供声明式路由策略、感知 KV 缓存的负载均衡及租户指标,在测试中将中位 TTFT 降低 95%。

    MarkTechPost

  2. 开源

    Ricursive 发布开放模型 Ripple-65B

    Ricursive Intelligence 推出 650 亿参数的开放权重模型 Ripple-65B Preview。该模型采用 Apache 2.0 授权,在 TerminalBench 2.1 编码基准测试中,其表现为美国开源模型之冠。

    THE DECODER

  3. 开源

    Zyphra 发布 ZYFA 加速 AMD 芯片推理

    Zyphra 发布开源 ZYFA 注意力内核,支持 AMD MI355X。测试显示其 FP8 内核比 AMD AITER 快 1.16 至 1.76 倍,且误差降低。

    MarkTechPost

全部新闻 → · 版权属原作者