開源

Zyphra 釋出 ZYFA 加速 AMD 晶片推論

Zyphra 釋出開源 ZYFA 注意力核心，支援 AMD MI355X。測試顯示其 FP8 核心比 AMD AITER 快 1.16 至 1.76 倍，且誤差降低。

由 AI 依據 1 家媒體的報導整理

出處

最新

  1. 開源

    Buoyant 推出開源推論控制平面 Kinference

    Buoyant 發布了基於 Apache 2.0 授權的開源推論控制平面 Kinference，專為 Kubernetes 和 vLLM 設計。該工具提供宣告式路由策略、感知 KV 快取的負載平衡及租戶指標，在測試中將中位 TTFT 降低 95%。

    MarkTechPost

  2. 開源

    Ricursive 發布開放模型 Ripple-65B

    Ricursive Intelligence 推出 650 億參數的開放權重模型 Ripple-65B Preview。該模型採用 Apache 2.0 授權，在 TerminalBench 2.1 編碼基準測試中，其表現為美國開源模型之冠。

    THE DECODER

全部新聞 → · 版權屬原作者