Kimi 发布 2.8 万亿参数模型 K3,权重将开放
Moonshot AI 发布 Kimi K3:这是一款具备原生视觉能力、100 万 token 上下文窗口的 2.8 万亿参数模型。模型采用 Kimi Delta Attention、Attention Residuals 与稀疏 MoE 架构,官方称相较 Kimi K2 的整体 scaling efficiency 提升约 2.5 倍。
K3 已在 Kimi.com、Kimi Work、Kimi Code 和 API 上线,初始默认使用最高推理强度;完整权重计划于 2026 年 7 月 27 日发布。官方案例称,其在 GPU 内核优化任务中将一项 AttnRes 训练操作的前向加反向耗时从 283.6 毫秒降至 114.4 毫秒。