今日凌晨，月之暗面正式推出新一代大模型 Kimi K3，消息一经发布便在海内外引发广泛关注。
该模型参数规模达到 2.8 万亿，支持 100 万 token 的超长上下文窗口，并原生具备视觉理解能力，是目前全球参数体量最大的开源模型。月之暗面称其为迄今综合能力最强的版本。
特斯拉首席执行官马斯克在相关评测报道的评论区留言：“Impressive（令人印象深刻）。”
值得一提的是，这已经是马斯克第二次公开对 Kimi 表达认可。今年 3 月，Kimi 团队发布了一篇改进 ResNet 残差连接的技术论文，马斯克当时便转发并称赞“Impressive work from Kimi”。
彼时 Kimi 官方账号曾俏皮地回复“你的火箭造的也不错”，此次则是第二次获得马斯克的赞许。
据 Kimi 方面介绍，Kimi K3 基于 KDA 混合线性注意力机制（Kimi Delta Attention）与注意力残差（Attention Residuals）技术构建，原生支持视觉理解，并具备 100 万 token 上下文窗口，是全球首个开源的三万亿级别模型，专为长程编程、知识工作与复杂推理等前沿智能场景设计。
模型采用了 Stable LatentMoE 框架，可在 896 个专家中高效激活 16 个，从而提升稀疏混合专家架构的效率；再搭配全新的架构优化及训练、数据方案，相比前代 K2，整体扩展效率提升约 2.5 倍。
在月之暗面公布的评测中，Kimi K3 的综合智能水平仅次于 Claude Fable 5 和 GPT-5.6 Sol 这两款顶尖闭源模型，整体性能则优于其他主流大模型。
尤其是在编程开发、视觉理解、深度知识处理和超长文本任务等方面表现突出。在软件工程场景下，Kimi K3 能够结合源代码、渲染结果、运行日志与测试反馈，对代码进行迭代优化，覆盖前端开发、游戏制作、基础设施优化和科研编程等各类开发工作。
此次发布的一大亮点，是 Kimi K3 完成了“模型自主设计专用芯片”的概念验证。
据悉，在连续 48 小时的自主智能体运行过程中，Kimi K3 依托开源 EDA 工具与 Nangate 45nm 工艺库，独立完成了一款适配自身轻量化 nano 模型的芯片设计、迭代优化与验证全流程。
该验证芯片面积 4mm²，包含 146 万个标准单元、0.277MB SRAM，搭载融合反量化的 INT4 MAC 阵列，可在 100MHz 频率下实现时序收敛，持续解码吞吐量达到每秒 8700 token 以上，直观展现了 Kimi K3 的长程自主处理能力。
客观来看，这款验证芯片采用 45nm 成熟工艺和 100MHz 主频，其整体硬件规格与量产级专用芯片仍有明显差距。行业主流的芯片研发往往需要数年周期以及数百乃至上千名工程师的通力协作，和本次 48 小时快速原型验证不在同一研发层级。但这一尝试依然具备里程碑意义，印证了顶尖长文本大模型在复杂工程与硬件研发领域全新的应用潜力。
Claude 与 GPT 均为闭源模型，而在三万亿参数级别，Kimi K3 是首个正式开放权重的开源大模型。
月之暗面官方宣布，完整模型权重将于 7 月 27 日向社区开放。届时，全球开发者都可以下载并运行这套 2.8 万亿参数的大模型。
这或许正是马斯克那句称赞背后更深层的分量：不仅仅在于惊人的参数规模，更在于将万亿级大模型完整开源的魄力。
（举报）
发表评论取消回复