丁丁打折网 - 网友优惠券分享网站,有688999个用户

京东优惠券 小米有品优惠券

当前位置 : 首页>电脑数码>国产GPU也能跑万亿级大模型!海光DCU Day0适配Kimi K3:896专家并行不卡顿

国产GPU也能跑万亿级大模型!海光DCU Day0适配Kimi K3:896专家并行不卡顿

类别:电脑数码 发布时间:2026-07-28 18:57

7月28日消息,海光信息宣布已完成Kimi K3在海光DCU平台的全栈适配与性能验证,这意味着国产GPU也能跑万亿级大模型了。

海光DCU从底层算子到推理引擎完成了全栈优化,模型代码无需任何调整即可运行,迁移成本几乎为零,开发者拿到算力即可上线部署,兼容性出色。

国产GPU也能跑万亿级大模型!海光DCU Day0适配Kimi K3:896专家并行不卡顿

针对KDA注意力和896专家MoE架构,海光完成算子级定制优化。即使896个专家并行工作,在百万级上下文的重载场景下推理依然高效稳定,不会卡顿。

场景落地方面,K3在海光DCU上可支撑长程智能体工程、视觉闭环创作和自主芯片设计等前沿场景,国产算力用户也可以跑通万亿级开源模型。

需要提及的是,月之暗面在发布K3前,已联合海光、曙光完成完整兼容性调优。曙光基于海光DCU硬件栈,打通了Kimi MoE架构的分布式训练与多卡并行推理链路。

海光DCU则通过底层硬件与软件栈的协同优化,在曙光8000集群上实现了长文本推理的稳定运行。

官方实测显示,国产卡性能折损控制在12%以内,已达到商用部署标准。

国产GPU也能跑万亿级大模型!海光DCU Day0适配Kimi K3:896专家并行不卡顿

丁丁打折网©版权所有,未经许可严禁复制或镜像 ICP证: 湘ICP备2023003002号-11

Powered by 丁丁打折网本站为非营利性网站,本站内容均来自网络转载或网友提供,如有侵权或夸大不实请及时联系我们删除!本站不承担任何争议和法律责任!
技术支持:丁丁网 dddazhe@hotmail.com & 2010-2020 All rights reserved