8月19日消息,阿里巴巴达摩院于2026年3月发布的RISC-V旗舰CPU玄铁C950,近日成功原生运行通义千问3.8-27B大模型。这是RISC-V架构芯片首次在不依赖GPU、无需模拟层的情况下,直接运行270亿参数级别的AI模型。
玄铁C950采用台积电5nm工艺制造,是一颗64位服务器级RISC-V处理器。芯片集成64个计算核心,每8核一组通过高速AMBA CHI总线互联,主频最高3.2GHz。芯片内部直接集成了矩阵加速引擎与向量加速引擎,专为AI推理负载优化。
该芯片采用8指令译码宽度和16级流水线设计,访存带宽较上一代玄铁C920提升4倍以上。单核通用性能在SPECint2006基准测试中突破70分,刷新全球RISC-V CPU性能纪录。
在玄铁C950上运行通义千问3.8-27B模型时,解码速度达到30 token/s,首Token延迟控制在1.9秒以内。
相比之下,在传统GPU方案上运行270亿参数模型通常需要16GB至24GB显存。玄铁C950仅靠CPU加片上加速引擎即可完成推理,无需外接独立显卡。
与采用x86或ARM架构的芯片不同,RISC-V的开源特性让阿里巴巴无需支付高昂的授权费用。阿里巴巴同时控制着千问模型家族、云计算基础设施和玄铁芯片架构。
阿里巴巴从芯片设计到模型推理的全链条自主可控,意味着未来模型算子可根据硬件特性重新设计,后续芯片也能依据生产数据定制指令集。

丁丁打折网©版权所有,未经许可严禁复制或镜像 ICP证: 湘ICP备2023003002号-11
Powered by 丁丁打折网本站为非营利性网站,本站内容均来自网络转载或网友提供,如有侵权或夸大不实请及时联系我们删除!本站不承担任何争议和法律责任!
技术支持:丁丁网 dddazhe@hotmail.com & 2010-2020 All
rights reserved