丁丁打折网 - 网友优惠券分享网站,有688999个用户

京东优惠券 小米有品优惠券

当前位置 : 首页>电脑数码>中科曙光发布AI推理原生存储FN Neo:Token吞吐能力提升150%

中科曙光发布AI推理原生存储FN Neo:Token吞吐能力提升150%

类别:电脑数码 发布时间:2026-09-21 18:55

9月21日消息,中科曙光发布全新迭代升级的AI推理原生存储FN Neo。

该产品可将分散在不同计算节点的推理缓存统一管理、共享复用,应对长文本、多用户同时访问带来的压力,让已有计算成果得到更充分利用。

实测数据显示,FN Neo可实现模型首词出现时间(TTFT)缩减73%,较本地NVMe更快;延迟表现、吞吐量和多请求并发数相比传统本地NVMe均有大幅提升。

整体Token吞吐能力提升150%,有效压缩用户交互等待时长,强化系统并发服务能力。

针对生产级AI业务7 x 24小时不间断运行需求,FN Neo拥有99.999%高可靠性,多重故障防护机制保障推理业务连续不中断。

此外,产品兼容主流推理框架与多元组网环境,企业无需大规模改造现有系统即可完成部署,在复用现有推理生态前提下提质增效,有力支撑大模型、智能体规模化生产落地。

中科曙光发布AI推理原生存储FN Neo:Token吞吐能力提升150%

丁丁打折网©版权所有,未经许可严禁复制或镜像 ICP证: 湘ICP备2023003002号-11

Powered by 丁丁打折网本站为非营利性网站,本站内容均来自网络转载或网友提供,如有侵权或夸大不实请及时联系我们删除!本站不承担任何争议和法律责任!
技术支持:丁丁网 dddazhe@hotmail.com & 2010-2020 All rights reserved