近期,AMD 举办 Mini AI 工作站创新分享沙龙,展示分享了AMD在推动AI创新方面的动态,表露出AMD在推动AI“最后一公里”落地的雄心壮志。
打造AI时代“树莓派”,让每个人玩转大模型
AMD大中华区市场营销副总裁纪朝晖清晰地表达了AMD的愿景:“我们的目标是像互联网时代的树莓派那样,把锐龙AI Max+ 395变成AI时代的普及者。”能有这样的雄心壮志,是因为“苏妈”Lisa Su博士的判断:“AI是50年以来最重要的技术变革,甚至超过了互联网。”
然而,强大的AI能力与普通开发者乃至中小型企业之间,始终隔着一道由高昂成本和专业门槛筑成的高墙。一方面是动辄数十万、需要专业机房维护的AI服务器;另一方面是算力有限、难以承载百亿参数大模型的个人电脑。市场中存在一个巨大的空白地带:一个既能提供强大AI推理能力,又具备亲民价格和友好工作环境的平台。
在这样的背景下,AMD基于锐龙AI Max+ 395的强劲实力,提出了AMD Mini AI工作站这个破局之道。“可以说它是生逢其时,需要这么一个工作组级的AI Agent的推理机,或者工作组级的AI工作站。”AMD 对 Mini AI工作站信心满满。
目前,搭载锐龙 AI Max+ 395 的 Mini AI 工作站已有超过 20 款产品,在这次沙龙活动现场展出了来自Abee、惠普、极摩客、铭凡、天钡、六联、零刻、希未等厂商搭载锐龙AI Max+ 395 Mini AI工作站的产品:
除了搭建Mini AI工作站这样的硬件平台,AMD也在赋能开发者。纪朝晖表示,AMD已经与RlPPLE AI合作上线了专属于AI MAX+ 395 mini AI 工作站开发者的平台,向开发者提供开箱即用的开发套件、详尽的工具文档、丰富的教程模板以及活跃的开发者社区,将AI开发的门槛降至最低,真正赋能每一位AI爱好者、开发者和超级个体。
产品形态迅速壮大,高性能凸显真正价值
AMD大中华区家用产品市场总监廖金宁以翔实的技术细节与生动的产品故事,解读了AMD在AI全民化的雄心壮志。他首先从CPU、GPU和AI软硬件三个维度,清晰地剖析了锐龙 AI Max+ 395处理器的硬核实力。
廖金宁强调,锐龙AI Max+ 395处理器不仅CPU性能强悍,其40 CU的GPU配置更是远超传统轻薄本的8-12 CU。而在迎接AI时代这方面,锐龙 AI Max+ 395处理器也做好了准备。
首先,锐龙AI Max+ 395处理器内置的50 Tops算力NPU,在Windows 11 AI+ PC的定义中,毫无疑问是顶级的配置。其次,凭借架构定义优势,锐龙AI Max+ 395处理器可使用至高96GB的GPU专用显存。这意味着搭载锐龙AI Max+ 395处理器的机型,不仅能有非常强大的端侧和边缘侧的AI推理能力,而且可以加载更大容量的模型,实现更高精度的推理效果。
符合AI发展趋势,千行百业中释放潜力
AMD 大中华区AI市场经理昝仲阳则是从AI技术演进的前沿视角,深刻揭示了AMD Mini AI工作站在当下节点和未来的价值。
他指出,当前的AI模型正从稠密模型向MoE(混合专家)架构演进,这类模型参数量巨大,激活参数相对较小,这一其发展趋势与锐龙AI Max+ 395的硬件特性形成了完美契合——既需要大显存来装载模型,又需要足够的的GPU算力来保证推理速度。
与此同时,AI Agent和MCP(模型上下文协议)等应用的兴起,使得对超长上下文的需求激增,同样极大地消耗着显存。昝仲阳分享了一个实际测试:“如果去做GPT-OSS-120B,如果我不做任何上下文的配置,默认4096tokens,加载模型的话可能只要60G的显存就够。但是如果要用到MCP,我就要把我的上下文拉到最高132K(开启flash attention和KV cache量化的情况下),显存立马飙到了80G。”
在锐龙AI Max+ 395上,这个120B参数的大模型不仅能够完整加载,还能达到30-40 Token/s的推理速度。与此同时,以AMD Mini AI工作站的售价来衡量,其本地部署对数据隐私的保护,以及Token费用的有效节省,能在个人、团队、企业和智能空间等多个层级中,不仅保障了安全,还能带来显著的经济效益。
不止于此,AMD还持续在推动全AI生态链的创新。依托AMD 全球和AMD中国AI应用创新联盟超过百家优秀的ISV合作伙伴,AMD正不遗余力地在硬件和软件上共同推动,开发出面向具体行业的AI应用,推动AI“最后一公里”落地,将AI的潜力真正在千行百业中释放出来。
丁丁打折网©版权所有,未经许可严禁复制或镜像 ICP证: 湘ICP备20009233号-2
Powered by 丁丁打折网本站为非营利性网站,本站内容均来自网络转载或网友提供,如有侵权或夸大不实请及时联系我们删除!本站不承担任何争议和法律责任!
技术支持:丁丁网 dddazhe@hotmail.com & 2010-2020 All
rights reserved