5月21日消息,投资银行(Evercore ISI)发布最新AI渠道调研报告指出,一线AI工程师对英伟达GPU的评估标准正在发生转变。
由于功耗和散热成本激增,超大规模数据中心正在加速转向自研定制ASIC和替代加速器。预测到2028年,英伟达在AI推理市场的份额恐将下滑至50%。
目前AI行业工作负载的95%已被推理需求占据,AI工程师的芯片购买标准也已从最大吞吐量和带宽全面转向每代币成本、投资回报率、电力消耗、散热效率以及整体利用率。
此前,摩根士丹利的报告指出,建造英伟达Blackwell GPU数据中心的成本是定制AI芯片的两倍,但其每瓦性能高出多达八倍。
然而,英伟达此前宣称的35倍性能提升并未打动一线AI工程师。相反,行业普遍认为英伟达70%的毛利率过高。
为了改善整体经济效益,工程师更愿意选择ASIC或足够好的替代方案。目前AMD、谷歌TPU、亚马逊云科技Trainium、微软Azure Maia以及各类SRAM芯片性能正在不断提升。
基础设施供应商Nebius专家也证实,由于Groq等加速器能提供更高通量,已成为企业的新选择。

丁丁打折网©版权所有,未经许可严禁复制或镜像 ICP证: 湘ICP备2023003002号-11
Powered by 丁丁打折网本站为非营利性网站,本站内容均来自网络转载或网友提供,如有侵权或夸大不实请及时联系我们删除!本站不承担任何争议和法律责任!
技术支持:丁丁网 dddazhe@hotmail.com & 2010-2020 All
rights reserved