目前几乎所有研发AI的公司,都在使用NVIDIA的高性能计算卡,包括上一代安培架构的A100以及这一代最强计算显卡H100。不过美国的芯片管控条例,禁止AMD和NVIDIA将GPU芯片传输速率高于600Gbps的产品出口到国内,所以实际上AMD和NVIDIA最新的旗舰级计算显卡,是无法卖给国内厂商的。
不过之前我们就说了,针对美国的禁令,NVIDIA自己也想出了一些办法,推出了800系列的计算显卡,包括上一代的A800和这一代的H800,别看型号数字提升了,但实际上它的性能却是下降了。800系列计算显卡,可以说是NVIDIA专门针对中国市场开发的计算用显卡,这个系列的计算卡,降低了芯片连接速率,让其无法激活美国的管控要求,这样就可以顺利将这些高性能计算显卡卖到国内了。
美国政府之所以要将芯片传输速率控制在600Gbps,是因为GPU的传输速率在AI的性能上是最重要的,系统必须移动大量数据来训练AI模型,例如ChatGPT。阻碍芯片到芯片的数据传输速率会导致AI性能明显下降,因为较慢的传输速率会增加传输数据所需的时间,进而增加训练时间。
而NVIDIA则很“聪明”地主动限制了自家计算卡芯片的连接速率。上一代的A100芯片之间连接速率本来是800Gbps,NVIDIA大手一挥,直接将连接速率砍半做成A800计算卡,芯片连接速率就只有400Gbps,低于管控要求的600Gbps,所以就能出口到国内了;而这一代旗舰计算卡H100本来也是800Gbps的芯片连接速率,NVIDIA直接砍到300Gbps,做成了H800再出口到国内。
之所以NVIDIA在H800上砍了更多的芯片连接速率,还是因为H100本来性能就比A100要高出太多,所以说NVIDIA也是在商业和管控之间寻找着细微的平衡,反正是两边都不得罪,同时还要赚钱!NVIDIA自己也表示,自家的800系列完全符合出口管控的规定,可以正常出口到中国而不受限制。
对于国内厂商来说,虽然买不到NVIDIA最强的H100计算卡,但H800似乎暂时也够用了,毕竟厂商又不是一次只买一块卡,通常都是大量采购。而且由于ChatGPT不会在国内开放,所以各大厂商都在研究ChatGPT的国内替代品,这样对NVIDIA的计算卡需求就更多了。目前已知国内有腾讯、百度以及阿里巴巴都采购了NVIDIA的H800,尽管这要比H100慢,但也够用了,毕竟大家都是购买成千上万块计算卡来训练AI。
丁丁打折网©版权所有,未经许可严禁复制或镜像 ICP证: 湘ICP备20009233号-2
Powered by 丁丁打折网本站为非营利性网站,本站内容均来自网络转载或网友提供,如有侵权或夸大不实请及时联系我们删除!本站不承担任何争议和法律责任!
技术支持:丁丁网 dddazhe@hotmail.com & 2010-2020 All
rights reserved