关闭广告

互联网大厂加码订购背后 国产芯片仍缺生态加持

财联社3816人阅读

《科创板日报》8月11日讯(记者 黄心怡) 据媒体报道,百度、字节跳动、腾讯和阿里巴巴等互联网巨头正争相收购英伟达的高性能芯片,已订购了价值10亿美元的A800处理器,这些订单价值50亿美元,将于今年交付。此外,这些公司还采购了40亿美元的英伟达图形处理器(GPU),将于2024年交付。

对此,《科创板日报》记者询问百度、腾讯和阿里巴巴方面,均未有回应。

不过,阿里巴巴集团董事会主席兼CEO张勇在财报沟通会上坦言,GPU在中国市场供应确实紧缺。“新一代人工智能发展带来的模型训练和推理场景,对AI云服务的需求非常旺盛,但是由于短期内GPU在中国市场供应的紧缺,使得这样的需求只得到了部分满足,AI相关服务所带来的增量机会刚刚开始得到释放。”

有大模型创业公司高层向《科创板日报》透露,”相比5月份英伟达芯片上涨了百分之小几十,A100和H100都已经买不到了。”

一家算力服务平台的相关人员告诉《科创板日报》记者,当前算力资源较为紧缺,有几百家企业都在排队

▍未来推理算力需求或远高于训练算力

随着AI大模型加速在实际场景落地,算力需求也随之激增。

以AI应用“妙鸭相机”为例,其上线不到一个月,算力需求暴涨数百倍。据相关负责人透露,“妙鸭相机”已在阿里云上进行紧急扩容,应对暴涨数百倍的算力需求。虽然算力一边加,但另一边用户也在涨,但高峰期排队现象已经有了缓解。

“此前,大家对大模型训练需要的算力关注较多,尤其是GPT类的模型训练,动辄需要上万张显卡。”某资深人士分析,随着Llama2等开源大模型的流行,大模型应用推理端的算力需求更值得关注。随着各个行业的AIGC开发逐步完成,对业务开展阶段使用的推理算力需求开始大幅增长,未来几个月推理的算力需求总量可能远高于训练算力

优刻得董事长兼CEO季昕华认为,未来对GPU的需求会继续增长。“国产大模型的玩家越来越多,算力需求越来越高涨,同时大模型训练的数量、数据和参数越来越大,也导致需求越来越多。其中,对推理算力的需求会更大。

“这是因为推理和用户数直接相关。目前,优刻得用于客户训练的GPU和推理的GPU的比例大概在3:7。假设三万张卡做训练的话,对应到七万张卡做推理,这也是为何ChatGPT会限制大家使用和注册,就是因为推理(的卡)不够。” 季昕华说,“如今受限于整个供应链,全球缺货。虽然我们能买,但是到货时间会很难。此外,也受限于整个美国的政策,对A100和H100有限制。”

▍国产芯片相比英伟达仍有差距

当下,已有不少国内企业入局AI芯片,包括华为昇腾、寒武纪、天数智芯、燧原科技、沐曦科技、壁仞科技等。

“国内真正已经参与大模型训练的厂商,主要是华为昇腾、寒武纪。”一位AI专家指出。“其他初创企业的痛点,主要是生态上不够成熟,但在细分领域可以落地,比如,燧原科技在某些领域的加速表现不错。”

另有大模型创业者对《科创板日报》记者表示,目前已经与昇腾、燧原等国产芯片进行适配。“虽然距离英伟达高端芯片还需要加油,华为昇腾在国产芯片中已经很优秀了。”

一位相关芯片技术人员则向记者强调,昇腾芯片在某些深度学习的特定场景上性能已经赶上英伟达。

天数智芯相关负责人则对记者表示,其产品已成功支撑大模型训练、推理,取得一定程度的突破。此外,在数据中心、能源、教育以及医疗等方面都有订单,整体销售额已经突破5亿。

国产芯片和英伟达的差距主要在于生态和通信性能。”季昕华指出,“现在大部分的人工智能方案都是基于英伟达的CUDA平台,国产芯片需要兼容CUDA架构,对生态要求还是比较高的。其次,在整个通信的性能上仍有挑战,推理今年能够实现使用,但训练方面还需要一点时间。不过进步非常快。我们现在也积极地与国产GPU对接,能让他们用起来。”

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

ChatGPT大升级+大降价,反应速度更快,允许更长文本

每日经济新闻 浏览 5188

日韩回避谁更高兴❓森保一:我不考虑对手,确定对手前没看比赛

直播吧 浏览 1906

这次没醉酒了吧?王岳伦再曝与美女搂腰亲密照,李湘晒狗疑暗讽

趣看热点 浏览 15475

42岁吉赛尔·邦辰回巴西放飞!无遮挡肚皮惹眼

译言 浏览 8509

官方回应小米汽车全球最低风阻不科学:华为也一样

智车情报局 浏览 1898

炒作"大陆卫星介选"翻车 蔡当局深夜"灭火"又引来嘲讽

海峡导报社 浏览 10983

亚马逊据悉要求员工迁址办公

界面新闻 浏览 3846

印度发布史上首张月球南极照片,由抢先在此登陆的月球车拍摄

南方都市报 浏览 3410

广州房票能提振楼市吗?看看专家怎么解读

南方都市报 浏览 1879

售7.48万元起,东风纳米01正式上市

天天汽车 浏览 1942

可盐可甜 风行T5 EVO女神版亮相成都车展

网易汽车 浏览 10082

深圳国资148亿接盘,苏宁张近东的下一步如何走?

21世纪经济报道 浏览 15691

辽宁三任省公安厅长贪腐致大面积腐败 43名干部被查处

中国新闻周刊 浏览 11159

月球样品管理办法首次对外发布,月球土壤样品将有4种基础用途

趣看热点 浏览 14894

日本2023年进口纯电车销量突破2万辆 比亚迪表现出色!

智车情报局 浏览 1961

13.72万元起,2024款吉利星越L新增车型上市

天天汽车 浏览 1823

重塑豪华标杆 全新长轴距奔驰E级河南上市

小号撩车 浏览 1966

看到不少人穿花苞裙,想必夏日肯定有它的一席之地了!

伊周潮流 浏览 214

30套品位慵懒系穿搭,美到秋天!

In风尚 浏览 4125

日媒:为《樱桃小丸子》主角小丸子配音的声优去世

环球网 浏览 17298

五大联赛前2分差:英超1分西甲7分意甲15分&红军蓝月本周末交锋

直播吧 浏览 1556
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
Copyright © 2020-2024,版权所有 baodianzixun.com
沪ICP备20017958号-1