当前位置:首页 > 外汇资讯 > 正文内容

英伟达的野心:“AI原生”彻底颠覆数据中心

激石外汇2023-08-09 12:00:50外汇资讯28

激石Pepperstone(https://www.paraat.net/)报道:

投资数百万美元购买上一代计算资源,实在太愚蠢了。像最新发布的、人工智能数专用的开发硬件GH200,只需要不到十分之一的成本和功耗,就能完成同样的工作。

英伟达CEO黄仁勋在周二的发布会上这样说。昨日,英伟达发布新一代GH200 Grace Hopper超级芯片平台,专为加速计算和生成式AI时代而打造。

黄仁勋指出,为了满足生成式 AI 不断增长的需求,数据中心需要有针对特殊需求的加速计算平台。新的GH200芯片平台提供了卓越的内存技术和带宽,提升无损耗连接GPU聚合性能的能力,并且拥有可以在整个数据中心轻松部署的服务器设计。

值得一提的是,大模型浪潮来袭,催生各种AI原生应用,带动算力需求激增,专为应对数据密集型人工智能应用的数据中心市场正迅速崛起。

数据中心迎来新变革

据华尔街日报报道,分析师们指出,随着老牌云计算供应商竞相为数据中心改装先进芯片和进行其他升级,以满足人工智能软件的需求,一些新兴的建设者看到了从零开发新设施的机会。

数据中心类似于一个大型仓库,配备了多架服务器、网络和存储设备,用于存储和处理数据。与传统数据中心相比,AI数据中心拥有更多使用高性能芯片的服务器,因此AI数据中心服务器每个机架的平均耗电量可达50千瓦或更多,而传统数据中心每个机架的耗电量大约为7千瓦。

这意味着AI数据中心需要增建能够提供更高功率的基础设施,由于额外的用电量会产生更多的热量,AI数据中心还需要其他冷却方法,如液体冷却系统,以防止设备过热。

服务和咨询公司Unisys高级副总裁Manju Naglapur指出:

专门建造的人工智能数据中心可容纳利用人工智能芯片(如英伟达的GPU)的服务器,在人工智能应用筛选庞大的数据存储时,可同时运行多个计算。这些数据中心还配备了光纤网络和更高效的存储设备,以支持大规模的人工智能模型。

AI数据中心是高度专业化的建筑,需要投入大量的资金和时间。研究公司Data Bridge Market Research数据显示,到2029年,全球人工智能基础设施市场的支出预计将达到4225.5 亿美元,未来六年的复合年增长率将达到44%。

DataBank首席执行官Raul Martynek表示,人工智能的部署速度很可能会导致数据中心容量在未来12到24个月内出现短缺。

AI算力新秀获得23亿美元融资

目前,各路巨头都在押注AI数据中心,“地产标杆”黑石卖房转投AI数据中心。Meta也曾表示,将建设一个新的人工智能数据中心。

此前文章提到,AI算力新秀CoreWeave,拿英伟达H100抵押贷款,获得债务融资23亿美元(约165亿人民币)。

CoreWeave表示,这笔资金将用于加快建设人工智能数据中心,这是该公司继今年4月获得2.21亿美元和5 月获得2亿美元后的又一次融资。CoreWeave成立于六年前,目前已有7个人工智能数据中心上线,预计到今年年底将翻一番。

CoreWeave正与英伟达以及Inflection AI合作建一个超大型AI服务器集群,目标是运行2.2万块英伟达H100。如果建成,将成为全球最大的AI服务器集群。

值得一提的是,根据CoreWeave官网宣传,他们的服务比传统云计算厂商便宜80%。英伟达最新的HGX H100服务器,内含8张80G显存的H100和1T内存那种,起步价每小时只要2.23美元(16块人民币)。

而相比前代平台,新GH200 Grace Hopper平台的双芯片配置将内存容量提高3.5倍,带宽增加三倍,一个服务器就有144个Arm Neoverse高性能内核、8 petaflops 的 AI 性能和282GB的最新HBM3e内存技术。

难怪在这个LLM大爆炸的时代,黄仁勋依然大胆放话“买得越多,省得越多”!         

扫描二维码推送至手机访问。

版权声明:本文由外汇密探发布,如需转载请注明出处。

本文链接:https://www.paraat.net/news/2009.html

标签: AI原生
分享给朋友:

“英伟达的野心:“AI原生”彻底颠覆数据中心” 的相关文章

中国最大原油供应国又换了

激石Pepperstone(https://www.paraat.net/)报道:在西方国家接连对俄罗斯实施制裁,意图打击作为俄经济支柱的能源行业之际,一些西方媒体却突然注意到,中国从俄罗斯进口的石油近期出现显著的增长,“中国的石油买家正从俄罗斯供应商的折扣中受益”。 根据中国海关总署发布的数据,...

数字币崩盘,显卡遭殃

数字币崩盘,显卡遭殃

激石Pepperstone(https://www.paraat.net/)报道:成也挖矿,败也挖矿,这可能就是显卡被数字货币左右的一生。 昔日数字货币交易盛行之时,显卡一卡难求。现在数字货币遭遇抛售潮,显卡也是“一损俱损”。 今年以来,全球各地的显卡价格都在持续下降,整体来看基本已经恢复到“发行价...

新加坡监管机构:加密货币对冲基金三箭资本“提供虚假信息”

激石Pepperstone(https://www.paraat.net/)报道:币圈对冲基金巨头三箭资本已经陷入了破产清算。 祸不单行的是,新加坡金融管理局昨日公开谴责三箭资本向其提供虚假信息,并且超过了注册基金管理公司被允许的资产管理门槛。 新加坡金管局是新加坡行使央行职能的政府机构,同时也是负...

地产会不会成为宏观交易的预期差?

激石Pepperstone(https://www.paraat.net/)报道: 从自上而下的视角看,未来2个月有五条宏观交易线索值得关注。第一,部分城市放松地产政策,叠加房贷利率快速下行,地产销售可能出现超预期反弹。第二,半年报季高景气板块的业绩与预期赛跑。第三,美国衰退预...

轮到vivo了

轮到vivo了

激石Pepperstone(https://www.paraat.net/)报道: 据印度新德里电视台5日报道,印度执法局当天在全国44个地点突击搜查中国手机厂商vivo及其他相关公司,声称要调查其是否从事所谓洗钱活动。5日晚些时候,vivo就此事对《环球时报》回应称:“vivo正...

衰退风险面前,大宗商品“最后的堡垒”崩了,但美联储停不下来

衰退风险面前,大宗商品“最后的堡垒”崩了,但美联储停不下来

激石Pepperstone(https://www.paraat.net/)报道:衰退阴云笼罩全球市场,大宗商品一片腥风血雨,尤其强势的油价更是首当其冲。 周二,国际油价大幅跳水,创近四个月来最大跌幅。WTI 8月原油期货收跌8.93美元,跌幅8.24%,报99.50美元/桶。ICE布伦特9月原油期...