当前位置:首页 > 外汇资讯 > 正文内容

英伟达的野心:“AI原生”彻底颠覆数据中心

激石外汇2023-08-09 12:00:50外汇资讯337

激石Pepperstone(https://www.paraat.net/)报道:

投资数百万美元购买上一代计算资源,实在太愚蠢了。像最新发布的、人工智能数专用的开发硬件GH200,只需要不到十分之一的成本和功耗,就能完成同样的工作。

英伟达CEO黄仁勋在周二的发布会上这样说。昨日,英伟达发布新一代GH200 Grace Hopper超级芯片平台,专为加速计算和生成式AI时代而打造。

黄仁勋指出,为了满足生成式 AI 不断增长的需求,数据中心需要有针对特殊需求的加速计算平台。新的GH200芯片平台提供了卓越的内存技术和带宽,提升无损耗连接GPU聚合性能的能力,并且拥有可以在整个数据中心轻松部署的服务器设计。

值得一提的是,大模型浪潮来袭,催生各种AI原生应用,带动算力需求激增,专为应对数据密集型人工智能应用的数据中心市场正迅速崛起。

数据中心迎来新变革

据华尔街日报报道,分析师们指出,随着老牌云计算供应商竞相为数据中心改装先进芯片和进行其他升级,以满足人工智能软件的需求,一些新兴的建设者看到了从零开发新设施的机会。

数据中心类似于一个大型仓库,配备了多架服务器、网络和存储设备,用于存储和处理数据。与传统数据中心相比,AI数据中心拥有更多使用高性能芯片的服务器,因此AI数据中心服务器每个机架的平均耗电量可达50千瓦或更多,而传统数据中心每个机架的耗电量大约为7千瓦。

这意味着AI数据中心需要增建能够提供更高功率的基础设施,由于额外的用电量会产生更多的热量,AI数据中心还需要其他冷却方法,如液体冷却系统,以防止设备过热。

服务和咨询公司Unisys高级副总裁Manju Naglapur指出:

专门建造的人工智能数据中心可容纳利用人工智能芯片(如英伟达的GPU)的服务器,在人工智能应用筛选庞大的数据存储时,可同时运行多个计算。这些数据中心还配备了光纤网络和更高效的存储设备,以支持大规模的人工智能模型。

AI数据中心是高度专业化的建筑,需要投入大量的资金和时间。研究公司Data Bridge Market Research数据显示,到2029年,全球人工智能基础设施市场的支出预计将达到4225.5 亿美元,未来六年的复合年增长率将达到44%。

DataBank首席执行官Raul Martynek表示,人工智能的部署速度很可能会导致数据中心容量在未来12到24个月内出现短缺。

AI算力新秀获得23亿美元融资

目前,各路巨头都在押注AI数据中心,“地产标杆”黑石卖房转投AI数据中心。Meta也曾表示,将建设一个新的人工智能数据中心。

此前文章提到,AI算力新秀CoreWeave,拿英伟达H100抵押贷款,获得债务融资23亿美元(约165亿人民币)。

CoreWeave表示,这笔资金将用于加快建设人工智能数据中心,这是该公司继今年4月获得2.21亿美元和5 月获得2亿美元后的又一次融资。CoreWeave成立于六年前,目前已有7个人工智能数据中心上线,预计到今年年底将翻一番。

CoreWeave正与英伟达以及Inflection AI合作建一个超大型AI服务器集群,目标是运行2.2万块英伟达H100。如果建成,将成为全球最大的AI服务器集群。

值得一提的是,根据CoreWeave官网宣传,他们的服务比传统云计算厂商便宜80%。英伟达最新的HGX H100服务器,内含8张80G显存的H100和1T内存那种,起步价每小时只要2.23美元(16块人民币)。

而相比前代平台,新GH200 Grace Hopper平台的双芯片配置将内存容量提高3.5倍,带宽增加三倍,一个服务器就有144个Arm Neoverse高性能内核、8 petaflops 的 AI 性能和282GB的最新HBM3e内存技术。

难怪在这个LLM大爆炸的时代,黄仁勋依然大胆放话“买得越多,省得越多”!         

扫描二维码推送至手机访问。

版权声明:本文由激石Pepperstone发布,如需转载请注明出处。

本文链接:https://www.paraat.net/news/2009.html

标签: AI原生
分享给朋友:

“英伟达的野心:“AI原生”彻底颠覆数据中心” 的相关文章

全球发展高层对话会主席声明(全文)

激石Pepperstone(https://www.paraat.net/)报道:  新华社北京6月24日电 全球发展高层对话会主席声明   一、2022年6月24日,全球发展高层对话会在金砖国家领导人第十四次会晤期间举行。会议由中华人民共和国主席习近平主持,金砖国家成员国俄罗斯联邦总统普京、印...

美伊两国今将就恢复伊核协议举行间接磋商,卡塔尔将主持会谈

激石Pepperstone(https://www.paraat.net/)报道:当地时间6月27日,美国国务院一名发言人表示,美国和伊朗两国官员将于近日前往卡塔尔首都多哈,就伊核协议谈判举行间接磋商。伊朗方面证实了这一消息。 据路透社6月27日报道,美方表示,伊核协议谈判即将于本周恢复,伊朗需要...

瑞士银行业跌落神坛?这家国际大行竟给毒贩洗钱,被判赔1.3亿

瑞士银行业跌落神坛?这家国际大行竟给毒贩洗钱,被判赔1.3亿

激石Pepperstone(https://www.paraat.net/)报道:当地时间6月27日,瑞士最高刑事法庭判定瑞信(CS,股价5.95美元,市值157.8亿美元)及其一名前员工帮助保加利亚贩毒集团洗钱。瑞信成为瑞士历史上第一家在刑事案件中被判定有罪的大型银行。 法庭判决认为,瑞信因未能充...

A股三大指数集体转绿 旅游酒店领跌 数字货币、电力股冲高

A股三大指数集体转绿 旅游酒店领跌 数字货币、电力股冲高

激石Pepperstone(https://www.paraat.net/)报道:7月1日,A股表现疲软,沪指、深成指小幅高开后迅速走低。截至发稿,三大指数集体转绿,沪指现跌0.6%,深成指跌0.5%,创业板指跌0.7%。 板块方面,培育钻石迅速拉升,Micro/MiniLed等节能照明板块涨幅居...

外资行纷纷唱多!新兴市场能够抵御美国衰退,中国复苏将带来重大支持

激石Pepperstone(https://www.paraat.net/)报道:在40年来最严重的通胀压力之下,美联储的激进“收水”令越来越多投资者担忧美国经济将在不远的未来陷入衰退。 高盛此前指出,美国陷入衰退,新兴市场会跟着遭殃,但中国股票是亮点。 不同于高盛的观点,摩根大通和德意志银行等外资...

赛道Hyper | 吉利推出全球首款甲醇混动轿车剑指何处?

激石Pepperstone(https://www.paraat.net/)报道:混动无论强弱,汽油均不可或缺。若就发展新能源汽车“节能减排”根本目的看,使用汽油总显得不那么“绿色环保”。 2005年,吉利汽车(00175.HK)启动甲醇汽车研发工作并坚持至今。2022年6月30日,吉利汽车在贵阳推...