黄仁勋:已经开始批量生产Blackwell,将在第四季度发货
激石Pepperstone(https://www.paraat.net/)报道:
美东时间28日19点(北京时间29日7点),黄仁勋在英伟达公布财报后接受了彭博社电视台主持人Ed Ludlow的采访。针对市场关心的Blackwell延迟问题,他表示,“Blackwell已开始批量生产,将在第四季度发货。”
昨夜公布的财报显示,第二财季英伟达营收创单季新高,超预期增长122%,第三财季营收指引增长最多83%、六个季度内首度低于100%,强于华尔街预期均值却低于继续三位数增长的最高预期。盘后英伟达先涨超2%,后一度跌超8%。
访谈要点总结如下:
- 我们已经开始批量生产(Blackwell),将在第四季度发货,我们将获得数十亿美元的Blackwell收入。
- 加速计算的应用程序不仅限于生成式AI,还包括数据库处理、数据的预处理和后处理等。
- 一些国家意识到,数字知识是自然和国家资源的一部分,它们必须收获这些知识,对其进行加工,并将其转化为国家数字智能。这就是我们所说的主权AI。
- 英伟达最重要的事情是提高下一代产品的性能和效率。
- AI芯片需求强劲增长,供应状况同比有很大改善。
- 英伟达的云战略:成为每个云中的最佳AI合作伙伴,而非独立云提供商。
Blackwell已开始批量生产,将在第四季度发货
Ed Ludlow:
我认为市场希望更多地了解 Blackwell,他们希望了解更多细节。我正在尝试查看整个通话和记录。这似乎很明显是生产问题,而不是 Blackwell 的基本设计问题。但在现实世界中的部署,这看起来是什么样的?部署时间表是否存在延迟,从而影响该产品的收入?
黄仁勋:
我们进行了大规模的改变,以提高Blackwell的产量功能,这很棒。我们今天正在世界各地试用Blackwell。我们向人们展示,带领人们参观我们已启动并运行的 Blackwall 系统。你可以在网络上找到Blackwall系统的图片。我们已经开始批量生产,将在第四季度发货,我们将获得数十亿美元的Blackwell收入,我们将从那里开始增加。
当然,一开始 Blackwell的需求量远远超过其供应量,因为需求量非常大。但我们的供应量会非常大,而且我们将能够从第四季度开始增加。我们有数十亿美元的收入,我们将从那里开始增加到第一季度、第二季度和明年。我们明年也会有很好的表现。
加速计算的应用程序不仅限于生成式AI
Ed Ludlow:
除了超大规模和元计算之外,对加速计算的需求是什么?
黄仁勋:
超大规模占我们目前数据中心业务总量的45%左右,相对多样化。我们有超大规模、互联网服务提供商、主权AI、行业和企业。所以它相当多样化。超大规模之外的站点占另外55%。
现在整个数据中心的应用程序使用都是从加速计算开始的,当然,从模型开始,从我们所知道的,也就是生成式AI开始,得到了最多的关注。但在核心方面,我们还会进行数据库处理、数据的预处理和后处理,然后再将其用于生成式AI、转码、科学模拟、计算机图形学,当然还有图像处理。因此,人们使用加速计算的应用程序有很多。其中之一就是生成式AI。让我们看看,我还能说什么?我想是这样的。
主权AI:将数字数据视为与土地和空气一样重要的自然资源
Ed Ludlow:
请讲讲,关于主权AI,你和我之前谈过这个问题,听到一些幕后消息真是太有趣了,在这个财年,主权AI 的销售额将达到两位数,我想你说的是数十亿美元。但对于外行人来说,这意味着什么?这意味着与特定政府达成交易。如果是,请说明在哪里。
黄仁勋:
不一定,有时是与由政府资助的特定区域服务提供商达成交易。通常情况就是这样。以日本为例,我认为日本政府出面为几家不同的互联网公司和电信公司提供了数十亿美元的补贴,以资助他们的人工智能基础设施。印度有一个主权人工智能计划,正在建设他们的人工智能基础设施。加拿大、英国、法国、意大利、新加坡、马来西亚,你知道,许多国家都在补贴他们的区域数据中心,以便他们能够建设他们的人工智能基础设施。
他们认识到,他们国家的知识、他们国家的数据、数字数据也是他们的自然资源,而不仅仅是他们所坐落的土地,不仅仅是他们头顶的空气。但他们现在意识到,数字知识是自然和国家资源的一部分,他们必须收获这些知识,对其进行加工,并将其转化为国家数字智能。这就是我们所说的主权AI。你可以想象,世界上几乎每个国家最终都会认识到这一点,并建立自己的人工智能基础设施。
最重要的事情是提高下一代产品的性能和效率能源需求
Ed Ludlow:
你使用了资源这个词,这让我想到了这里的能源需求。我记得在电话会议上,你谈到了下一代机型的计算需求将增加几个数量级,但能源需求将如何增加?你认为英伟达在这方面有什么优势?
黄仁勋:
好吧,我们做的最重要的事情是提高下一代产品的性能和效率。因此,在相同的功耗水平下,Blackwell 的性能比Hopper高出许多倍。这就是能源效率,在相同的功耗下性能更高,或者在更低的功耗下性能相同,这是第一点。
第二点是使用液体冷却。我们支持空气冷却,但液体冷却的能源效率要高得多。所以所有这些的结合,你将获得相当大的进步。
但同样重要的是要意识到,人工智能模型的训练可以在不同地点进行。因此,我们将越来越多地看到人工智能在其他地方接受训练,让该模型回来并在人群中使用,甚至在你的PC或手机上运行。
因此,我们将训练大型模型,但目标不一定是始终运行大型模型。当然,可以为一些高级服务和非常高价值的AI做到这一点,但这些大型模型很可能有助于训练和教授较小的模型。我们最终会做的是拥有一个大型的,你知道,几个大型模型,它们能够训练一大堆小模型,并且它们可以在任何地方运行。
黄仁勋:需求强劲增长,供应状况同比有很大改善
Ed Ludlow:
你清楚地解释了在模型上甚至在 GPU 级别构建生成式 AI 产品的需求大于当前的供应。特别是 Blackwell 的案例,请向我解释一下你们产品的供应动态,以及你们是否在财年末到明年的某个时间点看到季度环比改善。
黄仁勋:
事实上,我们的增长表明我们的供应正在改善,我们的供应链非常庞大,是世界上最大的供应链之一。我们拥有令人难以置信的合作伙伴,他们在支持我们的增长方面做得非常出色。如你所知,我们是历史上增长最快的科技公司之一,如果没有非常强劲的需求和非常强劲的供应,这一切都不可能实现。我们预计第三季度的供应量将超过第二季度。我们预计第四季度的供应量将超过第三季度,我们预计第一季度的供应量将超过第四季度。所以我认为我们明年的供应状况将比去年有很大改善。
关于需求。Blackwell就是这样一个飞跃。有几件事正在发生。你知道,仅仅是基础模型制作者本身,基础模型的规模就从数千亿个参数增长到数万亿个参数。他们也在学习更多的语言,而不仅仅是学习人类语言,他们还在学习图像、声音和视频的语言,甚至还在学习 3D 图形的语言,只要他们能够学习这些语言,他们就能理解他们所看到的东西,但他们也能生成他们被要求生成的东西。所以他们正在学习蛋白质、化学物质和物理学的语言。你知道,可能是流体,也可能是粒子物理学。所以他们正在学习各种不同的语言,或者学习我们所说的模态的含义,但基本上是在学习语言。
所以这些模型的规模正在扩大。他们从更多的数据中学习,而且模型制作者的数量比一年前还多。因此,由于所有这些不同的模态,模型制作者的数量大幅增加。这只是其中之一,前沿模型、基础模型制造商及其自身都取得了巨大的发展。
然后,生成式AI市场已经真正多样化,你知道,除了互联网服务制造商,还有初创公司,现在企业也纷纷加入。不同的国家都在加入。所以需求确实在增长。
英伟达的云战略:成为每个云中的最佳AI合作伙伴,而非独立云提供商
Ed Ludlow:
很抱歉打断你。你的业务也变得多元化了。当我告诉我们的听众你即将上台时,我收到了很多问题。可能最常见的问题是,英伟达是什么?我们谈到了你作为系统供应商,但英伟达GPU云上有很多要点。最后我想问一下,你是否有计划成为真正的云计算提供商?
黄仁勋:
没有。我们的GPU云旨在成为内置在每个云中的英伟达云的最佳版本。英伟达DGX云内置在GCP、Azure、AWS和OCI中。因此,我们在他们的云中构建我们的云,以便我们可以实现我们云的最佳版本,与他们合作,使该云基础设施、该AI基础设施和英伟达基础设施尽可能出色,总体拥有成本(TCO)尽可能高。因此,该策略非常有效。
当然,我们是AI的大量消费者,因为我们自己创建了很多AI,因为没有AI,我们的芯片就不可能设计出来。没有AI,我们的软件就不可能编写出来。所以我们自己使用它,你知道,大量的AI,自动驾驶汽车,我们正在做的一般机器人工作,我们正在做的全宇宙工作。所以我们自己使用DGX云。我们也将它用于AI代工厂。我们为那些希望拥有这方面专业知识的公司制作AI模型。像台积电这样的代工厂,我们是AI代工厂。
所以我们这样做有三个根本原因。一是在所有云中拥有最好的英伟达版本,二是因为我们自己就是一个大消费者。第三,因为我们将它用于AI代工厂,用于帮助其他所有公司。