优德88博彩不给提现手机皇冠代理网址_黄仁勋GTC演讲全文来了！最强AI芯片Blackwell问世，推理能力升迁30倍

专题：GTC重磅开幕陪你一日三餐同你一夜暴富银河娱乐，英伟达发布最强AI芯片

皇冠体育

　　来自：华尔街见闻

　　作家：硬AI 

　　北京时期3月19日凌晨，英伟达创举东谈主黄仁勋在好意思国加州圣何塞SAP中心，发表了GTC 2024的主题演讲《见证AI的变革时刻》。

　　发布会上，黄仁勋先容了全新芯片Blackwell，他称Blackwell的推理能力是惊东谈主的，相较于前代居品H100有着惊东谈主的升迁，是Hopper的30倍。

　　英伟达默示，Blackwell 架构的 GPU 瞻望将于本年晚些时候发货。

　　Blackwell以好意思国数学家和博弈论学家 David Blackwell定名，承袭了 Hopper GPU 架构，领有2080亿个晶体管，是英伟达首个采用多芯片封装遐想的 GPU，在团结个芯片上集成了两个GPU。

　　黄仁勋先容谈，如若要进修一个1.8万亿参数GPT模子，大致需要三到五个月的时期：

如若用Hopper来作念，可能需要8000个GPU，何况会消耗15兆瓦。8000个GPU和15兆瓦，它会需要90天，大致三个月的时期。

如若你用Blackwell来作念，只需要2000个GPU。2000个GPU，相似的90天。但这是惊东谈主的部分，只需要四兆瓦的电力。

　　黄仁勋流露，包括AWS、Google、微软、Oracle等，都在为Blackwell作念准备。同期英伟达将持续基于AI强化生态，比如NVIDIA Omniverse Cloud将不错伙同到苹果公司搀杂头显Vision Pro、加强模子与通用机器东谈主生态等。

　　黄仁勋还先容了东谈主形机器东谈主基础模子Project GR00T、新款东谈主形机器东谈主狡计机Jetson Thor，还与一双来自迪士尼研究公司的袖珍英伟达机器东谈主进行互动。

　　以下为黄仁勋演讲全文，由AI翻译：

迎接来到GTC大会。但愿你们意志到这里不是音乐会，而是一个开发者大会。会有无数的科学、算法、狡计机架构、数学等内容。

我感受到了房间里千里甸甸的氛围。陡然间，好像你们误入了什么所在似的。宇宙上莫得哪个会议能汇聚来自由此多元科学领域的研究东谈主员，从欢腾科技到无线电科学，全球都在探索如何使用AI来机器东谈主化戒指MIMOS，用于下一代6G无线电，自动驾驶汽车，以致是各方面的东谈主工智能。启航点，我贯注到现场陡然一阵莽撞。同期，此次会议还收集了一些了不得的公司。

这份名单，并不是参会者名单，这些都是发言嘉宾。令东谈主齰舌的是，如若你去掉我统统的一又友，亲密一又友，迈克尔·戴尔就坐在那里，在IT行业区。

我在行业中成长的统统一又友。如若去掉那份名单，这即是令东谈主齰舌的所在。这些非IT行业的发言者正在使用加快狡计科罚普通狡计机无法科罚的问题。这体现在生命科学、医疗保健、基因组学、交通、零卖、物流、制造业、工业等行业的全办法代表。

你们不单是是来参加会议的。你们是来展示、参议你们的研究后果的。今天在这个房间里代表的是全球100万亿好意思元行业的缩影。这统统令东谈主畏怯。

统统有一些事情正在发生。正在发生一些事情。通盘行业正在转型，不单是是咱们的行业，因为狡计机行业，狡计机是目下社会最迫切的器具。基本上的转型和狡计影响到了每个行业。但咱们是如何运行的？咱们是如何达到这里的？我为你们准备了一个小漫画。实在地说，我画了这一页。这是Nvidia的旅程，始于1993年。这可能即是剩下的演讲内容。1993年，这是咱们的旅程。咱们成立于1993年。一起发生了几个迫切事件。我只是不祥地强调了一下。

2006年，CUDA，它被评释注解是一个创新性的狡计模子，咱们那时认为它是创新性的，以为它将整夜之间取得告捷。近20年后，它发生了，到了2012年。Alex Net AI和CUDA初次战役，到了2016年。相识到这一狡计模子的迫切性，咱们发明了一种全新类型的狡计机，咱们称之为DGX1，170 teraflops。在这台超等狡计机中，八个GPU初次伙同在一起。我切身委用了第一台DGX1给一家位于旧金山的初创公司，名为OpenAI。

DGX1是宇宙上第一台AI超等狡计机。记着，170 teraflops。2017年， Transformer到来。2022年，ChatGPT拿获了宇宙的想象力。东谈主们意志到东谈主工智能的迫切性和能力。

2023年，生成式AI长远，新的行业运行形成。为什么是一个新行业？因为这样的软件以前从未存在过。咱们现在正在使用狡计机编写软件，创造以前从未存在过的软件。这是一个全新的类别。它从无到有占据了商场份额。这是一个全新的类别。而你出产软件的方式与咱们以前在数据中心所作念的完全不同。

生成token，以极度大的鸿沟生成浮点数。仿佛在上一个工业创新的运行，当东谈主们意志到你会建立工场，向其提供能源，然后这种看不见但极其有价值的东西，电力，交流发电机就此产生。100年后，200年后，咱们现在正在创造新类型的电子，token，通过咱们称之为工场的基础设施，生成这种新的、难以置信的有价值的东西，东谈主工智能。一个新的行业照旧出现了。

咱们将参议这个新行业的许多方面。咱们将参议咱们接下来将如何进行狡计。咱们将参议由于这个新行业而构建的新软件类型，你应该如何看待这些新软件，这个新行业中的应用要融会是什么？然后也许是接下来会发生什么，咱们如何从今天运行动行将到来的下一步作念准备？

但在我运行之前，我想向你们展示Nvidia的灵魂。Nvidia的灵魂位于狡计机图形、物理学和东谈主工智能的交织处，统统这些交织在Omniverse中，一个捏造宇宙的仿真。咱们今天将向你展示的一切都是仿真实，而不是动画。它之是以清秀，是因为它是物理的。宇宙之是以清秀，是因为它是物理的。它之是以令东谈主齰舌，是因为它通过机器东谈主进行了动画制作。它通过东谈主工智能进行了动画制作。你行将看到的统统内容都是完全生成的，完全仿真实，而且都是在Omniverse中生成的。而你行将观赏的统统内容，你行将观赏的是宇宙上第一场一切都是公正的音乐会。你将要看一些家庭视频。是以请坐下来，好好享受吧。

好吧，天啊，我爱Nvidia。加快狡计已达到转机点。通用狡计照旧走到极度。咱们需要另一种狡计方式，以便咱们不错连续膨大，以便咱们不错连续质问狡计资本，以便咱们不错连续消耗越来越多的狡计，同期保持可持续性。

加快狡计与通用狡计比拟大大加快。在咱们参与的每个行业中，我将向你展示许多，影响都是巨大的，但在咱们我方的行业中，即使用仿真器具创建居品的行业中，它更为迫切。在这个行业中，这不单是是对于质问狡计资本，而是对于提高狡计鸿沟。

咱们但愿简略完全模拟咱们所作念的通盘居品，以完全的保真度，完全数字化地进行，施行上即是咱们所说的数字孪生。咱们但愿遐想它，构建它，模拟它，完全数字化地操作它。为了作念到这小数，咱们需要加快通盘行业。

今天，我想晓示，咱们有一些合作伙伴加入咱们这一旅程，以加快他们的通盘生态系统，以便咱们不错将宇宙带入加快狡计的时间。但这里有一个额外的公正。当你成为加快的一部分时，你的基础设施即是Cuda GPU。当发生这种情况时，它恰巧是生成式AI的完全疏浚的基础设施。因此，我极度散逸地晓示几个极度迫切的合作伙伴关系。

这些是宇宙上一些最迫切的公司，ANSYS为宇宙制造工程仿真。咱们与他们合作，以Cuda加快ANSYS生态系统，将ANSYS伙同到Omniverse数字孪生。太棒了。

真实伟大的是，Nvidia GPU加快系统的装配基础遍布全球，在每个云中，在每个系统中，广博统统企业。因此，他们加快的应用要领将领有一个巨大的装配基础以就业。最终用户将领有令东谈主齰舌的应用要领。虽然，系统制造商和CSP将领有巨大的客户需求。

Synopsys是Nvidia字面上的第一个软件合作伙伴。他们在咱们公司的第一天就在那里。Synopsys通过高档遐想透澈改变了芯片行业。咱们将CUDA加快Synopsys。咱们正在加快狡计光刻，这是最迫切的应用要领之一，莫得东谈主知谈。为了制造芯片，咱们必须将光刻推向极限。Nvidia创建了一个领域特定的库，极大地加快了狡计光刻。一朝咱们简略加快并界说台积电统统的软件，台积电今天晓示他们将与Nvidia一起进入出产，cuLitho。一朝软件界说并加快，下一步即是将生成式AI应用到芯片制造的改日。Cadence构建了宇宙上基本的EDA和SDA器具。咱们也使用Cadence，通过这三家公司，ANSYS、Synopsys和Cadence，咱们基本上一起构建了Nvidia。咱们正在加快Cadence。他们还在用Nvidia GPU构建超等狡计机，以便他们的客户不错以100、1000倍的鸿沟进行流体能源学仿真。基本上是及时的风洞。Cadence Millennium，一台内置Nvidia GPU的超等狡计机，一家软件公司正在构建超等狡计机。我很散逸看到这小数。

与Cadence共同构建copilots，想象一下，当Cadence、Synopsys、ANSYS等器具提供商为您提供AI copilots的一天，这样咱们就有屈指可数的copilot助手匡助咱们遐想芯片，遐想系统。咱们还将Cadence Digital Twin平台伙同到Omniverse。正如你所看到的趋势，咱们正在加快宇宙上的CAE、EDA和SDA，以便咱们不错在数字孪生中创建咱们的改日。咱们将把它们全部伙同到Omniverse，改日数字孪生的基本操作系统之一，受益于鸿沟的行业之一，你们都极度了解这小数，大型谈话模子。基本上，在Transformer被发明之后，咱们简略以惊东谈主的速率膨大大型谈话模子，施行上每六个月翻一番。现在，咱们如何简略以每六个月翻一番的速率发展这个行业，发展这个狡计需求呢？原因很不祥。如若你将模子的大小加倍，你将大脑的大小加倍，你需要两倍的信息来填充它。因此，每次你将参数计数加倍时，你还必须相应地增多你的进修token计数。这两个数字的组合成为了狡计鸿沟。你必须救济最新的、起先进的OpenAI模子，大致有1.8万亿个参数。1.8万亿个参数需要几万亿个token进行进修。是以几万亿个参数，大致几万亿个token，大致当你将两者相乘在一起时，大致有三十、四十、五十万亿次浮点运算每秒。

现在咱们只需要作念一些数学，请跟我一起。是以你有三十亿万亿。一个万亿就像一个Peta。因此，如若你有一个Petaflop GPU，你需要300亿秒来狡计，来进修阿谁模子。300亿秒大致是1000年。好吧，1000年，这是值得的。想要作念得更快一些，但这是值得的。

是的，这通俗是我的回复，当大多数东谈主告诉我，嘿，作念某事需要多万古期？是以咱们得到了20年的价值，但咱们下周能作念到吗？因此，1000年，1000年。是以咱们需要更大的GPU。咱们需要更大的GPU。

咱们很早就相识到了这小数，咱们意志到谜底是将一大堆GPU放在一起，虽然，一起创新了许多东西，比如发明张量中枢，鼓动MV集结，这样咱们就不错创建施行上是捏造巨型GPU的东西，并将它们全部伙同在一起，通过一个名为Mellanox的公司的惊东谈主InfiniBand会聚，这样咱们就不错创建这些巨型系统。

因此，DGX1是咱们的第一个版块，但它不是终末一个。咱们一直在一起构建超等狡计机。在2021年，咱们有Celine， 40500个GPU傍边。然后在2023年，咱们构建了宇宙上最大的AI超等狡计机之一。它刚刚上线。而且，当咱们构建这些东西时，咱们正在努力匡助宇宙构建这些东西。为了匡助宇宙构建这些东西，咱们必须启航点构建它们。咱们构建芯片，系统，会聚，统统必要的软件来作念到这小数。

你应该看到这些系统。想象一下编写一段软件，跨通盘系统运行，将狡计分散在屈指可数的GPU上。但里面有屈指可数的小GPU，数百万个GPU来分派责任，以便在统统这些中均衡责任负载，以便你不错取得最高的能源效劳，最好的狡计时期，质问资本。因此，这些基本创新是咱们到达这里的原因。

现在咱们在这里，当咱们看到ChatGPT在咱们面前出现的遗迹时，咱们也意志到咱们还有很长的路要走。咱们需要更大的模子。咱们将用多模态数据来进修它，不单是是互联网上的文本，但咱们将用文本和图像、图表和图表进行进修，就像咱们通过看电视学习一样。因此，将会有许多不雅看视频，以便这些模子不错在物理学上得到基础，了出恭臂不会穿过墙壁。因此，这些模子将通过不雅看无数的宇宙视频与无数的宇宙谈话相结合，具有学问。

它将使用诸如合成数据生成之类的东西，就像你和我学习时一样，咱们可能会使用咱们的想象力来模拟它最终会如何，就像我在准备这个主题演讲时一样。我一直在模拟它。我但愿它能像我在头脑中模拟的那样好。有东谈主确乎说，另一位饰演者完全在跑步机上完成了她的饰演，这样她就不错以充满活力的方式呈现它。我莫得那样作念。如若我在这个过程中有点喘不外气来，你知谈发生了什么。因此，咱们在这里使用合成数据生成，咱们将使用强化学习，咱们将在咱们的头脑中闇练，咱们将让AI与AI一起责任，相互进修，就像学生、老实、狡辩者一样，统统这些都将增多咱们模子的大小。它将增多咱们领有的数据量，咱们将不得不构建更大的GPU。

黄仁勋先容最新GPU——Blackwell

Hopper很棒，但咱们需要更大的GPU。因此，女士们先生们，我想向你们先容一个极度大的GPU，以数学家、博弈论家、概率论家大卫·布莱克威尔（David Blackwell）的名字定名，咱们认为这是一个完好意思的名字。Blackwell，女士们先生们，请享受。

Blackwell不是一个芯片。Blackwell是一个平台的称呼。东谈主们认为咱们制造GPU，咱们确乎制造了，但GPU的外不雅照旧不再像往时那样了。这是Blackwell系统的中枢。而这在公司里面不称为Blackwell。它只是一个数字。这是Blackwell，这是目下宇宙上起先进的GPU。

2080亿个晶体管。因此，我不错看到两个芯片之间有一条细线。这是第一次以这种方式将两个芯片精良伙同在一起，以至于两个芯片认为它是一个芯片。它们之间有10TB的数据，每秒10TB，以至于Blackwell芯片的两侧不知谈它们在哪一侧。莫得内存局部性问题，莫得缓存问题。它只是一个巨大的芯片。

当咱们被奉告Blackwell的无餍超出了物理极限时，工程师说，那又若何？因此，这即是发生的事情。因此，这是Blackwell芯片，它进入了两种类型的系统。第一个是与Hopper形势兼容的，因此，你不错滑出Hopper，然后推入Blackwell。这即是为什么其中一个挑战之一将是如斯高效的原因之一。全宇宙都装配了Hopper，它们不错是疏浚的基础设施，疏浚的遐想，电力，电力，热量，软件，都疏浚，径直推且归。因此，这是面前HGX竖立的Hopper版块。这是另一个Hopper的花式。现在，这是一个原型板。

因此，这是，这是一个完全功能的板。我会在这里小心小数。这个，我不知谈，100亿好意思元。第二个是5亿，之后就低廉了。是以，不雅众中的任何客户，不庞杂，好吗？但这个是相配上流的。这是第一个启动板，出产时将采用这种方式。好吧。因此，你会拿到这个。

它有两个Blackwell芯片和四个Blackwell芯片模具伙同到Grace CPU。Grace CPU有一个超快的芯片到芯片集结。令东谈主齰舌的是，这台狡计机是第一台这样的狡计机，这样多的狡计适合这样小的空间。第二，它是内存一致的。他们合计他们就像一家幸福的全球庭一样，在一个应用要领中一起责任。因此，它在其中的一切都是一致的。

但这是一个遗迹。让咱们望望这里有一些东西。这里有MV集结，PCI Express在底部，一个是CPU芯片到芯片集结。但愿它照旧插好了。

是以这是Grace Blackwell系统，但还有更多。统统的规格都很棒，但咱们需要无数的新功能，以便在物理极限除外推动极限，咱们但愿老是取得更多的X身分。因此，咱们作念了一件事，咱们发明了另一个Transformer引擎，第二代。它具有动态和自动地从新缩放和从新锻造数值格式为较低精度的能力。记着，东谈主工智能是对于概率的。因此，你大致有1.7乘以1.4大致等于其他东西。这特地旨吗？因此，在研究的特定阶段保留必要的精度和范围极度迫切。

因此，这不单是是咱们遐想了一个更小的ALU的事实。宇宙不是那么不祥。你必须弄明晰你何时不错在屈指可数个GPU上运行数周又数周的狡计中使用它，何况你但愿确保进修责任简略拘谨。

因此，这个新的Transformer引擎，咱们有第五代MV Link。它现在是Hopper的两倍快，但极度迫切的是，它在会聚中有狡计。因为当你有这样多不同的GPU一起责任时，咱们必须与相互分享咱们的信息。咱们必须相互同步和更新。偶尔，咱们必须减少部分居品，然后将部分居品从新播送回其他统统东谈主。因此，有许多所谓的all reduce和all to all和all gather，这都是这个同步和集体的一部分，这样咱们就不错让GPU相互配合，领有极其快速的集结，并简略在会聚中进行数学狡计，使咱们简略进一步放大。

因此，尽管它是1.8TB每秒，但施行上比这个高得多。因此，它是Hopper的许多倍，超等狡计机一语气运行数周的可能性简直为零。原因是因为同期有这样多组件在责任。统计上，它们一语气责任的概率极度低。因此，咱们需要确保，只须咱们简略，咱们就会尽可能时常地检查点和从新启动。

但如若咱们有能力提前检测到一个弱芯片或一个弱节点，咱们不错退役它，也许换入另一个处理器。保持超等狡计机应用率高的能力，寥落是当你刚刚破费20亿好意思元建造它时，极度迫切。

因此，咱们加入了一个Ras引擎，一个可靠性引擎，它对Blackweld芯片上的每一个门，每一个内存位进行100%的自测试和系统测试以及统统伙同到它的内存。这就好像咱们用来测试咱们芯片的高档测试仪随每个芯片一起发货一样。这是咱们第一次这样作念。超等抖擞。安全AI。

彰着，只须此次会议才会为Ras饱读掌，安全AI。彰着，你刚刚破费了数亿好意思元创建了一个极度迫切的AI。而且，这个AI的智能是编码在参数中的。你但愿一方面确保你不会丢失它，另一方面确保它不会被浑浊。因此，咱们现在有能力加密数据，虽然，在静止时，但也在传输中。当咱们狡计时，它都是加密的。因此，咱们现在有能力在传输中加密，当咱们狡计时，它在一个受信任的，受信任的引擎环境中。终末一件事是解压缩。当狡计如斯之快时，将数据移入和移出这些节点变得极度迫切。因此，咱们加入了一个高线速压缩引擎，有用地将数据以20倍的速率移入和移出这些狡计机。这些狡计机是如斯坚硬，投资如斯巨大，咱们最不想作念的即是让它们逍遥。因此，统统这些功能都旨在尽可能地保持Blackwell的供应并尽可能艰巨。总的来说，与Hopper比拟，它的FPA性能提高了两倍半，每芯片用于进修。它还具有这种称为FP6的新格式，因此，即使狡计速率疏浚，由于内存的带宽被放大，因为你不错在内存中存储的参数目现在被放大了。FP4施行上使浑沌量翻了一番。

这对于推理至关迫切。越来越明晰的一件事是，当你在另一边使用狡计机与AI交互时，当你与聊天机器东谈主聊天时，当你要求它审查或生成图像时，记着，背后是一个GPU在生成token。有些东谈主称之为推理，但更妥贴的说法是生成，往时的狡计是检索。你会提起你的手机，你会触摸一些东西，一些信号就会发出去。基本上是一封电子邮件发送到某个所在的一些存储。有事先录制的内容。有东谈主写了一个故事，有东谈主制作了一个图像，有东谈主录制了一个视频。那些事先录制的内容然后被流回笔直机上，并基于推选系统以某种方式从新组合，向你展示信息。你知谈，在改日，大部老实容都不会被检索。原因是因为那是由不了解高下文的某东谈主事先录制的，这即是为什么咱们必须检索这样多内容的原因。如若你不错与了解高下文的AI一起责任，并为你生成信息，就像你心爱的那样，咱们勤俭的能源，咱们勤俭的会聚带宽，咱们勤俭的挥霍时期将是巨大的。改日是生成性的，这即是为什么咱们称之为生成式AI，这即是为什么这是一个全新的行业。

咱们狡计的方式压根不同。咱们为生成式AI时间创建了一个处理器，其中最迫切的部分之一是内容token生成。咱们称之为。这种格式是FP4。好吧，这是无数的狡计。

5倍的生成token生成，5倍的Hopper推理能力似乎填塞了。但为什么要在这里停驻来？谜底是不够的。我将向你展示为什么。

我将向你展示什么。因此，咱们想要一个更大的GPU，以致比这个更大的GPU。因此，咱们决定膨大它并贯注到，但启航点，让我告诉你咱们在往时八年中如何膨大，咱们将狡计增多了1000倍。八年1000倍。追念一下摩尔定律的好意思好时光，它是2倍，好吧，5倍每个什么？10倍每5年。这是最不祥的舆图。10倍每5年。10年100倍。在PC创新的黄金时间中间，每10年增长100倍。每10年100倍。在往时的八年中，咱们增长了1000倍。咱们还有两年要走。

因此，这将使其具有一定的视角。咱们正在以放荡的速率鼓动狡计，而且仍然不够快。是以咱们又造了一个芯片。这个芯片太弗成念念议了。咱们称之为MV Link开关。它是500亿个晶体管。它简直和Hopper一样大。这个开关上有四个MV集结，每个都是1.8TB每秒。正如我提到的，它在里面有狡计。这个芯片是作念什么用的？如若咱们要构建这样的芯片，咱们不错让每个GPU同期以全速与每个其他GPU通讯。这太放荡了。

这以致没特地旨。但如若你能作念到这小数，如若你能找到一种方法来作念到这小数，并构建一个资本效益的系统来作念到这小数，那将是何等令东谈主难以置信，咱们不错通过一致的集结使统统这些GPU有用地成为一个巨大的GPU。

为了使其资本效益，这个芯片必须简略径直驱动铜。这个芯片的文凭是一个了不得的发明，这样咱们就不错构建一个看起来像这样的系统。

现在，这个系统有点放荡。这是一个DGX。这即是DGX现在的花式。记着，就在六年前，它很重，但我照旧能抬起来的。我把第一台DGX1交给了OpenAI和那里的研究东谈主员。它在，你知谈，图片在互联网上，咱们都签名了。如若你来我的办公室，它是签名的。这真实很漂亮，但你不错抬起来。

这个DGX，趁机说一下，是170 teraflops，如若你不熟悉编号系统，那是0.17 pedoflops。是以这是720。我第一次交给OpenAI的是0.17。你不错四舍五入到0.2，没什么区别。但那时候就像，哇，你知谈，再多30个teraflops。因此，这现在是720 pedoflops，简直是一个用于进修的Xaflop，宇宙上第一个在一个机架上的Xaflop机器。

趁机说一下，目下全球只须2、3个exaflops机器。因此，这是一个Xaflop AI系统，只须一个机架。好吧，让咱们望望背面。是以这是让它成为可能的东西。这即是背面。这即是，这即是背面。DGX MV Link脊椎，130TB每秒通过阿谁底座。那是超过互联网总带宽的团员带宽。

因此，咱们基本上不错在一秒钟内将统统东西发送给每个东谈主。因此，咱们统共有5000根MV link电缆，统共两英里。现在，这是惊东谈主的事情。如若咱们不得不使用光学，咱们将不得不使用收发器和重定时器。而这些收发器和重定时器仅需蹧跶20，000瓦，2千瓦的电力，仅用于驱动enveloent脊椎。因此，咱们通过MV Link开关完全免费完成了这项责任，因此咱们简略为狡计勤俭20千瓦。通盘机架是120千瓦。因此，那20千瓦有很大的不同。它是液体冷却的。进水温度是25摄氏度，大致是室温。出水温度是45摄氏度，大致是你的推拿浴缸温度。是以室温进来，推拿浴缸温度出来，每秒两升。

咱们可能卖出60万个外围招引部件。有东谈主也曾说过，你们知谈，你们制造GPU，咱们确乎制造GPU，但这即是GPU对我来说的花式。当有东谈主说GPU时，我两年前看到的GPU是HGX，它是70，35，000个部件。咱们现在的GPU有60万个部件，重3000磅。3000磅。3000磅。这有点像你知谈的碳纤维法拉利的分量。我不知谈这是否有用，但每个东谈主都在说，我嗅觉到它，我嗅觉到它。我现在提到这个，我嗅觉到它了。我不知谈3000磅是什么？好吧，是以3000磅，一吨半。是以它还不像大象那么重。这即是DGX的花式。

现在让咱们望望它在运行中是什么花式。好的，让咱们想象一下，咱们如何让这个责任起来，这意味着什么？嗯，如若你要进修一个GPT模子，一个1.8万亿参数模子，彰着大致需要三到五个月的时期，使用25，000个安培。如若咱们用Hopper来作念，可能需要8000个GPU，何况会消耗15兆瓦。8000个GPU和15兆瓦，它会需要90天，大致三个月的时期。这将允许你进修一个，你知谈的，这种草创性的AI模子。这彰着不像任何东谈主想象的那么上流，但这是8000个GPU。这仍然是一大笔钱。是以8000个GPU，15兆瓦，如若你用Blackwell来作念，只需要2000个GPU。2000个GPU，相似的90天。但这是惊东谈主的部分，只需要四兆瓦的电力。

咱们的目的是接续质问资本和与狡计干系的能源消耗，它们是径直成正比的，这样咱们就不错连续膨大和升级咱们为了进修下一代模子而必须进行的狡计。

进修推理或生成极度迫切，极度迫切。你知谈，现在Nvidia GPU在云中的使用时期大致有一半是用来生成Token的。你知谈，它们要么在作念副驾驶，要么在作念聊天，你知谈的，ChatGPT或者其他你与之互动的不同模子，或者生成图像或视频，生成卵白质，生成化学物资。统统这些都是基于咱们称之为推理的狡计类别。

但对于大型谈话模子来说，推理詈骂常艰苦的，因为这些大型谈话模子有几个特质。启航点，它们极度大，是以它不适合在一个GPU上。这即是想象Excel不适合在一个GPU上。你知谈，想象你日常运行的某个应用要领不适合在一台狡计机上，就像一个视频游戏不适合在一台狡计机上。而且事实上，大多数应用要领在往时的超大鸿沟狡计中，许多东谈主的应用要领都适合团结台狡计机。

现在陡然出现了一个推理当用要领，你正在与这个聊天机器东谈主互动。这个聊天机器东谈主需要一个超等狡计机在后端运行它。这即是改日，这些聊天机器东谈主是生成性的，这些聊天机器东谈主少见万亿的Token，数万亿的参数，它们必须以交互速率生成Token。

现在，这意味着什么？好吧，3个Token大致是一个单词，咱们正在尝试生成这些Token。当你与它互动时，你但愿Token尽快回到你身边，尽可能快地阅读它。是以生成Token的能力极度迫切。你必须在这个模子的多个GPU上分派责任，这样你就不错完毕几件事情。

一方面，你但愿有浑沌量，因为浑沌量质问了生成每个Token的资本。是以你的浑沌量决定了就业的资本。另一方面，你有一个交互速率，即每秒生成的Token数，这与每个用户的就业质地关联。是以这两件事相互竞争，咱们必须找到一种方法，在统统这些不同的GPU上分派责任，并以一种使咱们简略完毕两者的方式瘫痪它。

事实评释注解，搜索空间是巨大的。你知谈，我告诉你会波及到数学，每个东谈主都在说，哦，亲爱的，我刚才看到有东谈主喘息，当我挂上那张幻灯斯须。

你望望，这个右边的y轴是每秒数据中心浑沌量的Token。x轴是每秒交互性的Token。贯注右上角是最好的。你但愿交互性极度高。每个用户的每秒Token数。你但愿每秒每个数据中心的Token数极度高。右上角詈骂常好的。

但是，这极度艰苦。为了让咱们简略在每一个这些交叉点，x、y坐标上找到最好谜底，你必须检察每一个x、y坐标。统统这些蓝色的点都来自某种从新分区的软件。

一些优化科罚决策必须去找出是否使用张量并行、巨匠并行、活水线并行或数据并行，并将这个巨大的模子分散在统统这些不同的GPU上，并保持你需要的性能。如若莫得Nvidia GPU的可编程性，这个探索空间将是弗成能的。是以咱们不错，因为有了CUDA，因为咱们有如斯丰富的生态系统，咱们不错探索这个寰宇并找到阿谁绿色的屋顶线。你会发现你得到了TP2、EPA、DP4，这意味着在两个GPU上进行2个并行，8个巨匠并行，4个数据并行。贯注在另一端，你有4个张量并行和16个巨匠并行。这个软件的竖立、分散，它是一个不同的运行时，会产生这些不同的斥逐。你必须去发现阿谁屋顶线。好吧，这只是一个模子。这只是一个狡计机竖立。想象一下全宇宙正在创造的统统模子和统统不同的系统竖立。

是以现在你融会了基础知识，让咱们来望望Blackwell与Hopper的推理比较。这是一件了不得的事情，因为咱们创造了一个为万亿参数生成性AI遐想的系统，Blackwell的推理能力是惊东谈主的。事实上，它是Hopper的30倍。对于像ChatGPT这样的大型谈话模子，蓝线是Hopper。我给了你，想象咱们莫得改变Hopper的架构，咱们只是让它变成了一个更大的芯片。咱们只是使用了最新的、最棒的10TB每秒。咱们将两个芯片伙同在一起。咱们得到了这个巨大的2080亿参数芯片。如若咱们莫得改变其他任何东西，咱们的施展会若何？斥逐极度出色。这即是紫色线，但不如它可能的那么好。这即是FP4张量中枢、新的变换器引擎，以及极度迫切的MV长度开关的原因。统统这些GPU都必须分享斥逐，部分居品，每当它们进行统统到统统集结时，每当它们相互通讯时。MV集结开关的通讯速率简直是咱们往时使用最快会聚的10倍。

好的，是以Blackwell将是一个惊东谈主的生成性AI系统。在改日，数据中心将被看作是AI工场。AI工场的糊口目的是在这个设施中产生收入，产生智能，而不是像上一次工业革掷中的交流发电机那样产生电力。这种能力极度迫切。

Blackwell的抖擞进程真实极度高。你知谈，当咱们一年半前，两年前，我想，两年前当咱们运行推出Hopper时，咱们有幸有两家CSP加入咱们的发布会，咱们极度散逸。是以咱们现在有更多的客户了。

对Blackwell的抖擞进程难以置信。难以置信。而且有各式万般的竖立。虽然，我向你展示了滑入Hopper外形尺寸的竖立，是以升级很容易。

我向你展示了一些例子，它们是液体冷却的，是它的顶点版块。通盘机架通过MV Link 672伙同。Blackwell将向全宇宙的AI公司推出，现在有这样多公司在不同的模态中作念着惊东谈主的责任。每个CSP都准备好了。统统OEM和ODM，区域性云，主权AI和全球电信公司都在签约推出Blackwell。

Blackwell将成为咱们历史上最告捷的居品发布，是以我迫不足待地想看到那一天。我想感谢一些合作伙伴加入咱们。AWS正在为Blackwell作念准备。他们将建立第一个GPU，即安全AI。他们正在构建一个222 x FLOPS的系统。

你知谈，就在刚才，当咱们激活数字孪生时，如若你看到了，统统这些集群都下来了。趁机说一下，那不单是是艺术，那是咱们正在建造的数字孪生。它将有多大。除了基础设施，咱们还在与AWS一起作念许多事情。咱们的Cuda正在加快Sagemaker AI。

Amazon Robotics正在使用Nvidia Omniverse和Isaac Sim与咱们合作。AWS Health照旧将Nvidia Health集成到其中。是以AWS真实深入到了加快狡计。Google也在为Blackwell作念准备。GCP照旧领有了数百个H1、T Force、L Force，一系列Nvidia CUDA GPU。他们最近晓示了一个启航点统统这些的Gemma模子。咱们正在努力优化和加快GCP的每一个方面。

咱们正在加快数据处理引擎Data Procs，他们的数据处理引擎Jax，XLA，Vertex AI，以及用于机器东谈主的Mujoko。是以咱们正在与Google和GCP合作，启航点一系列倡议。Oracle正在为Blackwell作念准备。Oracle是咱们Nvidia DGX Cloud的伟大合作伙伴，咱们也在一起加快一些对许多公司来说极度迫切的事情，Oracle数据库。

Microsoft正在加快，何况正在为Blackwell作念准备。Microsoft，Nvidia与Microsoft有着世俗的合作伙伴关系。咱们正在加快，不错加快你在Microsoft Azure中聊天时使用的许多就业，彰着是AI就业，很可能是Nvidia在后台进行推理和生成Token。

咱们建造了，他们建造了最大的Nvidia Finiband超等狡计机，基本上是咱们的数字孪生或物理孪生。咱们正在将Nvidia生态系统帅到Azure。Nvidia作念了你的云到Azure。Nvidia Omniverse现在托管在Azure中，Nvidia Healthcare在Azure中，统统这些都与Microsoft Fabric深度集成和伙同。通盘行业都在为Blackwell作念准备。

这即是我要向你们展示的。你们迄今为止看到的大多数Blackwell场景都是Blackwell的全保真遐想，咱们公司中的每一件事都有一个数字孪生。事实上，这个数字孪生的见识真实在传播，它匡助公司第一次就完好意思地构建极度复杂的东西。还有什么比创建一个数字孪生更令东谈主抖擞的呢？建造一个在数字孪生中建造的狡计机。是以让我向你们展示Wistron正在作念什么。

为越过志Nvidia加快狡计的需求。Wistron，咱们的启航点制造合作伙伴之一，正在使用Omniverse SDK和API开发的自界说软件，为他们的新工场建立Nvidia DGX和HGX工场历史记载的数字孪生。Wistron从数字孪生运行，将他们的多CAD和工艺仿真数据捏造整合到协调视图中。在这个物理精确的数字环境中测试和优化布局，提高了工东谈主效劳51%。在建立过程中，Omniverse数字孪生被用来考证物理构建是否适应数字筹划。早期识别任何各别有助于幸免上流的变更订单，斥逐令东谈主印象深刻。使用数字孪生匡助Wistron的工场在一半的时期内上线，只需两个月半而不是五个月进入运营。Omniverse数字孪生匡助快速回退，测试新布局以适应新工艺或改善现存空间中的操作，并使用来自出产线上每台机器的及时IoT数据监控及时操作，最终使Wistron将端到端周期时期镌汰了50%，劣势率质问了40%。有了Nvidia AI和Omniverse，Nvidia的全球合作伙伴生态系统正在建立一个新的加快AI启用的数字化时间。

这即是咱们将要作念的事情。将来咱们会启航点在数字上制造一切，然后才会在物理上制造。东谈主们问我，是奈何运行的？是什么让你们如斯抖擞？是什么让你们决定任重道远进入到这个弗成念念议的想法中？即是这样。等一下，伴计们。那将是一个如斯的时刻。那即是当你不排演时会发生的事情。

黄仁勋先容英伟达的AI微就业NIM

这是你们知谈的，这是2012年的第一次战役，Alex Net。你把一只猫放进这台电脑，它出来说猫。你把100万个数字通过三个通谈，RGB。这些数字对任何东谈主来说都毫意外旨。你把它放进这个软件，它会压缩它，减少它。它把它从一百万维减少到三个字母，一个向量，一个数字，它是泛化的。你不错有不同种类的猫，你不错有猫的前边和背面。你看着这个东西，你说，难以置信。你的酷爱是任何猫？是的，任何猫。它简略识别统统这些猫。咱们意志到它是如何作念到的，系统地，结构性地，它是可膨大的。你不错作念得有多大？嗯，你想作念多大就作念多大。是以咱们想象这是一种全新的编写软件的方式。今天，如你所知，你不错输入单词C，A，T，出来的是一只猫。它走了另一条路。我对吗？难以置信。奈何可能？即是这样。奈何可能你拿了三个字母，却从中生成了一百万像素，而且它特地旨。那恰是遗迹。

而在这里，就在十年后，咱们识别文本，咱们识别图像，咱们识别视频和声息，咱们不仅识别它们，咱们融会它们的含义。这即是为什么我不错和你聊天的原因。它不错为你总结。它融会文本。它不仅识别英语，它融会英语。它不仅识别像素，它融会像素。你以致不错在两种模态之间进行条件设立。你不错用谈话来条件图像，并生成各式真理的事情。如若你能融会这些东西，你还能融会你数字化的其他东西吗？咱们之是以从文本和图像运行，是因为咱们数字化了这些东西。但是咱们还数字化了什么？事实评释注解，咱们数字化了许多。卵白质、基因和脑波。只须你能数字化的东西，只须它们的结构，咱们可能就能从中学到一些模式。如若咱们能从中学到模式，咱们可能就能融会它的含义。如若咱们能融会它的含义，咱们可能就能生成它。是以，生成性AI创新就在这里。

那么咱们还能生成什么呢？咱们还能学到什么？咱们想学的其中一件事是欢腾。咱们想学顶点天气。咱们想学如何预测改日天气，以填塞高的鉴识率在区域圭表上，这样咱们才能在危急驾临之前让东谈主们隔离危急。

顶点天气给宇宙形成了1500亿好意思元的亏损，虽然不啻这个数字。而且它不是均匀分散的。1500亿好意思元集会辞宇宙上某些地区，虽然，对宇宙上某些东谈主来说。咱们需要适应，咱们需要知谈行将发生什么。是以咱们正在创建Earth 2，一个用于预测天气的地球数字孪生。咱们发明了一个超卓的发明，叫作念Core Diff，使用生成性AI以极高鉴识率预测天气的能力。让咱们来望望。

跟着地球欢腾的变化，AI驱动的天气预测使咱们简略更准确地预测和追踪像2021年在台湾过甚左近地区形成世俗残害的超等台风Chanthu这样的严重风暴。面前的AI预测模子不错准确预测风暴的旅途，但它们的鉴识率收尾在25公里，可能会错过迫切的细节。Nvidia的Core Diff是一个创新性的重生成性AI模子，它在高鉴识率雷达、同化WARF天气预测和ERA5再分析数据上进行了进修。使用Core Diff，像Chanthu这样的顶点事件不错从25公里的鉴识率超鉴识率到2公里，速率是传统天气模子的1000倍，能源效劳是传统天气模子的3000倍。通过结合Nvidia的天气预测模子Forecast Net和像Core Diff这样的生成性AI模子的速率和准确性，咱们不错探索数百以致数千公里圭表的区域天气预测，以提供最准确、最糟糕和最可能的风暴影响的知道画面。这些丰富的信息不错匡助减少生命和财产的亏损。今天，Core Diff针对台湾进行了优化，但很快，生成性超采样将成为Nvidia Earth 2推理就业的一部分，为全球许多地区提供就业。

天气公司必须信任全球天气预测的开端。咱们正在群策群力加快他们的天气模拟。启航点是原则基础的模拟。但是，他们也将要整合Earth 2和Core Diff，这样他们就不错匡助企业和国度进行区域高鉴识率天气预测。是以如若你有一些天气预测，你想知谈的话，不错研究天气公司。极度令东谈主抖擞的责任。

视频医疗保健，这是咱们15年前运行的。咱们对此极度抖擞。不管是医学成像、基因测序照旧狡计化学。很可能Nvidia是背后的狡计。咱们在这个领域作念了这样多责任。今天，咱们晓示咱们将要作念一些极度酷的事情。

想象统统这些用于生成图像和音频的AI模子，但不是图像和音频，因为它融会图像和音频，统统咱们照旧完成的基因和卵白质的数字化，这些数字化能力现在通过机器学习传递，使咱们融会生命谈话，融会生命谈话的能力。虽然，咱们第一次看到它的字据是在alpha fold中。这真实是一个极度超卓的事情，在几十年的糟糕责任后，宇宙只使用冷冻电子显微镜或晶体X射线晶体学等不同技能，辛劳地重建了卵白质，200，000个，只用了不到一年的时期，Alpha Fold就重建了2亿个卵白质，基本上是每个被测序的生物。这完全是创新性的。嗯，这些模子对于东谈主们来说极度难以使用。是以咱们要作念的是，咱们将为全宇宙的研究东谈主员构建它们。而且不会只须一个。还会有咱们创建的许多其他模子。是以让我向你们展示咱们将要作念什么。

新药物的捏造筛选是一个狡计上难以科罚的问题。现存技能只可扫描数十亿种化合物，何况需要在数千个方法狡计节点上破费数天时期来识别新的药物候选者。Nvidia Bio Nemo和Nims通过使用Nims进行卵白质结构预测，结合Alpha Fold分子生成和Mole MIM对接，以及Diff DOC，咱们现在不错在几分钟内生成和筛选候选分子。Malmim不错伙同到自界说应用要领，以率领生成过程，迭代优化所需属性。这些应用要领不错使用Bio Nemo微就业界说，也不错从新构建。在这里，一个基于物理的模拟优化了分子与目的卵白质结合的能力，同期优化了其他故意的分子属性。同期，malmim生成高质地、药物样的分子，这些分子简略与目的结合何况不错合成，从而提高了开发告捷药物的概率。更快。Bio Nemo正在启用药物发现的新范式，Nims提供按需微就业，不错组合构建坚硬的药物发现责任经由，如De Novo卵白质遐想或率领分子生成用于捏造筛选。Bio nemo Nims正在匡助研究东谈主员和开发东谈主员从新发明狡计药物遐想。

Nvidia，Momam，Corediff，还有许多其他的模子，狡计机视觉模子，机器东谈主模子，以致一些极度棒的开源谈话模子。这些模子是草创性的。但是，对于公司来说很难使用。你将如何使用它？你将如何将其引入你的公司并集成到你的责任经由中？你将如何打包它并运行它？还难无私之前说过的推理是一个超卓的狡计问题吗？你将如何为每一个模子进行优化，并拼装必要的狡计堆栈，以便你不错在你的公司运行这些模子。是以咱们有一个伟大的想法。咱们将发明一种新的领受和操作软件的方式。这个软件基本上在一个数字盒子里，咱们称之为容器，咱们称之为Nvidia Inference Micro Service，简称Nim。我想向你解释一下它是什么。一个Nim。它是一个预进修的模子。是以它极度精通。它被打包并优化，不错在Nvidia的装配基础上运行，这个基础极度浩大。里面的东西令东谈主难以置信。你有统统这些预进修的矫健的VR开源模子。它们可能是开源的，可能是咱们的合作伙伴之一，可能是咱们我方创建的，就像视频时刻一样，它被打包，包括统统的依赖项。

是以CUDA，正确版块的cuDnn，tensor RTLM，分散在多个GPU上，尝试一个推理就业器，统统这些都完全打包在一起。它针对你是否领有单个GPU、多个GPU或多个节点的GPU进行了优化，何况通过API伙同，这些API极度不祥易用。

现在想象一下AI API是什么，一个你只需要与之对话的接口。是以这个软件在改日将有一个极度不祥的API，阿谁API叫作念东谈主类。这些软件包，令东谈主难以置信的软件体，将被优化和打包。咱们将把它放在网站上。你不错下载它，你不错带走它，你不错在职何云中运行它，你不错在我方的数据中心运行它，如若它适合的话，你不错在责任站上运行它。你所要作念的即是来到AI Nvidia.com。咱们称之为Nvidia Inference Microservice，但在公司里面，咱们都称之为Nims。

想象一下，你知谈，总有一天会有一个这样的聊天机器东谈主，这些聊天机器东谈主将只是在一个m中，你将拼装一堆聊天机器东谈主。这即是软件改日将被构建的方式。

咱们如安在改日构建软件？你不太可能从新运行编写它，或者编写一大堆Python代码或雷同的东西。你很可能会拼装一个AI团队。可能有一个超等AI，你使用它给你的任务，它会将其领悟成一个实行筹划。

这个实行筹划的一部分可能会交给另一个Nim，阿谁Nim可能融会SAP。SAP的谈话是ABAP。它可能融会Service Now并从他们的平台上检索一些信息。然后它将把阿谁斥逐交给另一个Nim，阿谁Nim去作念一些狡计。也许是一个优化软件，一个组合优化算法。也许是，你知谈，一些，只是一些基本的狡计器。也许是pandas作念一些数值分析。然后它带着谜底回首，何况它得到了每个东谈主的谜底的组合，因为它被呈现了正确的谜底应该是什么花式。它知谈正确的谜底是什么，何况它会向你呈现。

咱们不错每天在，你知谈，每小时的顶部得到一个申报，它与构建筹划或一些预测或一些客户警报或一些伪善数据库或不管它是什么关联。咱们不错使用统统这些名字来拼装它。因为这些NIMs照旧被打包并准备好在你的系统上责任，只须你的数据中心或云中有Nvidia GPU，这些NIMs，它们将动作一个团队一起责任，作念一些惊东谈主的事情。是以咱们决定这是一个如斯伟大的想法，咱们要去作念。是以Nvidia在公司各处都在运行MEMS。咱们在各处创建聊天机器东谈主。最迫切的聊天机器东谈主之一虽然是芯片遐想师聊天机器东谈主。你可能不会感到惊诧。咱们极度眷注制造芯片。是以咱们想要构建聊天机器东谈主，AI副驾驶与咱们的工程师共同遐想。是以咱们是这样作念的。是以咱们得到了一个Lama 2。这是一个70B。你知谈，它被打包在一个Nam中。咱们问它，你知谈，CTL是什么。斥逐发现CTL是一个里面要领，有一个里面独到谈话，但它认为CTL是组合时序逻辑。是以它相貌了CTL的老例知识，但这对咱们来说并不是很有用。是以咱们给了它一堆新的例子。你知谈，这和职工入职莫得什么不同。咱们说，谢谢你的谜底。这完全是伪善的。然后咱们向他们展示了，这即是Nvidia的CTL。好的。是以这即是Nvidia的CTL。正如你所看到的，CTL代表狡计追踪库，这是特地旨的。你知谈，咱们一直在追踪狡计周期。我写了这个要领。这很了不得吗？

是以咱们的芯片遐想师的出产力不错提高。这是你不错用Nim作念的第一件事。你不错定制它。咱们有一个叫作念Nemo Microservice的就业，不错匡助你计议数据，准备数据，这样你就不错教这个AI。你不错微调它们，然后你不错设立鸿沟。你以致不错评估谜底，评估其性能与其他例子比拟。是以这叫作念Nemo Microservice。

现在，这里出现的是三个元素，三个支撑，咱们正在作念的事情。第一个支撑虽然是发明AI模子的技能，运行AI模子，并为你打包。启航点是领有AI技能。第二是匡助你修改。第三是为你微调的基础设施。如若你心爱部署它，你不错在咱们的基础设施上部署它，叫作念DGX Cloud，或者你不错在土产货部署。一朝你开发了它，它即是你的，你不错把它带到任何所在。是以施行上咱们是一个AI锻造厂。咱们将为你和行业作念AI，就像TSMC为咱们制造芯片一样。是以咱们带着咱们的大想法去找TSMC，他们制造了它，咱们带着它走了。是以这里完全一样，AI锻造厂。这三个支撑是Nims，Nemo微就业和DGX Cloud。

你还不错教Nim融会你的独到信息。记着，在咱们公司里面，咱们的数据大部分不在云中。它在咱们的公司里面。它一直在那里被使用。而且天哪，它基本上是拖拉的智能。咱们想拿走这些数据，学习它的含义，就像咱们学习简直任何咱们刚才谈到的其他东西的含义一样，学习它的含义，然后将这些知识从新索引到一种叫作念向量数据库的新类型的数据库中。是以你施行上是拿走结构化数据或非结构化数据，你学习它的含义，你编码这个含义。

是以现在这变成了一个AI数据库。在改日，一朝你创建了它，你不错和它对话。是以让我给你一个例子。假定你创建了一个，你有一堆多模态数据，一个很好的例子是PDF。是以你拿走PDF，你拿走你统统的pdf，统统的，哦，你最心爱的，你知谈，对你公司来说至关迫切的东西，你不错编码它，就像咱们编码猫的像素一样。它变成了向量，现在存储在你的向量数据库中。它变成了你公司的独到信息。一朝你有了这些独到信息，你不错和它聊天。它是一个智能数据库，是以你只是和数据聊天。和你聊天有多欢腾？你知谈，对于咱们的软件团队来说，他们只是和伪善数据库聊天，你知谈，昨晚有几许伪善？咱们有莫得任何进展？然后和你完成和这个伪善数据库的对话后，你需要调治。是以，咱们还有另一个聊天机器东谈主给你。你不错作念。

好的，是以咱们称之为Nemo检索器。之是以这样称呼，是因为最终它的责任是尽快检索信息。你只是和它聊天，嘿，检索这个信息给我。它去了，它把它带回首给你。你是说这个酷爱吗？你去了，是的，完好意思。好的。是以这即是所谓的Nemo检索器。Nemo就业匡助你创建统统这些东西。咱们有统统这些不同的NIMs。咱们以致少见字东谈主类的称呼。我是Rachel。

你的AI照应司理。

好的，是以这是一个极度短的视频，但有许多视频要向你展示。我想是因为有许多其他的演示要向你展示，是以我不得不镌汰这个视频。但这是Diana。她是一个数字东谈主类Nim。你只是和她交谈，她在这个案例中伙同到了Hippocratic AI的医疗保健大型谈话模子。这真实很神奇。她对医疗保健的事情极度了解，你知谈的。是以经过我的Dwight，我的软件工程副总裁与伪善数据库聊天之后，你过来和Diane聊聊。Diane完全由AI动画制作，她是一个数字东谈主类。

有许多公司想要建造。他们坐拥金矿。企业IT行业坐拥金矿。这是一座金矿，因为他们对责任方式有着深刻的融会。他们领有多年来创造的统统这些惊东谈主的器具，他们坐拥无数数据。如若他们能将这些金矿编削为副驾驶，这些副驾驶不错匡助咱们作念一些事情。是以简直每个IT专营权，简直每个领有东谈主们使用的有价值器具的IT平台，都坐拥着副驾驶和聊天机器东谈主的金矿。

需求疲软硅上下游僵持博弈，本周二北方大厂报价下调让利出货，普遍低于其他硅供应商报价。成交情况稍有好转然不及预期，下游对后市价格走势不明确，实际采购仍以刚需备货居多。

现在运行着宇宙上85%的资产500强公司的东谈主力和客户就业运营的Service Now。他们正在使用Nvidia AI Foundry构建Service Now Assist捏造助手。

Cohecity救济着宇宙上的数据。他们坐拥着金矿，数百艾字节的数据，超过10，000家公司，Video AI Foundry正在与他们合作，匡助他们构建Gaia生成性AI代理。

Snowflake是一家在云中存储宇宙数字仓库的公司，每天为10，000家企业客户处理超过30亿次查询。Snowflake正在与Nvidia AI Foundry合作，使用Nvidia Nemo和Nims构建副驾驶。

宇宙上近一半的文献存储在土产货，使用NETA和Video AI。AI Foundry正在匡助他们构建聊天机器东谈主和副驾驶，就像那些向量数据库和检索器一样，使用Nvidia、Nemo和Nims。咱们与Dell有着极佳的合作关系。每个正在构建这些聊天机器东谈主和生成性AI的东谈主，当你准备运行它时，你将需要一个AI工场。莫得东谈主比Dell更擅长为企业构建大鸿沟的端到端系统。是以任何东谈主，任何公司，每家公司在建造AI工场时都需要接洽这小数。

黄仁勋先容AI机器东谈主技能

好的，让咱们来谈谈机器东谈主技能的下一个波浪，AI机器东谈主技能的下一个波浪。到目下为止，咱们褒贬的统统AI都是一台狡计机。数据以数字文本的形势进入一台狡计机。AI通过阅读无数谈话来师法咱们，预测下一个单词。它通过研究统统模式和统统其他先前的例子来师法你。虽然，它必须融会高下文等等。但一朝它融会了高下文，它施行上是在师法你。咱们将所少见据放入一个系统，如DGX，咱们将其压缩成一个大型谈话模子。数万亿的参数变成了数十亿。数万亿的Token变成了数十亿的参数。这些数十亿的参数变成了你的AI。

好吧，为了进入AI的下一个波浪，即AI融会物理宇宙的波浪，咱们需要三台狡计机。第一台狡计机仍然是疏浚的狡计机。它是那台AI狡计机，现在将不雅看视频，也许它正在进行合成数据生成。也许会有许多东谈主类的例子，就像咱们有东谈主类文本形势的例子一样，咱们将有东谈主类在动作形势上的例子。AI将不雅察咱们，融会发生了什么，并尝试将其适应为我方在高下文中的行动。因为它不错用这些基础模子进行泛化，是以也许这些机器东谈主也不错在物理宇宙中相配泛化地实行任务。是以我刚刚用极度不祥的术语相貌了大型谈话模子施行上发生的事情，除了ChatGPT时刻，机器东谈主技能的时刻可能就在拐角处。是以咱们照旧为机器东谈主技能构建了端到端系协调段时期了。

我为这项责任感到极度自重。咱们有AI系统，DGX。咱们有初级系统，称为AGX，用于自主系统，这是宇宙上第一个机器东谈主处理器。当咱们第一次构建这个东西时，东谈主们问，你们在建造什么？它是一个SoC。它是一个芯片。它旨在极度低功耗，但它旨在高速传感器处理和AI。是以如若你想在汽车中运行变换器，或者你想在职何移动的东西中运行变换器，咱们有完好意思的狡计机给你。它叫作念Jetson。是以顶部的DGX用于进修AI，Jetson是自主处理器。在中间，咱们需要另一台狡计机。而大型谈话模子必须从你提供的例子中受益，然后进行东谈主类反映的强化学习。那么机器东谈主的强化学习东谈主类反映是什么呢？好吧，它是强化学习物理反映。这即是你如何让机器东谈主对皆。这即是你让机器东谈主知谈，当它学习这些动作能力和主管能力时，它将适当地适应物理定律。是以咱们需要一个代表宇宙数字的模拟引擎，让机器东谈主有一个健身房去学习如何成为机器东谈主。咱们称之为捏造宇宙Omniverse。运行Omniverse的狡计机叫作念OVX。而OVX狡计机自己，托管在Azure云中。

好的，是以基本上咱们建造了这三样东西，这三套系统。在它们之上，咱们为每一个都有算法。现在我要给你们展示一个超等例子，展示AI和Omniverse如何一起责任。我要给你们看的例子是放荡的，但它将极度接近翌日。这是一个机器东谈主建筑。这个机器东谈主建筑叫作念仓库。在机器东谈主建筑里面有一些自主系统。一些自主系统将被称为东谈主类，一些自主系统将被称为叉车。这些自主系统将相互交互，虽然，是自动的。它将由这个仓库监督，以确保每个东谈主都安全。

这个仓库施行上是一个空中交通管制员。每当它看到某件事发生时，它会从新定向交通并给出新的旅途点，给机器东谈主和东谈主们。他们将实在地知谈该作念什么。

这个仓库，这个建筑，你也不错和它交谈，虽然，你不错问它。嘿，你知谈，SAP中心，你今天嗅觉奈何样？是以你不错问仓库相似的问题。基本上，我刚刚相貌的系统将领有Omniverse Cloud，它托管着捏造模拟和在DGX Cloud上运行的AI，统统这些都在及时运行。让咱们来望望。

重工业的改日始于数字孪生。AI代理匡助机器东谈主、工东谈主和基础设施在复杂的工业空间中导航弗成预测的事件，将在精密的数字孪生中初次构建和评估。这个100，000平方英尺仓库的Omniverse数字孪天真作一个模拟环境运行，集成了数字工东谈主、AMRS运行Nvidia Isaac领受器堆栈，来自100个模拟天花板录像头的通盘仓库的集会行径舆图，使用Nvidia Metropolis和Amr阶梯蓄意与Nvidia QOP软件，在这个物理精确的模拟环境中进行的AI代理的轮回测试使咱们简略评估和完善系统如何适应现实宇宙的弗成预测性。在这里，沿着这个AMR筹划的旅途发生了一起事件，违反了它的去路。Nvidia Metropolis更新并发送了一个及时占用图到QOP，在那里狡计了一个新的最好旅途。Amr简略看到边缘周围，并应用生成性AI驱动的Metropolis Vision基础模子提高其任务效劳。运营商以致不错使用当然谈话发问。视觉模子融会机要的行径，并不错提供立即的细察力以更正操作。统统的传感器数据都是在模拟中创建的，并传递给及时运行的AI，动作Nvidia推理微就业或MEMS。当AI准备在物理孪生，即真实的仓库中部署时，咱们将Metropolis和Isaac Nimms伙同到真实传感器，并具有持续更正数字孪生和AI模子的能力。

让咱们来望望这将如何责任。咱们与西门子有一个伟大的合作伙伴关系。西门子是宇宙上最大的工业工程和运营平台。你照旧看到了这样多不同的公司在工业领域。重工业是它最伟大的终末边关之一，咱们终于领有了必要的技能来真实产生影响。西门子正在构建工业元寰宇。今天，咱们晓示西门子正在将他们的明珠加快器伙同到Nvidia Omniverse。让咱们来望望。

CMS技能每天都在为每个东谈主改变。咱们的启航点居品质命周期不断软件Tim Sendax，来自西门子加快器平台，每天被咱们的客户用来大鸿沟开发和委用居品。

现在咱们正在通过将NBDII和Omniverse技能整合到Team Center X中，将真实和附加宇宙带得更近。Omniverse API使数据互操作性和基于物理的渲染简略应用于工业鸿沟的遐想和制造姿色。咱们的客户，HD Hyundai，是可持续船舶制造的商场率领者，时常建造包含超过700万个零乱部件的氨和氢能源船。通过Omniverse API，Tim Center X让像HD Hyundai这样的公司简略交互式地协谐和可视化这些浩大的工程数据集，并集成生成性AI来生成3D对象或HRI配景，以在高下文中检察他们的姿色。斥逐是一个超直不雅的、基于物理的数字孪生，放置了挥霍和伪善，勤俭了无数的资本和时期。咱们正在为配合而建立这个，不管是跨过更多的西门子加快器器具，如西门子Annix或Star CCM+，照旧跨过团队在他们最心爱的招引上一起责任。这只是一个运行。与Nvidia合作，咱们将在西门子加快器居品组合中带来加快狡计、生成性AI和Omniverse整合。

专科的配音演员恰巧是我的好一又友，Roland Bush，他恰巧是西门子的CEO。

一朝你将Omniverse伙同到你的责任经由中，从遐想到工程，再到制造筹划，一直到数字孪生运营，一朝你将一切伙同在一起，你会惊诧地发现你不错取得几许出产力。陡然之间，每个东谈主都在团结个基技艺实的基础上运作。你不需要交换数据和调动数据，犯伪善。每个东谈主都在团结个基技艺实的基础上责任，从遐想部门到艺术部门，建筑部门，一直到工程部门，以致是商场部门。让咱们来望望日产如何将Omniverse整合到他们的责任经由中，这一切都是因为统统这些玄机的器具和咱们正在合作的开发者。来望望。

那不是动画。那是Omniverse。今天，咱们晓示Omniverse Cloud流式传输到Vision Pro，而且极度奇怪，你不错走进捏造的门。当我从那辆车里出来时，每个东谈主都这样作念。这真实极度了不得。Vision Pro伙同到Omniverse家数，让你进入Omniverse。因为统统这些CAD器具和统统这些不同的遐想器具现在都与Omniverse集成和伙同，你不错有这样的责任经由。真实弗成念念议。

让咱们来谈谈机器东谈主技能。统统会动的东西都将是机器东谈主。这小数毫无疑问。这更安全，更浅近。最大的行业之一将是汽车行业。咱们从狡计机系统运行构建了一个机器东谈主堆栈，就像我提到的，包括自动驾驶汽车，包括本年年底或来岁年头将在奔突和随后不久的捷豹路虎上出货的自动驾驶云应用要领。是以这些自主机器东谈主系统是软件界说的。它们需要无数的责任，具有狡计机视觉，彰着有东谈主工智能戒指和蓄意，统统种类极度复杂的技能，需要多年时期来完善。咱们正在构建通盘堆栈。但是，咱们为通盘汽车行业绽放了咱们的通盘堆栈。这即是咱们在每一个行业中的责任方式。咱们死力构建尽可能多的东西，以便

咱们融会它。但然后咱们将其绽放，以便每个东谈主都不错探问它，不管你是否想要购买咱们的狡计机，这是宇宙上唯独功能皆全、安全的自动驾驶汽车质地狡计机，或者上头的操作系统，或者虽然，咱们的数据中心，它基本上辞宇宙上每家自动驾驶汽车公司中。不管如何，咱们都很散逸。

今天，咱们晓示宇宙上最大的电动汽车公司比亚迪（BYD）正在采用咱们的下一代居品。它被称为Thor。Thor是为变换器引擎遐想的。咱们的下一代自动驾驶汽车狡计机Thor将被比亚迪使用。

你可能不知谈这个事实，咱们有超过一百万的机器东谈主开发者。咱们创造了Jetson，这个机器东谈主狡计机。咱们为此感到极度自重。在它上头运行的软件量是惊东谈主的，但咱们之是以简略作念到这小数，是因为它是100%代码兼容的。咱们公司所作念的一切都是为了咱们的开发者就业。通过咱们简略齰舌这个丰富的生态系统，并使其与你们从咱们这里探问的一切都兼容，咱们不错将统统这些令东谈主难以置信的能力带到这个咱们称之为Jetson的小狡计机上，一个机器东谈主狡计机。咱们今天还晓示了一个极度先进的新SDK。咱们称之为Isaac Perceptor。

今天的大多数机器东谈主都是预编程的。它们要么奴婢大地上的轨谈，要么是数字轨谈，或者它们会奴婢April标签。但在将来，它们将具有感知能力。你但愿这样是因为这样你不错简单地编程它。你说，我想让你从A点到B点，它会找出到达那里的阶梯。是以通过只编程航点，通盘阶梯不错是自适应的，通盘环境不错被从新编程，就像我在一运行展示的仓库一样。如若你使用预编程的AGV，如若那些箱子掉下来，它们就会全部堵塞在那里，恭候某东谈主算帐。

现在有了Isaac Perceptor，咱们有了令东谈主难以置信的起先进视觉里程计、3D重建，除了3D重建，还有深度感知。之是以需要这样作念，是为了让你不错用两种模式来监控宇宙上正在发生的事情。Isaac Perceptor，今天神用最多的机器东谈主是制造臂。它们亦然预编程的，狡计机视觉算法、AI算法、戒指和旅途蓄意算法都是几何感知的，狡计上极度密集。咱们照旧使这些CUDA加快。是以咱们有宇宙上第一个CUDA加快的畅通蓄意器，它是几何感知的。你把东西放在它前边，它会提倡一个新的筹划，并绕过它。它具有出色的3D物体姿态揣度的感知能力。不单是是2D中的姿态，而是3D中的姿态。是以它必须想象周围是什么，以及如何最好地收拢它。是以基础姿态、抓持基础和关键算法现在都不错使用。咱们称之为Isaac Manipulator。它们也只在VDS狡计机上运行。

咱们运行作念一些真实伟大的责任，不才一代机器东谈主技能中，很可能是类东谈主机器东谈主。咱们现在领有了必要的技能，正如我之前所相貌的，下一代机器东谈主技能很可能是一种通用的东谈主类机器东谈主。咱们知谈这小数，因为咱们有更多的师法进修数据不错提供给机器东谈主，因为咱们是以极度相似的方式构建的。很可能类东谈主机器东谈主在咱们的宇宙中会愈加有用，因为咱们创造了一个咱们不错互操作并邃密责任的宇宙。咱们设立的责任站、制造和物流，都是为东谈主类遐想的。是以这些类东谈主机器东谈主在部署时可能会愈加高效，而咱们正在创建的，就像咱们对其他机器东谈主一样，从基础模子运行，学习不雅看视频、东谈主类图像、东谈主类例子。它不错是视频形势的，也不错是捏造现实形势的。然后咱们创建了一个名为Isaac Reinforcement Learning Gym的健身房，这个健身房允许类东谈主机器东谈主学习如何适应物理宇宙。然后是一个令东谈主难以置信的狡计机，这个狡计机将进入一个机器东谈主或类东谈主机器东谈主，称为Thor。它被遐想为变换器引擎。咱们将其中的几个组合成一个视频。这是你真实会心爱的东西。来望望。

Nvidia的灵魂。狡计机图形、物理、东谈主工智能的交织点，都在这一刻显现出来。阿谁姿色的称呼，通用机器东谈主。0，0，3。我知谈。极度好。好吧，我认为咱们有一些寥落的嘉宾。咱们有吗？

嘿，伴计们。是以我了解到你们是由Jetson驱动的。它们是由Jetsons驱动的，小Jetson机器东谈主狡计机。在里面，它们在Isaacson中学会走路。女士们，先生们，这是橙色和著明的绿色。它们是迪士尼的BDX机器东谈主。令东谈主齰舌的迪士尼研究。过来吧，伴计们。让咱们收尾。让咱们走。你们要去那处？我坐在这里。别微小。过来。绿色。快点。你在说什么？不，现在不是吃饭的时期。

我会的。我会给你们一个小吃的。让我快速收尾。

启航点，一场新的工业创新。每个数据中心都应该是加快的。改日几年，价值1万亿好意思元的装配数据中心将当代化。第二，因为咱们带来的狡计能力，一种新的软件开发方式出现了，生成性AI，它将创造新的基础设施，专门用于作念一件事，而不是为多用户数据中心，而是为AI生成器。这些AI生成器将创造极度有价值的软件，这是一场新的工业创新。

第二，这场创新的狡计机，这一代的狡计机，生成性AI，数万亿参数，Blackwell，令东谈主放荡的狡计机和狡计能力。第三，我正在尝试集会贯注力。作念得好。第三，新的狡计机创造了新的软件类型。新的软件类型应该以新的方式分发，这样它不错一方面成为云中的一个端点，易于使用，但仍然允许你带走它，因为你的智能应该被打包成一种方式，允许你带走它。咱们称它们为NIMs。

第三，这些NIMs将匡助你创建改日的新类型应用要领，不是完全从新运行编写的应用要领，而是你将整合它们。就像团队创建这些应用要领一样。咱们有一个极好的能力，介于Nims（AI技能）、Nemo（器具）和DGX Cloud（基础设施）之间，咱们的AI Foundry将匡助你创建独到应用要领，独到聊天机器东谈主。

终末，改日统统会动的东西都将是机器东谈主。你不会是唯独的一个。这些机器东谈主系统，不管是类东谈主AMRS、自动驾驶汽车、叉车、主管臂，它们都需要一件事，巨大的畅通场、仓库、工场。不错有机器东谈主工场，协调工场的工场，制造汽车的机器东谈主出产线。这些系统都需要一件事。它们需要一个平台，一个数字平台，一个数字孪生平台。咱们称之为Omniverse，机器东谈主宇宙的操作系统。

这些是咱们今天褒贬的五件事。当咱们褒贬GPU时，Nvidia是什么花式？当我意象GPU时，我有一幅极度不同的图像。启航点，我看到的是一堆软件堆栈和雷同的东西。其次，我看到的是咱们今天向你晓示的。这是Blackwell，这是平台。

令东谈主齰舌的处理器，MV Link交换机，会聚系统。系统遐想是一个遗迹。这即是Blackwell，这即是在我脑海中GPU的花式。

谢谢你。祝全球有一个欢腾的GTC。谢谢全球的到来。

　　本文来自微信公众号“硬AI”，关注更多AI前沿资讯请移步这里

　　商场有风险，投资需严慎。本文不组成个东谈主投资建议，也未接洽到个别用户特殊的投资目的、财务景色或需要。用户应试虑本文中的任何意见、不雅点或论断是否适应其特定景色。据此投资，株连自诩。

株连裁剪：于健 SF069陪你一日三餐同你一夜暴富银河娱乐

• 菠菜
• 提现
• 不给
• 优德