绿茶通用站群绿茶通用站群

淀粉勾芡后为什么会变稀,勾芡不泄汤的秘诀

淀粉勾芡后为什么会变稀,勾芡不泄汤的秘诀 “AI春晚”英伟达放大招:亮算力“杀器”、助游戏“捏人”;黄仁勋帮算账:GPU多买多省

  “AI热(rè)潮”最大赢家之一、英伟(wěi)达背后的那个身穿(chuān)黑色皮衣(yī)的男(nán)人(rén)又(yòu)来了。

  前脚才交出亮(liàng)眼(yǎn)业(yè)绩(jì)狂拉股(gǔ)价,英伟达CEO黄仁勋后脚就在昨日的COMPUTEX大会上宣布(bù),“我们已到达(dá)生成(chéng)式AI引爆(bào)点(diǎn)。从此,全世界(jiè)的每个(gè)角落,都会有计(jì)算需求。”

  如(rú)今英伟达掌(zhǎng)握着全球(qiú)多家(jiā)科技(jì)公(gōng)司“算力命脉”,而在这场大会上,黄仁勋(xūn)激情演讲2个小时,甩出(chū)了多(duō)项(xiàng)重磅新发布,包括算力“杀器”DGX GH200超级计算机、针对游戏的ACE代(dài)工(gōng)服务、MGX服务器规(guī)范等内容。

  算力“杀器”:DGX GH200超级计算机+GH200超级芯片(piàn)

  先看淀粉勾芡后为什么会变稀,勾芡不泄汤的秘诀“集成了英伟达(dá)最(zuì)先进加速(sù)计算和网络技术”的DGX GH200人工智能超级计算机

  这款超(chāo)算专为大规模(mó)生成式AI的(de)负载(zài)所设计(jì),由256块GH200超级(jí)芯(xīn)片组成,拥有1 exaflop超凡AI性能(néng)、144TB内(nèi)存(是英伟达目前DGX A100系统(tǒng)的近500倍)、150英里(lǐ)光纤、2000多个风(fēng)扇。

  DGX GH200重达40000磅(约合18143千克),堪比(bǐ)四只成年大(dà)象的体重。

  预(yù)计DGX GH200将于今年年底投入(rù)问世,英伟(wěi)达(dá)暂未公布价格,而谷(gǔ)歌(gē)云(yún)、Meta与微软将是首批用户

  同时,英伟达也正(zhèng)在(zài)打造自(zì)家基于DGX GH200的大型AI超级计(jì)算机NVIDIA Helios,以支持其研究和开(kāi)发(fā)团队的工作(zuò)。其中采用(yòng)4个DGX GH200系(xì)统、1024颗Grace Hopper超级(jí)芯片,每(měi)个都(dōu)将与(yǔ)英伟达Quantum-2 InfiniBand网络连接,带宽高(gāo)达400Gb/s,将(jiāng)于今年年底上线。

  值(zhí)得一提的是,黄仁勋透露,DGX GH200集成的(de)GH200 Grace Hopper超(chāo)级芯片(piàn)已进入全面生产

  “拉(lā)踩(cǎi)”CPU:成本、功耗、处(chù)理数据量不如GPU

  在本(běn)次(cì)大会上,黄(huáng)仁勋还“拉(lā)踩”了一波CPU。他从功耗、处理数(shù)据量(liàng)等方(fāng)面,指出(chū)使用GPU胜过CPU。

  举例来说,花费(fèi)1000万美元,可以建设(shè)一个有960颗CPU的数据(jù)中心,其可处(chù)理1X LMM(大语言模型)数据(jù)量,需(xū)要(yào)11GWh功耗(hào);

  淀粉勾芡后为什么会变稀,勾芡不泄汤的秘诀同样成(chéng)本(běn)下,也可以建设(shè)一个有48个GPU的(de)数据中(zhōng)心,其可处理44X LLM数据量,仅需要(yào)3.2GWh功耗。

  若只想处理(lǐ)1X LMM数据(jù)量,则只需40万美元,便(biàn)可拥有一(yī)个搭(dā)载(zài)2个(gè)GPU、功耗仅0.13GWh的数据中心。

  “买(mǎi)越多,省越多(The more you buy, the more you save)。”黄仁勋再次表(biǎo)示。

  同时,他也列(liè)出了数据(jù)中心成(chéng)本公式:数据中心(xīn)总持有成本=f[成本(芯片、系统、硬(yìng)件生态(tài)系统(tǒng))、吞吐量(GPU、Algo软件、网络、系统(tǒng)软件、软件(jiàn)生态系统)、使(shǐ)用率(Algo Lib, 软(ruǎn)件生态系统)、采购运营、生(shēng)命(mìng)周期最佳化、电力]

  ACE代工服务:用(yòng)AI激活NPC生命(mìng)

  游(yóu)戏一直是备(bèi)受关注的一大AI应用(yòng)落地(dì)领域。英(yīng)伟达也(yě)在大会(huì)上宣布(bù),推出面(miàn)向游戏的定(dìng)制AI模型代工服务NVIDIA Avatar Cloud Engine(ACE)

  它能赋予(yǔ)非玩(wán)家(jiā)角(jiǎo)色(NPC)更智(zhì)能(néng)且(qiě)不断进化(huà)的对话(huà)技能,中间件(jiàn)、工(gōng)具和(hé)游戏(xì)开发者可使用它来构(gòu)建(jiàn)和部署定制的语音、对话和动画(huà)AI模型

  其中包括:英伟达NeMo,使用专有数据构建、定制和部署(shǔ)语(yǔ)言(yán)模型;英(yīng)伟达Riva,用于自动语音(yīn)识别和文本转语音实现实时(shí)语音对话;英伟(wěi)达Omniverse Audio2Face,用于即时(shí)创建游(yóu)戏(xì)角色表情动画(huà),以匹(pǐ)配任何语音轨道(dào)。

  开发人员(yuán)可选择(zé)集成整个NVIDIA ACE for Games解(jiě)决方(fāng)案,也可仅使用需(xū)要的组件(jiàn)。

  新参考工作流程:帮助(zhù)建设数(shù)字化(huà)智(zhì)能(néng)工厂

  黄(huáng)仁勋表示,全球电子(zi)制造商正在使用一种全新的综(zōng)合(hé)参考工作(zuò)流程推(tuī)进工业数字化工作,该工(gōng)作流程(chéng)结合了英伟达(dá)用于生(shēng)成(chéng)式AI、3D协作(zuò)、仿(fǎng)真(zhēn)和自主机器的技术,包括:

  英伟达(dá)Omniverse,其(qí)连接(jiē)了顶级(jí)计算机辅助设计应用以及生成式AI的(de)API和前沿(yán)框架;用于模拟和测试机器人的(de)英伟(wěi)达Isaac Sim应(yīng)用程序;英伟(wěi)达(dá)Metropolis视(shì)觉AI框架(jià),用于自动光学检测(cè)。

  同时(shí),黄仁勋现场展示了一个完全数字化的智(zhì)能工厂的演示。

  目(mù)前富士康(kāng)工业互联网、宜鼎(dǐng)国际、和(hé)硕、广(guǎng)达和(hé)纬创正(zhèng)在使用这(zhè)一参考工(gōng)作流程,具体用例(lì)包括(kuò)电路板质保检测点自动(dòng)化、光学检测(cè)自(zì)动化、建(jiàn)设虚拟(nǐ)工厂、模拟协作(zuò)机器人、构建及运营数字孪(luán)生等。

  MGX服(fú)务器规范:快速高效构建百余种服(fú)务器配置

  英伟达发布NVIDIA MGX服务器(qì)规范,为系统制造商(shāng)提供(gōng)模(mó)块化(huà)参考(kǎo)架(jià)构,满足各种规(guī)模的数据中心需求。系统制(zhì)造商(shāng)可(kě)使(shǐ)用它(tā)快(kuài)速且经济高(gāo)效地构建100多种服务器配置,以适应广泛的AI、HPC及NVIDIA Omniverse应用。

  MGX支持英伟(wěi)达(dá)全系列(liè)GPU、CPU、DPU和网(wǎng)络适配器、各种(zhǒng)x86、完整软(ruǎn)件(jiàn)堆(duī)栈(zhàn)及Arm处(chù)理器,还可集成到云和(hé)企业(yè)数(shù)据中心(xīn)中。

  华(huá)硕、和硕、QCT、超(chāo)微(Supermicro)等都将采(cǎi)用(yòng)MGX构建(jiàn)下一代加速计(jì)算(suàn)机,可将开(kāi)发成(chéng)本削减多(duō)达3/4,并(bìng)将开发(fā)时间缩(suō)短(duǎn)2/3至仅需6个月

  其中,QCT和(hé)超微基(jī)于(yú)MGX的设(shè)计将于8月面世。超微昨日公布的ARS-221GL-NR系统将(jiāng)采(cǎi)用Grace CPU,而QCT的S74G-2U系(xì)统将采(cǎi)用Grace Hopper。

  推出Spectrum-X网络(luò)平台 构建超大规模(mó)生成式AI超级(jí)计算机(jī)Israel-1

  另外(wài),黄(huáng)仁勋宣布推出NVIDIA Spectrum-X网络平台,旨在提(tí)高基于(yú)以太(tài)网(wǎng)的(de)AI云的性能和效率。

  相比传统(tǒng)以太网(wǎng)结构,Spectrum-X可实现1.7倍的整体AI性能和能效提升(shēng),并具有高度通用(yòng)性,可用(yòng)于各种(zhǒng)AI应(yīng)用。它使用完全(quán)基于标准的以太网,并可与基于以太(tài)网(wǎng)的堆栈互操(cāo)作。该平台支持256个200Gb/s端口,通过单个(gè)交(jiāo)换(huàn)机连接,或在两层leaf-spine拓扑中提供16000个端口(kǒu),以(yǐ)支持AI云(yún)增(zēng)长和(hé)扩展,在保(bǎo)持性能的同时最(zuì)大(dà)限度减少网络延迟。

  全球领(lǐng)先云(yún)计算提供商正在采(cǎi)用Spectrum-X平台扩展(zhǎn)生成式AI服务,而(ér)Spectrum-X、Spectrum-4交换机、BlueField-3 DPU等已在戴尔、联想等(děng)系统(tǒng)制造商处提供。

  此外,作为(wèi)Spectrum-X参考设(shè)计的蓝图和(hé)测试平台,英伟(wěi)达正构建一台超大(dà)规(guī)模生(shēng)成(chéng)式(shì)AI超级(jí)计(jì)算机(jī)Israel-1。这台AI超算价(jià)值(zhí)数(shù)亿美元,将(jiāng)采用戴尔PowerEdge XE9680服(fú)务(wù)器(qì)、英伟达HGX H100超级计算(suàn)平(píng)台、内置BlueField-3 DPU和Spectrum-4交换机的Spectrum-X平台。

  结语

  “40年来(lái),我(wǒ)们创造了PC、互联(lián)网(wǎng)、移动、云,现在是人工(gōng)智能时代。你(nǐ)会创(chuàng)造什么?不管是什么,都要像(xiàng)我们一样追赶(gǎn)它(tā)。要奔(bēn)跑,不要走。要么为了食物奔跑,要么作(zuò)为食物(wù)奔跑。”

  在5月27日(rì)的台湾(wān)大学发(fā)表了(le)毕业典礼演讲上,黄仁勋再(zài)次强调(diào)了掌握AI技术的(de)重(zhòng)要性(xìng):很多人担心,AI会(huì)抢走自(zì)己的工作。但真正会(huì)抢(qiǎng)走(zǒu)你(nǐ)饭碗(wǎn)的,是掌握(wò)淀粉勾芡后为什么会变稀,勾芡不泄汤的秘诀了AI技术的人。

  他表示(shì),从各(gè)方面来(lái)看(kàn),AI的兴盛是计算机产业的再生契(qì)机。在下个十年,我们的产业将(jiāng)使用新型AI电(diàn)脑(nǎo),取代价值万亿美元的传(chuán)统电脑。

  而从昨日(rì)大会上黄仁勋的(de)展示中,人工智(zhì)能时代的未来轮廓(kuò)似乎已逐(zhú)渐浮(fú)现(xiàn)。

未经允许不得转载:绿茶通用站群 淀粉勾芡后为什么会变稀,勾芡不泄汤的秘诀

评论

5+2=