绿茶通用站群绿茶通用站群

俄罗斯是资本主义还是社会主义

俄罗斯是资本主义还是社会主义 “AI春晚”英伟达放大招:亮算力“杀器”、助游戏“捏人”;黄仁勋帮算账:GPU多买多省

  “AI热潮”最大(dà)赢(yíng)家之(zhī)一、英伟(wěi)达背后(hòu)的那个身穿黑色皮(pí)衣的(de)男人又来了。

  前(qián)脚才交(jiāo)出亮眼业(yè)绩狂拉股价,英伟达CEO黄(huáng)仁勋后(hòu)脚就在昨日的(de)COMPUTEX大会上宣布,“我们已到(dào)达(dá)生成式AI引爆点。从(cóng)此,全世界的(de)每个角落,都会有计算需求。”

  如今英伟达掌握着全(quán)球(qiú)多家科技公司“算力命脉”,而在这场大会上,黄仁勋激情演(yǎn)讲2个小时,甩出了多项重磅新发(fā)布,包括算(suàn)力“杀器(qì)”DGX GH200超级计算(suàn)机(jī)、针对(duì)游戏的ACE代工服(fú)务、MGX服务(wù)器(qì)规范等内容。

  算力(lì)“杀器”:DGX GH200超级计算机+GH200超(chāo)级芯片

  先(xiān)看“集(jí)成了(le)英伟达最先进加(jiā)速计算(suàn)和网络技术”的(de)DGX GH200人(rén)工智能超级计算机

  这款超算专为大规模生成式AI的负载所设计,由256块GH200超级芯(xīn)片组成,拥有1 exaflop超凡(fán)AI性能、144TB内(nèi)存(是英伟达目前DGX A100系统的近500倍)、150英里光(guāng)纤、2000多个风扇。

  DGX GH200重达40000磅(约合18143千(qiān)克),堪比四只成年大象(xiàng)的体重。

  预(yù)计(jì)DGX GH200将于(yú)今年年底投入问世,英(yīng)伟(wěi)达暂未公(gōng)布价格(gé),而谷歌云、Meta与微软将是首(shǒu)批(pī)用(yòng)户

  同时,英伟达(dá)也(yě)正在(zài)打造(zào)自家基于(yú)DGX GH200的大型AI超级(jí)计算机(jī)NVIDIA Helios,以支持其研(yán)究和开发(fā)团队(duì)的(de)工作。其中(zhōng)采用(yòng)4个(gè)DGX GH200系统(tǒng)、1024颗Grace Hopper超级芯片(piàn),每个都(dōu)将与(yǔ)英伟达Quantum-2 InfiniBand网(wǎng)络连接,带宽高达400Gb/s,将于今(jīn)年年底上(shàng)线(xiàn)。<俄罗斯是资本主义还是社会主义/p>

  值(zhí)得一(yī)提的是,黄仁勋透露(lù),DGX GH200集成(chéng)的GH200 Grace Hopper超级芯(xīn)片已(yǐ)进入(rù)全面生产

  “拉踩”CPU:成(chéng)本、功耗、处理数据(jù)量不如(rú)GPU

  在本(běn)次大会上,黄(huáng)仁勋还“拉踩”了一波CPU。他从功耗、处理数(shù)据量等方面,指出使用GPU胜(shèng)过CPU。

  举例来说,花费1000万美(měi)元,可以建设(shè)一个有960颗(kē)CPU的(de)数(shù)据中(zhōng)心,其(qí)可处理1X LMM(大语言模型)数据(jù)量,需要(yào)11GWh功耗;

  同样(yàng)成本下(xià),也可以(yǐ)建设一个有48个GPU的数据中心,其可处理44X LLM数据量,仅需要(yào)3.2GWh功耗。

  若只想处理1X LMM数据量,则只需40万(wàn)美(měi)元(yuán),便可拥(yōng)有(yǒu)一(yī)个(gè)搭载2个(gè)GPU、功耗仅0.13GWh的(de)数据(jù)中心。

  “买越多,省越(yuè)多(The more you buy, the more you save)。”黄仁勋再次(cì)表示。

  同时,他也列出了数据中心(xīn)成(chéng)本公式:数据(jù)中心总持(chí)有(yǒu)成(chéng)本=f[成本(芯片、系统、硬(yìng)件生(shēng)态系统)、吞吐量(GPU、Algo软件、网络、系统软(ruǎn)件、软件生(shēng)态系统(tǒng))、使用率(Algo Lib, 软(ruǎn)件生态(tài)系(xì)统)、采购运营、生命(mìng)周期(qī)最佳化、电力]

  ACE代工服(fú)务:用AI激活(huó)NPC生命

  游戏(xì)一直是备受关注的一大(dà)AI应用落(luò)地领域。英伟达也在大会上宣布,推(tuī)出面(miàn)向游戏(xì)的(de)定制AI模型代工服务(wù)NVIDIA Avatar Cloud Engine(ACE)

  它能赋(fù)予(yǔ)非(fēi)玩家角色(NPC)更智能且不(bù)断(duàn)进化的(de)对话技能(néng),中间(jiān)件、工(gōng)具和游戏开发者可使用它(tā)来(lái)构建(jiàn)和部署定制(zhì)的(de)语音、对话(huà)和动画(huà)AI模型

  其(qí)中包(bāo)括:英伟(wěi)达NeMo,使用(yòng)专有(yǒu)数据(jù)构建、定(dìng)制和(hé)部署语言模型;英伟达Riva,用于(yú)自(zì)动语音(yīn)识别和(hé)文本转语音实现实时(shí)语音对话(huà);英伟达(dá)Omniverse Audio2Face,用于(yú)即时(shí)创建游戏(xì)角色表情动画,以匹配(pèi)任(rèn)何语音轨(guǐ)道(dào)。

  开发人(rén)员可选择集成整个(gè)NVIDIA ACE for Games解决方案,也可仅(jǐn)使(shǐ)用需要(yào)的组件。

  新参(cān)考工作流程:帮助建设数字化智(zhì)能工厂(chǎng)

  黄仁勋(xūn俄罗斯是资本主义还是社会主义)表示,全(quán)球(qiú)电(diàn)子制(zhì)造商正(zhèng)在使(shǐ)用(yòng)一种(zhǒng)全新(xīn)的综合参考(kǎo)工作流程推进(jìn)工(gōng)业数字(zì)化(huà)工作,该工(gōng)作(zuò)流程结合了英伟达(dá)用于生成式AI、3D协作、仿(fǎng)真(zhēn)和自主(zhǔ)机(jī)器的(de)技术,包括:

  英伟(wěi)达Omniverse,其连接了顶级计算机辅助(zhù)设(shè)计应用(yòng)以(yǐ)及(jí)生成(chéng)式(shì)AI的API和前沿框架;用于模(mó)拟和测试机(jī)器人的英(yīng)伟达Isaac Sim应用(yòng)程序;英(yīng)伟达Metropolis视觉AI框架,用于自(zì)动光(guāng)学检测。

  同时,黄仁(rén)勋现(xiàn)场展示了一个完全(quán)数字化的智能工厂的演示。

  目前(qián)富士康工业互联网(wǎng)、宜(yí)鼎国际、和(hé)硕、广达和纬创正在使用这(zhè)一(yī)参考工作流程(chéng),具体用例包括电路板质保检测点自动(dòng)化、光学(xué)检测自动化、建设虚(xū)拟(nǐ)工厂、模拟协作机器(qì)人、构(gòu)建及运营数(shù)字孪生等。

  MGX服务器规范(fàn):快(kuài)速(sù)高(gāo)效构建百余种服务器配置

  英伟(wěi)达发(fā)布(bù)NVIDIA MGX服务(wù)器规范(fàn),为(wèi)系统制造商提供模(mó)块(kuài)化参(cān)考架构,满足各种(zhǒng)规(guī)模的数据中(zhōng)心需(xū)求(qiú)。系统制造商(shāng)可使用它(tā)快速且经济高(gāo)效地构建100多种服(fú)务器(qì)配置,以(yǐ)适(shì)应广泛的AI、HPC及NVIDIA Omniverse应用(yòng)。

  MGX支持英伟达(dá)全系(xì)列GPU、CPU、DPU和网(wǎng)络适(shì)配器、各(gè)种x86、完整(zhěng)软件堆栈及Arm处理(lǐ)器,还可集成到(dào)云和(hé)企业数据中心中(zhōng)。

  华硕、和硕、QCT、超微(Supermicro)等(děng)都将(jiāng)采(cǎi)用MGX构建下一代加(jiā)速计(jì)算机,可将开发成本削(xuē)减多达3/4,并将开发时间缩(suō)短2/3至仅需(xū)6个月(yuè)

  其(qí)中(zhōng),QCT和超微基于MGX的设计将于8月面世(shì)。超微昨(zuó)日公布的ARS-221GL-NR系统将(jiāng)采用Grace CPU,而QCT的S74G-2U系统(tǒng)将采用(yòng)Grace Hopper。

  推出(chū)Spectrum-X网(wǎng)络(luò)平台 构建超(chāo)大规模(mó)生成式AI超级计算机Israel-1

  另外,黄仁勋(xūn)宣布推(tuī)出NVIDIA Spectrum-X网络平台,旨在提(tí)高基于以(yǐ)太网的AI云的性能(néng)和(hé)效率。

  相(xiāng)比(bǐ)传统以太网(wǎng)结(jié)构(gòu),Spectrum-X可(kě)实现1.7倍的整(zhěng)体AI性能和能(néng)效提升,并(bìng)具有高度通用性,可用(yòng)于各种AI应用。它(tā)使用完(wán)全基于标准的以太网,并(bìng)可与基于(yú)以太(tài)网的堆(duī)栈互操作。该平台支持(chí)256个200Gb/s端口,通过单(dān)个交换机连接,或在(zài)两层leaf-spine拓(tuò)扑中提供16000个(gè)端口,以(yǐ)支持(chí)AI云增长和扩(kuò)展,在(zài)保(bǎo)持性能(néng)的同时最大(dà)限度减少网(wǎng)络延(yán)迟。

  全球领(lǐng)先云计算提(tí)供商正在采用(yòng)Spectrum-X平台扩展(zhǎn)生成(chéng)式(shì)AI服务(wù),而Spectrum-X、Spectrum-4交换机(jī)、BlueField-3 DPU等已在戴尔、联想等系统制(zhì)造商处提供。

  此外,作(zuò)为Spectrum-X参(cān)考设计的蓝图和测试平(píng)台,英(yīng)伟达正构(gòu)建一台超大规模生(shēng)成式(shì)AI超级计算机Israel-1。这台AI超算价值数亿美(měi)元,将采(cǎi)用戴尔(ěr)PowerEdge XE9680服务器、英伟达HGX H100超级(jí)计算平(píng)台、内置BlueField-3 DPU和Spectrum-4交(jiāo)换机的Spectrum-X平台。

  结语

  “40年来,我们创造了(le)PC、互联网、移动、云,现在(zài)是人工(gōng)智能时代。你会创造(zào)什么?不管是什么,都要像我(wǒ)们(men)一样追赶它。要(yào)奔跑,不要走。要(yào)么(me)为了(le)食物(wù)奔跑,要么(me)作为食物奔跑。”

  在5月27日的(de)台湾大(dà)学发表(biǎo)了毕业典礼演讲上,黄仁勋(xūn)再次(cì)强调了掌(zhǎng)握AI技术的重要(yào)性:很多人担(dān)心,AI会抢走自(zì)己的工(gōng)作。但真(zhēn)正会抢走你饭碗的,是掌握了AI技术的人。

  他表示,从(cóng)各方面来看,AI的(de)兴盛(shèng)是计算(suàn)机产业的再生(shēng)契机。在(zài)下个(gè)十年(nián),我(wǒ)们的产业将使用(yòng)新(xīn)型AI电(diàn)脑(nǎo),取代价(jià)值万亿美元的传统电脑。

  而从(cóng)昨日大会上黄仁勋的展示(shì)中,人工智能时代的未来轮廓(kuò)似乎已逐(zhú)渐浮现。

未经允许不得转载:绿茶通用站群 俄罗斯是资本主义还是社会主义

评论

5+2=