绿茶通用站群绿茶通用站群

感谢你特别邀请来见证你的爱情是什么歌,感谢你特别邀请来见证你的爱情是什么歌曲

感谢你特别邀请来见证你的爱情是什么歌,感谢你特别邀请来见证你的爱情是什么歌曲 新订单12月才能交付!英伟达GPU持续缺货涨价 客户“勒紧裤带”节约使用

  在(zài)持续已久的“AI热(rè)潮”中,各家争相推出(chū)的大(dà)模型、AI应(yīng)用,都(dōu)进一步推升(shēng)了对(duì)算力狂热的需(xū)求。本周已有报道指出英伟达后(hòu)续对(duì)AI顶级规格芯(xīn)片需求明显看增,紧(jǐn)急向台积(jī)电追加预订(dìng)先进封装产能(néng)。

  需求飙(biāo)涨下,英(yīng)伟(wěi)达GPU价(jià)格(gé)自然也是水(shuǐ)涨船高。据集微网消息,有(yǒu)代理商透露,英(yīng)伟达A100价格从去(qù)年12月开始上涨(zhǎng),截至(zhì)今年4月(yuè)上半月,其5个(gè)月价(jià)格累计涨幅达到37.5%;同期A800价格累计涨(zhǎng)幅达(dá)20.0%。

  同时,英伟达(dá)GPU交货周期也被拉长,之(zhī)前(qián)拿货周期大约为一(yī)个月,现(xiàn)在基本都(dōu)需要三个月或更长。甚至(zhì),部分新(xīn)订单“可能要(yào)到12月(yuè)才能交付”。

  供需的巨大鸿沟面前,在这一(yī)情形之下,众多客户(hù)也不(bù)得不(bù)“勒紧腰带”。上述文章指(zhǐ)出,国内可用于(yú)训练AI大(dà)模型(xíng)的(de)感谢你特别邀请来见证你的爱情是什么歌,感谢你特别邀请来见证你的爱情是什么歌曲A100大约有4万-5万个(gè),供应相(xiāng)当吃紧,一(yī)些云(yún)服务厂商已严格限(xiàn)制内部使(shǐ)用这些先进芯片(piàn),以(yǐ)将其保留至需(xū)要强力(lì)运算的任务。

  值得一提(tí)的是(shì),类似(shì)的事情在微软内(nèi)部也早已(yǐ)发(fā)生。3月已(yǐ)有(yǒu)外媒(méi)报道指出,微软内部(bù)陷入AI服务(wù)器硬件短缺的窘境,不(bù)得不(bù)对AI硬(yìng)件资(zī)源采取“配额供给”机制,限制(zhì)公司内部其他AI工具开发团队的资(zī)源(yuán)用量。

  拉长(zhǎng)时(shí)间线来看,有GPU业内人(rén)士指出,实(shí)际上从去年6月起(qǐ),英伟达就已宣布上调A100价格,涨(zhǎng)幅20%左(zuǒ)右(yòu),渠(qú)道商在加紧囤货。至于(yú)英伟达A800,在(zài)ChatGPT火爆(bào)之前就已出现涨价,但反映到市(shì)场(chǎng)则有一定的滞后性,赶上ChatGPT爆火这一(yī)时间(jiān)点,更放大了这一现象。

  “英伟达GPU涨价与ChatGPT有一(yī)定的(de)关联性,且(qiě)交货(huò)周期也受到了连带的(de)影响,导致市场(chǎng)上出现了众多(duō)炒(chǎo)卡的行为(wèi)。”

  此外,在海外(wài)电商(shāng)平台上,英伟达(dá)新旗舰级(jí)GPU H100的价格在(zài)4月中旬(xún)就已炒到了超(chāo)过4万美元。

  随着如今各家科(kē)技巨头争相推出自家大模(mó)型(xíng),GPU需(xū)求量仍在持续攀升。OpenAI指出,AI大模(mó)型(xíng)要持(chí)续取得突破,所需要消耗的(de)计算资源每3~4个月就要翻一倍,资(zī)金(jīn)也需(xū)要通过指数级(jí)增长(zhǎng)获得匹(pǐ)配。

  据(jù)财(cái)通证券测(cè)算,2023/2024/2025年大模型(xíng)有望为GPU市场贡献(xiàn)69.88/166.2/209.95亿美(měi)元增量。

  其中在训练端,以(yǐ)目前(qián)主流的训练端GPU英伟达A100测算(suàn),假设ASP为1万美元,2023/2024/2025年(nián)全球训(xùn)练端GPU需求市场规(guī)模(mó)预计分别(bié)为0.74/2.00/4.07亿美元(yuán);

  在推理端,以(yǐ)目(mù)前英伟达用(yòng)于(yú)推理端计算的A10测算,假设(shè)ASP为(wèi)2800美元(yuán),2023/2024/2025感谢你特别邀请来见证你的爱情是什么歌,感谢你特别邀请来见证你的爱情是什么歌曲年全球推理端GPU需求市场规模预计分(fēn)别为69.14/164.2/205.88亿美(měi)元。

  业内人士也(yě)表示,AI大模型(xíng)训(xùn)练成本(běn)之一是基础算力,大概需要(yào)384-3000块左右的A100才能基本满足要(yào)求(qiú),如果价格持(chí)续上涨,无论是互联网(wǎng)、AI大厂(chǎng)、还是(shì)创业(yè)新贵,要追(zhuī)加的投入(rù)都可能远超当初。

未经允许不得转载:绿茶通用站群 感谢你特别邀请来见证你的爱情是什么歌,感谢你特别邀请来见证你的爱情是什么歌曲

评论

5+2=