绿茶通用站群绿茶通用站群

n. v. adj. adv.是啥,英语词性分类12种及缩写

n. v. adj. adv.是啥,英语词性分类12种及缩写 新订单12月才能交付!英伟达GPU持续缺货涨价 客户“勒紧裤带”节约使用

  在持续已久的“AI热(rè)潮(cháo)”中,各家争相推出(chū)的大模型、AI应用,都进一步推升了对算力狂(kuáng)热的(de)需求。本(běn)周已有报道指出英伟达后(hòu)续对AI顶级规格芯片需求明显看增,紧急向台积电追加预(yù)订先进封装产能。

  需求飙(biāo)涨下,英伟达GPU价格自然也是水涨船高。据集(jí)微(wēi)网(wǎng)消息,有代理商透露,英伟达A100价格从去年(nián)12月(yuè)开始上(shàng)涨,截(jié)至(zhì)今(jīn)年4月上半月,其5个月价格累计涨(zhǎng)幅(fú)达(dá)到37.5%;同期A800价格累计涨(zhǎng)幅(fú)达20.0%。

  同时(shí),英伟达GPU交货周期也(yě)被拉长,之前拿货周期(qī)大约为一个月,现(xiàn)在基本都需要三个月(yuè)或(huò)更长。甚(shèn)至,部分新订单“可(kě)能要到12月才能交付”。

  供需的(de)巨大鸿沟面前,在这一情形之下,众多客(kè)户(hù)也不得(dé)不“勒(lēi)紧腰带”。上述(shù)文章指出,国(guó)内可用于训练AI大(dà)模(mó)型的A100大(dà)约有4万-5万个,供应相当吃紧,一(yī)些(xiē)云服务厂商已严格限制内部使(shǐ)用这些先(xiān)进芯(xīn)片,以将其(qí)保(bǎo)留至需要强力运(yùn)算的任务(wù)。

  值得一提的是,类似的事情在微软内部也早已发生(shēng)。3月(yuèn. v. adj. adv.是啥,英语词性分类12种及缩写)已有外(wài)媒报道指出,微软内部陷入AI服务器硬件短(duǎn)缺的窘境,不(bù)得不对AI硬件资(zī)源采取“配额供给”机制,限制公司内部(bù)其他(tā)AI工具开发团队的资源用量。

  拉长时间线来看,有GPU业内(nèi)人(rén)士指出,实(shí)际上从去年(nián)6月(yuè)起,英伟达(dá)就已宣布上调A100价格,涨(zhǎng)幅(fú)20%左右,渠道商在(zài)加紧(jǐn)囤货。至(zhì)于英伟(wěi)达A800,在ChatGPT火(huǒ)爆之(zhī)前就已(yǐ)出现涨价,但反映到市场则(zé)有(yǒu)一定的滞后性,赶上ChatGPT爆(bào)火这一(yī)时(shí)间(jiān)点,更放大了这一现象。

  “英伟达GPU涨价(jià)与ChatGPT有一定(dìng)的(de)关联性(xìng),且(qiě)交货周期也受到了连带的影(yǐng)响(xiǎng),导致市(shì)场上出现了众多(duō)炒卡的行为。”

  此外,在海外电商(shāng)平台(tái)上,英伟达(dá)新旗舰级GPU H100的价格在4月中(zhōng)旬(xún)就已(yǐ)炒到了(le)超(chāo)过4万(wàn)美元(yuán)。

  随着如(rú)今各家科技巨头争相推出(chū)自家大模型,GPU需求量仍(réng)在持续(xù)攀升(shēng)。OpenAI指出,AI大模(mó)型n. v. adj. adv.是啥,英语词性分类12种及缩写(xíng)要持续取得突破,所需要消耗的计算资源(yuán)每3~4个月就要翻一倍,资金也需(xū)要通过指(zhǐ)数级增长获得(dé)匹配。

  据财通证券测(cè)算,2023/2024/2025年大(dà)模型有望为GPU市场贡(gòng)献69.88/166.2/209.95亿美元增量(liàng)。

  其(qí)中在训练(liàn)端,以目前(qián)主(zhǔ)流的(de)训练(liàn)端GPU英伟(wěi)达A100测算(suàn),假设ASP为1万美元(yuán),2023/2024/2025年全球训练端GPU需求(qiú)市场规模预计分别为(wèi)0.74/2.00/4.07亿(yì)美元;

  在(zài)推理端(duān),以目前英(yīng)伟(wěi)达用于推理(lǐ)端计算的A10测算,假(jiǎ)设ASP为(wèi)2800美元,2023/2024/2025年全球推理(lǐ)端GPU需(xū)求市(shì)场规模预(yù)计(jì)分(fēn)别为69.14/164.2/205.88亿美(měi)元。

  业(yè)内人士也(yě)表示(shì),AI大(dà)模型(xíng)训练(liàn)成本(běn)之一是基(jī)础(chǔ)算力,大概(gài)需要(yào)384-3000块左右(yòu)的A100才(cái)能基(jī)本满足要求(qiú),如果价格持续上涨,无论是互(hù)联网(wǎng)、AI大厂、还是创业新(xīn)贵,要追加的投入都可能远超当初。

未经允许不得转载:绿茶通用站群 n. v. adj. adv.是啥,英语词性分类12种及缩写

评论

5+2=