芯東西（公眾號(hào)：aichip001）
編譯 | 劉煜
編輯 | 陳駿達(dá)
芯東西3月20日消息，今天，據(jù)路透社最新報(bào)道，英偉達(dá)與AWS（亞馬遜云科技）達(dá)成合作，從今年開(kāi)始，到2027年底以前，英偉達(dá)將向AWS出售100萬(wàn)顆GPU以及包含Spectrum系列網(wǎng)絡(luò)芯片和Groq芯片在內(nèi)的多款產(chǎn)品。
英偉達(dá)與AWS尚未披露這筆交易的財(cái)務(wù)細(xì)節(jié)。
此前，英偉達(dá)創(chuàng)始人兼CEO黃仁勛稱，預(yù)計(jì)英偉達(dá)Rubin與Blackwell的兩條產(chǎn)品線的銷售規(guī)模將達(dá)到1萬(wàn)億美元（約合人民幣6.89萬(wàn)億元）。
而本次AWS與英偉達(dá)簽訂的合作訂單，正是1萬(wàn)億美元銷售規(guī)模的組成部分。
英偉達(dá)加速計(jì)算副總裁Ian Buck稱：“推理運(yùn)算難度極大，極其復(fù)雜。想要在推理領(lǐng)域做到頂尖，單靠一款芯片遠(yuǎn)遠(yuǎn)不夠。我們實(shí)際上會(huì)用到全部七款芯片?！?/p>
AWS計(jì)劃將英偉達(dá)Groq芯片與該公司另外六款芯片搭配使用，以實(shí)現(xiàn)更高效的AI系統(tǒng)為用戶生成答案、執(zhí)行任務(wù)的推理運(yùn)算過(guò)程。
該協(xié)議還包括將英偉達(dá)Connect X與Spectrum X網(wǎng)絡(luò)設(shè)備部署至AWS的數(shù)據(jù)中心。
Ian Buck稱：“當(dāng)然，他們?nèi)詴?huì)繼續(xù)使用自有設(shè)備，但我們正展開(kāi)合作，針對(duì)AI領(lǐng)域的關(guān)鍵工作負(fù)載及頭部客戶，與亞馬遜云科技共同部署Connect X與Spectrum X設(shè)備。”
此舉意義重大，因?yàn)锳WS的數(shù)據(jù)中心長(zhǎng)期以來(lái)一直使用其自主研發(fā)、歷經(jīng)多年打磨的定制化網(wǎng)絡(luò)設(shè)備。
同時(shí)，AWS將結(jié)合高性能專用網(wǎng)絡(luò)接口AWS EFA與自研的云原生AI訓(xùn)練芯片Trainium，并搭載英偉達(dá)用于加速分布式推理場(chǎng)景下的數(shù)據(jù)傳輸、同時(shí)簡(jiǎn)化不同硬件之間的傳輸復(fù)雜度的NIXL（英偉達(dá)推理傳輸庫(kù)）技術(shù)，進(jìn)一步提升采用解耦架構(gòu)的大語(yǔ)言模型的推理速度與互聯(lián)效率。
此外，AWS還將利用云上托管大數(shù)據(jù)平臺(tái)AWS EMR與英偉達(dá)GPU加速數(shù)據(jù)分析處理。
英偉達(dá)的高效開(kāi)源大語(yǔ)言模型Nemotron 3 Super模型也即將登陸AWS推出的全托管生成式AI服務(wù)平臺(tái)Bedrock平臺(tái)，同時(shí)擴(kuò)展該平臺(tái)對(duì)英偉達(dá)Nemotron系列模型的支持。
結(jié)語(yǔ)：AI基建熱潮持續(xù)，英偉達(dá)深度綁定下游客戶
AI的爆火為云服務(wù)商提供了更廣的市場(chǎng)，同時(shí)驅(qū)使云服務(wù)商加大算力投入。本次亞馬遜云科技與英偉達(dá)達(dá)成長(zhǎng)期芯片采購(gòu)協(xié)議，旨在為其云端AI大模型的訓(xùn)練與推理提供更充足的算力支撐。
此前，英偉達(dá)向荷蘭云服務(wù)提供商N(yùn)ebius投資20億美元，加速Nebius構(gòu)建行業(yè)領(lǐng)先的全棧AI云平臺(tái)。英偉達(dá)將通過(guò)優(yōu)先提供最新一代加速計(jì)算平臺(tái)，全力支持Nebius在2030年底前建成總?cè)萘砍^(guò)5吉瓦的AI基礎(chǔ)設(shè)施。
當(dāng)前，云服務(wù)商與AI算力領(lǐng)域頭部企業(yè)協(xié)作，依托高效算力支撐，推動(dòng)云服務(wù)與數(shù)據(jù)中心擴(kuò)建加速落地，持續(xù)提升AI大模型的推理效率，為夯實(shí)AI基礎(chǔ)設(shè)施建設(shè)提供助力。
