英偉達(dá)近日震撼發(fā)布了一款名為Dynamo的創(chuàng)新產(chǎn)品，它被贊譽(yù)為“AI工廠的操作系統(tǒng)”，為AI領(lǐng)域帶來(lái)了一場(chǎng)革命性的變革。
Dynamo的核心定位為一個(gè)“分布式推理服務(wù)庫(kù)”，旨在解決用戶對(duì)于token需求高漲而生產(chǎn)不足的關(guān)鍵問題。這是一個(gè)面向開源社區(qū)的解決方案，致力于提升AI工廠的生產(chǎn)效率和靈活性。
英偉達(dá)CEO黃仁勛在發(fā)布會(huì)上通過一張直觀的圖表展示了Dynamo的強(qiáng)大能力。圖表的X軸代表用戶每秒所需的Token數(shù)，而Y軸則代表AI工廠每秒能生產(chǎn)的Token數(shù)。通過這張圖表，觀眾可以清晰地看到Dynamo如何顯著提升了AI工廠的生產(chǎn)效率。
更令人矚目的是，Dynamo與英偉達(dá)最新的Grace Blackwell NVLink72超級(jí)芯片相結(jié)合，實(shí)現(xiàn)了前所未有的性能突破。相較于上一代Hopper芯片，Blackwell在Dynamo的加持下實(shí)現(xiàn)了25倍的性能提升。這一數(shù)據(jù)無(wú)疑為AI工廠的建設(shè)者提供了強(qiáng)大的技術(shù)支持和信心。
在推理模型方面，Blackwell的性能優(yōu)勢(shì)更加顯著，相較于Hopper芯片，其性能提升了高達(dá)40倍。這一數(shù)據(jù)無(wú)疑將推動(dòng)AI推理領(lǐng)域的發(fā)展，為更多應(yīng)用場(chǎng)景提供高效、精準(zhǔn)的解決方案。
發(fā)布會(huì)上，黃仁勛還幽默地表示，有了Dynamo和Blackwell這樣的先進(jìn)技術(shù)加持，搭建AI工廠的廠商將能夠享受到“買得越多、省得越多”的實(shí)惠。這無(wú)疑為AI工廠的建設(shè)者提供了更多的經(jīng)濟(jì)激勵(lì)和信心，也將進(jìn)一步推動(dòng)AI產(chǎn)業(yè)的發(fā)展。
