在近期臺北國際電腦展的盛會上，和碩公司驚艷亮相，推出了一款專為人工智能（AI）設(shè)計(jì)的創(chuàng)新機(jī)架解決方案，這一消息由知名硬件資訊平臺Tom's Hardware率先披露。
這款解決方案的核心亮點(diǎn)在于，它搭載了高達(dá)128顆AMD最新一代的Instinct MI350X GPU，這些GPU專為AI推理與訓(xùn)練任務(wù)而打造，其架構(gòu)設(shè)計(jì)相較于AMD官方機(jī)架方案領(lǐng)先整整一代。
據(jù)和碩透露，這一平臺不僅是研發(fā)下一代AMD Instinct MI450X處理器IF64/IF128系統(tǒng)的重要技術(shù)驗(yàn)證陣地，更是預(yù)示著相關(guān)產(chǎn)品將在一年后步入量產(chǎn)階段，引發(fā)了業(yè)界的廣泛關(guān)注與期待。
和碩的AS501-4A1/AS500-4A1系統(tǒng)，在配置上采用了8組5U計(jì)算單元，每組配備1顆AMD EPYC 9005處理器和4顆Instinct MI350X加速器，為了確保在高負(fù)載下的穩(wěn)定運(yùn)行，該系統(tǒng)還采用了高效的液冷散熱方案。整機(jī)設(shè)計(jì)符合OCP開放計(jì)算標(biāo)準(zhǔn)，專為云數(shù)據(jù)中心（如meta）打造，采用了51OU ORV3規(guī)格。
然而，值得注意的是，由于AMD尚未推出Infinity Fabric專用交換機(jī)，目前該系統(tǒng)主要通過400GbE網(wǎng)絡(luò)連接不同的GPU，最大集群規(guī)模限制為8顆。相比之下，英偉達(dá)的GB200/GB300 NVL72平臺則通過NVLink實(shí)現(xiàn)了72顆GPU的直連，因此在擴(kuò)展性方面，MI350X系統(tǒng)暫時(shí)無法與英偉達(dá)方案相媲美。
盡管如此，和碩的這一系統(tǒng)仍然具有其獨(dú)特的核心價(jià)值。它能夠?yàn)镺CP用戶提供即插即用的AI算力平臺，同時(shí)幫助開發(fā)者從軟硬件層面深入掌握多GPU系統(tǒng)的搭建技術(shù)，為AMD挑戰(zhàn)英偉達(dá)在機(jī)架級AI解決方案領(lǐng)域的壟斷地位奠定了堅(jiān)實(shí)的基礎(chǔ)。
根據(jù)AMD官方提供的數(shù)據(jù)，和碩的128-GPU系統(tǒng)理論峰值性能可達(dá)1,177 PFLOPS（FP4精度），每顆MI350X GPU搭載了288GB HBM3E顯存，系統(tǒng)總顯存高達(dá)36.8TB，這一數(shù)據(jù)不僅超越了英偉達(dá)Blackwell架構(gòu)GPU的容量上限，更能夠支持巨型AI模型的運(yùn)行。
當(dāng)然，該系統(tǒng)也存在一定的局限性，尤其是在GPU間通信方面依賴于以太網(wǎng)，這限制了其在大規(guī)模語言模型訓(xùn)練等需要高度同步性的場景中的應(yīng)用。然而，這無疑是高性能、大內(nèi)存AI解決方案領(lǐng)域的一次重要突破，也為AMD下一代Instinct MI400系列產(chǎn)品的推出鋪平了道路。
