國(guó)產(chǎn)GPU領(lǐng)域近日傳來(lái)喜訊，景嘉微公司正式宣布，其JM系列、景宏系列GPU已成功適配DeepSeek R1系列模型，這一里程碑式的進(jìn)展預(yù)示著DeepSeek將在云計(jì)算、邊緣計(jì)算及終端設(shè)備等多元場(chǎng)景下實(shí)現(xiàn)更廣泛的應(yīng)用。
具體而言，景嘉微的JM系列GPU已經(jīng)成功完成了對(duì)DeepSeek-R1-Distill-Qwen-1.5B和DeepSeek-R1-Distill-Qwen-7B兩大模型的適配工作，這標(biāo)志著JM系列在處理大規(guī)模語(yǔ)言模型時(shí)的能力得到了顯著提升。
與此同時(shí)，景宏系列GPU也展現(xiàn)出了強(qiáng)大的兼容性，全面適配了DeepSeek R1全系列模型，覆蓋了從1.5B到70B參數(shù)規(guī)模的LLaMA及千問(wèn)模型架構(gòu)，為用戶(hù)提供了更為豐富的選擇。
基于vLLM推理框架的部署方案，景嘉微實(shí)現(xiàn)了高效推理性能與經(jīng)濟(jì)性的完美結(jié)合，為開(kāi)發(fā)者提供了極大的便利。該方案簡(jiǎn)化了啟動(dòng)和使用的流程，無(wú)需復(fù)雜的配置，大大加速了AI技術(shù)的規(guī)?；涞貞?yīng)用。
景嘉微官方對(duì)此表示，這次國(guó)產(chǎn)GPU與國(guó)產(chǎn)大模型的結(jié)合，是一次夢(mèng)幻般的聯(lián)動(dòng)，也是向中國(guó)AI開(kāi)發(fā)者的一次致敬。這一舉措不僅彰顯了國(guó)產(chǎn)GPU的實(shí)力，更為AI領(lǐng)域的發(fā)展注入了新的活力。
值得注意的是，摩爾線程也在近期實(shí)現(xiàn)了對(duì)DeepSeek蒸餾模型推理服務(wù)的高效部署。開(kāi)發(fā)者可以基于摩爾線程的全功能GPU進(jìn)行AI應(yīng)用的創(chuàng)新，這無(wú)疑為AI領(lǐng)域的發(fā)展提供了更多的可能性。
用戶(hù)還可以利用摩爾線程的MTT S80和MTT S4000顯卡進(jìn)行DeepSeek-R1蒸餾模型的推理部署，這進(jìn)一步拓寬了AI技術(shù)的應(yīng)用場(chǎng)景，為用戶(hù)提供了更為便捷和高效的解決方案。
