<ul id="mwmk6"><sup id="mwmk6"></sup></ul>
<ul id="mwmk6"></ul>
    <abbr id="mwmk6"></abbr>
  • <ul id="mwmk6"></ul>
  • <ul id="mwmk6"><sup id="mwmk6"></sup></ul>
    資訊在沃

    微軟Win11電腦本地運行DeepSeek-R1大模型,NPU能力引關注!

       發布時間:2025-01-30 20:12 作者:朱天宇

    在人工智能與邊緣計算的交匯點上,微軟近日邁出了重要一步,宣布推出專為NPU(神經處理單元)優化的DeepSeek-R1模型。這一創新之舉不僅標志著微軟對邊緣計算潛力的深刻洞察,也預示著搭載高通驍龍X芯片的Copilot+ PC將率先迎來一場技術革命,隨后英特爾酷睿Ultra 200V等平臺也將陸續加入這一行列。

    微軟通過官方渠道宣布,DeepSeek-R1的首個版本——DeepSeek-R1-Distill-Qwen-1.5B,已正式入駐Azure AI Foundry和GitHub,供開發者下載使用。同時,微軟還透露,參數規模更大的7B和14B版本也即將面世,這將極大地助力開發者充分挖掘Copilot+ PC中NPU的強大性能。

    DeepSeek-R1模型應用場景

    微軟強調,Copilot+ PC上的NPU開創了一種全新的AI應用范式。在這一范式下,生成式AI不僅能夠在被調用時迅速響應,還能支持半連續運行的服務模式。這一特性使得開發者能夠利用AI推理引擎,構建出更加主動、持續的用戶體驗。

    為了實現這一目標,微軟在Phi Silica項目的基礎上,積累了豐富的推理優化經驗和技術。這些經驗和技術被巧妙地融入到針對NPU優化的DeepSeek模型中,包括模型分割以實現性能與效率的最佳平衡、低比特率量化以及Transformer模型到NPU的映射等。微軟還借助Windows Copilot Runtime(WCR)和ONNX QDQ格式,在多樣化的Windows生態系統中實現了模型的廣泛部署。

    DeepSeek模型優化對比

    為了讓更多開發者能夠輕松體驗DeepSeek模型的魅力,微軟提供了便捷的下載途徑。只需在Visual Studio Code中安裝AI Toolkit擴展,開發者即可輕松獲取這一創新成果。同時,以ONNX QDQ格式優化的DeepSeek模型也將很快出現在AI Toolkit的模型目錄中,供開發者直接從Azure AI Foundry中拉取使用。

    原始模型與NPU優化模型響應對比

    微軟還通過實例展示了原始模型與NPU優化模型之間的差異。在相同的提示下,原始模型和NPU優化模型給出了略有不同的響應。這一對比不僅彰顯了NPU優化模型在推理能力上的提升,也進一步驗證了微軟在模型優化方面的深厚實力。

     
     
    更多>同類內容
    全站最新
    熱門內容
    本欄最新
     
    91精品导航在线网址免费| 久久这里只有精品首页| 国产精品国产三级国快看 | 最新亚洲精品国偷自产在线 | 99香蕉国产精品偷在线观看 | 国内精品免费视频自在线| 99久久精品午夜一区二区| 亚洲国产精品线观看不卡| 99久久99久久精品免费观看| 久久精品视频免费播放| 国产区精品一区二区不卡中文| 久久久99精品一区二区| 国产精品成人精品久久久| 婷婷久久精品国产| 日韩午夜电影在线观看| 亚洲欧洲国产日韩精品| 亚洲av日韩av欧v在线天堂| 免费a级毛片18以上观看精品| 国产成人无码aa精品一区| 国产精品天堂avav在线| 国产麻豆剧传媒精品网站| 精品国产一区二区二三区在线观看| 色综合99久久久无码国产精品| 亚洲欧美综合精品成人导航| 亚洲色偷精品一区二区三区| 亚洲午夜精品一区二区麻豆| 亚洲精品伦理熟女国产一区二区| 亚洲乱码日产精品一二三| 亚洲精品无码少妇30P| 九九精品国产亚洲AV日韩| 久久久一本精品99久久精品66直播 | 久久我们这里只有精品国产4| 精品国产一区二区三区久久| 精品视频在线免费观看| 亚洲动漫精品无码av天堂 | 亚洲国产精品一区二区三区在线观看| 久久亚洲精品成人无码网站| 精品国产乱码久久久久软件 | 国产成人无码精品久久久久免费| 国产精品 一区 在线| 精品无码国产自产拍在线观看蜜|