在2025年，中文大模型領(lǐng)域迎來(lái)了一場(chǎng)顛覆性的變革。DeepSeek的橫空出世，不僅打破了英偉達(dá)在算力方面的壟斷地位，還撼動(dòng)了美國(guó)在大模型領(lǐng)域的長(zhǎng)期主導(dǎo)地位。這一創(chuàng)新甚至引發(fā)了全球大模型領(lǐng)域的價(jià)格戰(zhàn)，使得更多人能夠享受到大模型帶來(lái)的便利和樂(lè)趣。
從社交媒體的反應(yīng)來(lái)看，DeepSeek確實(shí)將“人工智能”這一曾經(jīng)遙不可及的概念帶到了普通大眾的身邊。即使是像我這樣的技術(shù)愛(ài)好者，也在春節(jié)期間頻繁向家人和親戚介紹DeepSeek，并時(shí)常拿起手機(jī)體驗(yàn)這一智能工具。DeepSeek能夠在不收費(fèi)的基礎(chǔ)上提供高質(zhì)量的中文問(wèn)答，這在目前市場(chǎng)上是獨(dú)一無(wú)二的。
然而，DeepSeek也并非完美無(wú)缺。服務(wù)器問(wèn)題成為了用戶的一大困擾。當(dāng)請(qǐng)求發(fā)出后，長(zhǎng)時(shí)間的等待卻只能換來(lái)“服務(wù)器繁忙，請(qǐng)稍后再試”的提示，這種挫敗感讓人迫切想要擁有一個(gè)屬于自己的本地DeepSeek推理模型。
對(duì)于普通消費(fèi)者來(lái)說(shuō)，購(gòu)置一臺(tái)能夠運(yùn)行大模型的設(shè)備成本高昂。要么選擇售價(jià)在5000元以上的AI PC筆記本，要么自己動(dòng)手組裝一臺(tái)搭載獨(dú)立顯卡的整機(jī)。但幸運(yùn)的是，對(duì)于DIY玩家來(lái)說(shuō)，挑戰(zhàn)極限預(yù)算并組裝出“能用”的主機(jī)，正是他們的樂(lè)趣所在。
我決定嘗試用400元的預(yù)算來(lái)打造一臺(tái)能夠運(yùn)行DeepSeek模型的電腦。盡管近期內(nèi)存和硬盤(pán)價(jià)格有所上漲，但一些老舊硬件的價(jià)格卻相對(duì)穩(wěn)定，甚至有所下降。我決定挑戰(zhàn)這一極限預(yù)算，看能否成功組裝出性價(jià)比頗高的入門(mén)級(jí)本地大模型主機(jī)。
在硬件選擇上，我選擇了Intel Core i3-4170處理器，這款二核四線程的處理器雖然規(guī)格老舊，但具備3MB智能緩存和HD4400核顯，售價(jià)僅為22元。主板方面，我選擇了銘瑄MS-H81M Turbo，售價(jià)79元，雖然接口有限，但性價(jià)比極高。散熱器則選擇了14.9元的雙熱管風(fēng)冷散熱器，足以應(yīng)對(duì)這套低價(jià)配置。
顯卡方面，我選擇了閑魚(yú)上的技嘉P106-100礦卡，售價(jià)130元。這款顯卡具備6GB顯存，足以應(yīng)對(duì)本地大模型的運(yùn)行需求。內(nèi)存方面，我選擇了兩根雜牌DDR3內(nèi)存組成雙通道，電源則選擇了300W的長(zhǎng)城電源，硬盤(pán)則是一塊120GB的SATA SSD。
組裝完成后，我對(duì)這臺(tái)電腦進(jìn)行了簡(jiǎn)單的性能測(cè)試。CPU-Z測(cè)試顯示單核跑分373.4分，多核跑分1025.2分。在CINEBENCH測(cè)試中，R20多核得分為824cb，單核得分為346cb；R23多核得分為1914cb，單核得分為905cb。雖然性能不算亮眼，但足以應(yīng)對(duì)日常辦公和輕度娛樂(lè)。
在GPU方面，技嘉P106-100在Fire Strike Extreme測(cè)試中取得了6490分的圖形分?jǐn)?shù)，在TimeSpy基本測(cè)試中取得了4428分的圖形分?jǐn)?shù)，性能與GTX1060相當(dāng)，甚至能與移動(dòng)端的RTX 3050一較高下。
接下來(lái)是DeepSeek的部署。由于真正的DeepSeek-R1模型需要大量計(jì)算資源和顯存，我選擇了使用蒸餾模型。DeepSeek-R1-Distil-Qwen-7B是表現(xiàn)最出色的蒸餾模型之一，適合在本地部署。
我選擇了Ollama+Chatbox AI的組合來(lái)進(jìn)行部署。Ollama是一款流行的本地大模型服務(wù)端工具，而Chatbox AI則是一款前端產(chǎn)品，提供了更直觀的用戶體驗(yàn)。安裝完成后，我可以在Chatbox AI中定義自己想要交互的模型人設(shè)，并進(jìn)行對(duì)話交流。
在實(shí)測(cè)中，本地部署的DeepSeek能夠應(yīng)對(duì)一些基礎(chǔ)的初高中語(yǔ)文、數(shù)學(xué)、英語(yǔ)問(wèn)題，但在復(fù)雜的數(shù)學(xué)和邏輯難題上表現(xiàn)一般。由于未聯(lián)網(wǎng)，本地模型的知識(shí)庫(kù)截至2023年，無(wú)法回答一些有時(shí)效性的問(wèn)題。
盡管這臺(tái)400元預(yù)算的電腦在性能上有所欠缺，但它確實(shí)能夠運(yùn)行本地DeepSeek模型，并為公司局域網(wǎng)內(nèi)部的AI終端提供支持。同時(shí)，這臺(tái)電腦還具備一定的游戲性能，可以在低畫(huà)質(zhì)下運(yùn)行《孤島驚魂6》等3A大作，以及流暢運(yùn)行《英雄聯(lián)盟》等網(wǎng)游。
然而，這臺(tái)電腦也存在一些問(wèn)題。礦卡驅(qū)動(dòng)容易掉，導(dǎo)致電腦白屏，需要頻繁卸載并重裝驅(qū)動(dòng)。二手電源也出現(xiàn)了問(wèn)題，需要更換。因此，對(duì)于想要購(gòu)買(mǎi)類似配置的用戶來(lái)說(shuō)，需要謹(jǐn)慎考慮。
總的來(lái)說(shuō)，盡管這臺(tái)400元預(yù)算的電腦在性能和穩(wěn)定性上有所欠缺，但它確實(shí)證明了低配置也能運(yùn)行本地大模型。對(duì)于DIY玩家來(lái)說(shuō)，這無(wú)疑是一次有趣的挑戰(zhàn)和嘗試。
