Mistral公司近期隆重推出了兩款全新的AI模型——Ministral 3B與Ministral 8B，專為提升筆記本電腦和智能手機(jī)等設(shè)備的本地化AI體驗(yàn)而設(shè)計(jì)。據(jù)官方宣稱，這兩款模型堪稱“全球頂尖的邊緣模型”。
隨著企業(yè)對(duì)在個(gè)人設(shè)備上運(yùn)行AI模型的需求日益增長(zhǎng)，Mistral公司此次推出的模型旨在確保數(shù)據(jù)處理的安全性，并顯著提升響應(yīng)速度。這兩款模型均能在無(wú)互聯(lián)網(wǎng)連接的情況下，執(zhí)行翻譯、本地分析及機(jī)器人等多項(xiàng)任務(wù)。
值得注意的是，Ministral 3B與8B均擁有128K的上下文窗口，能夠一次性處理長(zhǎng)達(dá)50頁(yè)的文檔內(nèi)容。
價(jià)格方面，Ministral 8B的定價(jià)為每百萬(wàn)個(gè)tokens售價(jià)0.1美元，而3B版本則更為親民，售價(jià)為0.04美元，非常適合小規(guī)模操作或初創(chuàng)開發(fā)者使用。尤為Ministral 8B采用了獨(dú)特的交錯(cuò)滑動(dòng)窗口注意力機(jī)制，這一設(shè)計(jì)使得其在推理過程中更為迅速且內(nèi)存占用更少。
這兩款A(yù)I模型的推出，無(wú)疑為需要在本地設(shè)備上高效運(yùn)行AI應(yīng)用的企業(yè)和個(gè)人提供了更為優(yōu)質(zhì)的選擇。
