加拿大AI新興企業(yè)Cohere近日震撼發(fā)布了一款名為Command A的人工智能模型，該模型以其輕量級部署和高效性能為核心賣點(diǎn)，引起了業(yè)界的廣泛關(guān)注。據(jù)悉，Command A僅需兩塊英偉達(dá)A100或H100 GPU便能輕松運(yùn)作，其表現(xiàn)被贊譽(yù)可與GPT-4o相抗衡，實(shí)現(xiàn)了硬件資源最小化與性能最大化的完美結(jié)合。
Cohere公司明確指出，Command A是專為中小企業(yè)量身打造。它不僅支持長達(dá)256k的上下文長度，還覆蓋了23種語言，相較于市場上其他同類模型需要高達(dá)32塊GPU的配置，Command A的部署成本顯然更為親民。
在性能測試環(huán)節(jié)，Command A展現(xiàn)出了驚人的速度，每秒最多可輸出156個(gè)Token，這一數(shù)據(jù)據(jù)稱比GPT-4o快了1.75倍。在指令追蹤、SQL處理、代理程序運(yùn)行及工具任務(wù)等多個(gè)基準(zhǔn)測試中，Command A同樣取得了優(yōu)異的成績。
Cohere還指出，當(dāng)前業(yè)內(nèi)的一些大型語言模型由于規(guī)模過于龐大，在輸出結(jié)果時(shí)往往會(huì)出現(xiàn)嚴(yán)重的延遲問題。而對于那些追求快速、準(zhǔn)確答案的用戶來說，Command A無疑是一個(gè)更為理想的選擇。
Cohere已將Command A模型發(fā)布至Hugging Face平臺，供學(xué)術(shù)界自由使用。未來，該模型還將登陸更多云服務(wù)平臺，進(jìn)一步擴(kuò)大其應(yīng)用范圍和影響力。
