Arm公司近期宣布了一項(xiàng)重大進(jìn)展，將其專為AI推理性能優(yōu)化的軟件庫Kleidi擴(kuò)展至車用市場。這一舉措意味著，借助Arm Kleidi，汽車行業(yè)合作伙伴將能夠充分挖掘并利用下一代特定應(yīng)用AI模型的優(yōu)勢，同時(shí)顯著加快這些模型在車輛中的部署速度。
據(jù)了解，Arm Kleidi自2024年面世以來，已在移動設(shè)備、云服務(wù)及數(shù)據(jù)中心等領(lǐng)域展現(xiàn)出強(qiáng)大的應(yīng)用價(jià)值。該軟件庫無需開發(fā)人員額外操作，即可自動為在Arm CPU上運(yùn)行的AI推理工作負(fù)載提供顯著的性能優(yōu)化。此次擴(kuò)展至車用市場，標(biāo)志著Arm在推動AI技術(shù)在汽車行業(yè)應(yīng)用方面的又一重要里程碑。
Arm還與Corellium攜手合作，共同開發(fā)了一個(gè)虛擬平臺。基于該平臺，亞馬遜AWS成功打造了一款針對SDV（軟件定義汽車）的概念驗(yàn)證AI聊天機(jī)器人。這款聊天機(jī)器人能夠讓駕駛員直接與車輛進(jìn)行互動交流，無論是提出問題還是詢問儀表板警報(bào)，都無需再翻閱繁瑣的汽車用戶手冊。
AWS在開發(fā)過程中采用了集成KleidiAI的最新版Llama.cpp，從而實(shí)現(xiàn)了聊天機(jī)器人性能的顯著提升。據(jù)Arm介紹，該聊天機(jī)器人的響應(yīng)時(shí)間已縮短至1至3秒，性能提升幅度高達(dá)10倍。同時(shí)，Kleidi軟件庫還為開發(fā)人員節(jié)省了長達(dá)6周的底層軟件優(yōu)化時(shí)間，極大地提高了開發(fā)效率。
Arm車用事業(yè)部產(chǎn)品與解決方案副總裁Suraj Gajendra指出，盡管在公眾眼中，AI往往被視為自動駕駛汽車的核心技術(shù)，聽起來頗具未來感，似乎距離大規(guī)模量產(chǎn)上路還有數(shù)年之遙。然而，在當(dāng)前的汽車市場中，AI技術(shù)其實(shí)已經(jīng)廣泛應(yīng)用于各種新車型之中。
從自適應(yīng)巡航控制、個(gè)性化車載信息娛樂系統(tǒng)到駕駛和乘客監(jiān)控系統(tǒng)，這些功能和應(yīng)用都已經(jīng)采用了AI技術(shù)，并且這些特定應(yīng)用的模型和工作負(fù)載在Arm平臺上展現(xiàn)出了卓越的運(yùn)行效率。這主要得益于Arm運(yùn)算平臺所具備的靈活性、性能、效率和可擴(kuò)展性，使得其成為整個(gè)汽車行業(yè)中開發(fā)人員的首選平臺。
