快來看（arm方案）arm api，Arm 宣布 AI 推理性能優(yōu)化軟件庫 Kleidi 擴展到車用市場哪吒2：看懂鶴童被踩掉裙子，才懂她拜無量仙翁為師原因，性能優(yōu)化，
IT之家 3 月 12 日消息，Arm 今日宣布將其 AI 推理性能優(yōu)化軟件庫 Kleidi 擴展到車用市場，透過 Arm Kleidi，合作伙伴將可充分發(fā)掘下一代特定應(yīng)用 AI 模型在汽車中的優(yōu)勢，并加快其部署速度。
IT之家獲悉，Arm Kleidi 于 2024 年推出，開發(fā)人員無需進(jìn)行任何額外工作，就能利用其為 Arm CPU 上運行的 AI 推理工作負(fù)載提供軟件性能優(yōu)化。此前該軟件庫已被移動設(shè)備、云服務(wù)和數(shù)據(jù)中心等關(guān)鍵領(lǐng)域應(yīng)用。
Arm 宣稱，通過其與 Corellium 聯(lián)合開發(fā)的虛擬平臺，亞馬遜 AWS 為 SDV 軟件定義汽車打造了新的概念驗證 AI 聊天機器人，可讓司機直接與汽車進(jìn)行互動，提出問題或詢問儀表板警報，而無需翻閱汽車用戶手冊。
由于使用了集成 KleidiAI 的最新版 Llama.cpp 來進(jìn)行開發(fā)，AWS 實現(xiàn)了聊天機器人性能的顯著提升：響應(yīng)時間縮短至 1~3 秒，性能提升達(dá) 10 倍。同時 Kleidi 軟件庫為開發(fā)人員節(jié)省了 6 周的底層軟件優(yōu)化時間。
Arm 車用事業(yè)部產(chǎn)品與解決方案副總裁 Suraj Gajendra 表示：
在汽車產(chǎn)業(yè)中，AI 通常被稱為自動駕駛汽車的核心 —— 聽起來頗具未來感，距離其大規(guī)模量產(chǎn)上路還有數(shù)年時間。
然而，實際的情況是，當(dāng)下新車型中的很多應(yīng)用和功能，從自適應(yīng)巡航控制、個性化車載信息娛樂系統(tǒng)到駕駛和乘客監(jiān)控系統(tǒng)，都已使用 AI 技術(shù)，并且這些特定應(yīng)用的模型和工作負(fù)載已在 Arm 平臺上高效地運行。
這歸功于 Arm 運算平臺卓越的靈活性、性能、效率和可擴展性，使其成為整個汽車行業(yè)中開發(fā)人員的首選平臺。
售前咨詢專員