CaLLM™ Edge基于微軟Phi-3系列小語言模型，與微軟攜手合作開發(fā)與優(yōu)化

Cerence Inc.  (NASDAQ: CRNC)，AI for a world in motion，今日宣布推出其開創(chuàng)性的車規(guī)級小語言模型（SLM）——CaLLM™ Edge。該模型已被納入賽輪思現(xiàn)有的解決方案組合中，將為下一代AI助理平臺提供強大支持，無論網(wǎng)絡(luò)連接狀況如何，都可以享受到智能流暢的體驗。CaLLM™ Edge由賽輪思與微軟攜手開發(fā)優(yōu)化，可直接供給賽輪思的汽車制造商客戶，同時也可在微軟Azure AI模型目錄中獲取。

CaLLM™ (Cerence Automotive Large Language Model) Edge在微軟Phi-3系列小語言模型的基礎(chǔ)上進行了優(yōu)化。憑借賽輪思豐富的汽車數(shù)據(jù)集，CaLLM™ Edge能夠?qū)崿F(xiàn)高度專業(yè)化的AI功能，滿足多種車載使用場景。該模型有38億參數(shù)、4k上下文長度和4-bit量化技術(shù)，能夠輕松嵌入至車機系統(tǒng)中。其核心功能包括隱式和顯式車輛控制指令（例如，溫度調(diào)節(jié)、車窗和車門控制、座椅位置調(diào)整），興趣點搜索，導(dǎo)航以及對話式交互，如 “好萊塢最受歡迎的電影是什么？”并接著問“能告訴我關(guān)于這部電影的情節(jié)嗎？”

CaLLM™ Edge與各主流汽車平臺兼容，支持僅嵌入式部署（無需網(wǎng)絡(luò)連接即可獨立運行），同時也支持混合或云優(yōu)先部署。在混合或云優(yōu)先部署中，SLM作為回答查詢的一種方法，并在連接丟失時提供備用服務(wù)。對用戶而言，這意味著無論是否連接至云端，都能隨時獲取關(guān)鍵的生成式AI功能與信息。同時數(shù)據(jù)隱私保護也得到了加強（因為數(shù)據(jù)被保留在本地而沒有上傳至云端）。對于汽車制造商而言，CaLLM™ Edge不僅提升了助理性能，還提高了成本效益——通過采用完全本地嵌入的小語言模型，汽車制造商在控制成本的同時仍可為駕駛者提供由生成式AI驅(qū)動的交互體驗。

 “CaLLM™ Edge徹底改變了用戶與系統(tǒng)交互的方式，使他們無論身在何處，都能享受到如云端系統(tǒng)般豐富且響應(yīng)迅速的體驗。” 賽輪思產(chǎn)品與技術(shù)執(zhí)行副總裁Nils Schanz表示，“我們在產(chǎn)品架構(gòu)中運用賽輪思在本地、云端技術(shù)的專長，以及生成式AI和大語言模型（LLM）方面的技術(shù)升級，我們不僅進一步拓展了現(xiàn)有解決方案功能，還推動了下一代平臺的發(fā)展。我們很榮幸能與微軟合作，將我們在嵌入式解決方案領(lǐng)域深厚的垂直專業(yè)知識和強大實力，與微軟業(yè)界領(lǐng)先的語言模型能力相結(jié)合。”

“為適應(yīng)各行業(yè)對高效且智能化交互體驗的需求，高適應(yīng)性AI模型日益重要。我們很高興與賽輪思攜手合作，在Azure AI模型目錄中提供CaLLM™ Edge，讓汽車制造商有機會利用Azure AI Studio和Microsoft Copilot Studio構(gòu)建相關(guān)的AI應(yīng)用程序。”微軟商業(yè)與行業(yè)解決方案部副總裁 Satish Thomas指出，“賽輪思獨一無二的汽車數(shù)據(jù)集帶來了非凡的價值，能夠在交互的全過程中實現(xiàn)高度的準(zhǔn)確性和相關(guān)性——而這一切均基于嵌入式架構(gòu)，使用戶隨時可以獲取智能順暢的交互體驗。”

要了解更多關(guān)于Cerence （賽輪思）的信息，請訪問www.cerence.com 或www.cerence.cn。

關(guān)于 Cerence Inc.

Cerence 賽輪思（NASDAQ：CRNC）是為全球用戶創(chuàng)造獨特出行體驗的行業(yè)領(lǐng)導(dǎo)者。作為世界領(lǐng)先的汽車制造商和移動出行OEMs的創(chuàng)新合作伙伴，它致力于推動移動互聯(lián)的未來發(fā)展，并通過人與車之間直觀且強大的交互，讓消費者無論置身何處，都能將數(shù)字生活與日常出行無縫連接。賽輪思的實力源自20多年的行業(yè)經(jīng)驗，及超過5億輛部署了Cerence技術(shù)的汽車。無論是互聯(lián)汽車、自動駕駛汽車、電動車還是兩輪車，賽輪思正在引領(lǐng)未來移動出行發(fā)展之路。如欲了解更多信息，請訪問 www.cerence.com 或www.cerence.com.cn 。

此新聞稿為翻譯本，所有內(nèi)容以Cerence英文版新聞稿為準(zhǔn)。