![]() |
上海2026年7月20日 /美通社/ -- 面對(duì)端側(cè)AI大模型全面爆發(fā)的市場(chǎng)需求,如何幫助客戶高效落地并搶占AI先機(jī),已成為行業(yè)的核心命題。
在WAIC 2026(世界人工智能大會(huì))期間,移遠(yuǎn)通信宣布其端側(cè)AI大模型解決方案迎來(lái)全面升級(jí)。本次升級(jí)聚焦"多模態(tài)感知"與"推理加速"兩大維度,為行業(yè)打通AI商業(yè)化落地"最后一公里"提供了全新思路。
移遠(yuǎn)AI前沿技術(shù)中心總負(fù)責(zé)人王韜表示:"當(dāng)整個(gè)行業(yè)都在為參數(shù)突破而歡呼時(shí),我們選擇了一條更務(wù)實(shí)的路——沉下心來(lái),在端側(cè)大模型領(lǐng)域持續(xù)深耕。因?yàn)槲覀兩钪夹g(shù)的終極意義不在于跑分,而在于落地。我們甘愿做連接前沿技術(shù)與真實(shí)世界的'擺渡人',聚焦醫(yī)療康養(yǎng)、情緒陪伴、智能家居等場(chǎng)景,沉淀出四大工程化能力——工作流設(shè)計(jì)、模型增強(qiáng)、邊緣部署與多硬件平臺(tái)支撐。"
從"聽(tīng)見(jiàn)"到"看懂"的感知躍升
過(guò)去,基于"ASR+LLM+TTS"架構(gòu),設(shè)備獲得了出色的"聽(tīng)覺(jué)"與"表達(dá)"能力。此次端側(cè)視覺(jué)大模型的加入,使移遠(yuǎn)方案完成從"單維傾聽(tīng)"到"全感官認(rèn)知"的跨越。設(shè)備不僅能聽(tīng)懂指令,更能"看懂場(chǎng)景、理解意圖、自主決策",進(jìn)化為全能智能體。
這一升級(jí)重塑了交互邏輯:設(shè)備從"聽(tīng)聲辨位"進(jìn)階為"眼見(jiàn)為實(shí)",能精準(zhǔn)識(shí)別環(huán)境中的物體與人員動(dòng)作;從"機(jī)械問(wèn)答"走向"情境共情",結(jié)合視覺(jué)焦點(diǎn)與語(yǔ)音指令提供精準(zhǔn)解答;從"被動(dòng)響應(yīng)"變?yōu)?quot;主動(dòng)干預(yù)",即便無(wú)語(yǔ)音指令,也能自主發(fā)現(xiàn)環(huán)境異常(如安全隱患、老人跌倒等),并主動(dòng)通過(guò)語(yǔ)音進(jìn)行預(yù)警或采取干預(yù)措施。
作為"下一代多模態(tài)交互基座",該方案可無(wú)縫嵌入各類智能終端,深度賦能千行百業(yè):
1. 智能制造與工業(yè)巡檢
依托工業(yè)巡檢機(jī)器人等設(shè)備,無(wú)需繁瑣標(biāo)注即可通過(guò)自然語(yǔ)言定制識(shí)別模型,輕松搞定高危環(huán)境下的缺陷檢測(cè)與流程管控。
2. 智能座艙與消費(fèi)電子
賦能車載智能座艙、AI智能眼鏡等設(shè)備,實(shí)現(xiàn)全模態(tài)場(chǎng)景感知,提供主動(dòng)式貼心服務(wù),解放用戶雙手。
3. 智慧零售與門(mén)店運(yùn)營(yíng)
借助智能督導(dǎo)系統(tǒng)與智能導(dǎo)購(gòu)終端,自動(dòng)識(shí)別運(yùn)營(yíng)異常,精準(zhǔn)推薦商品并協(xié)助消費(fèi)者完成下單。
從"卡頓"到"絲滑"的體驗(yàn)躍升
將大模型部署于終端設(shè)備,最大的痛點(diǎn)在于"慢"。受限于端側(cè)算力與內(nèi)存帶寬,推理卡頓成為普遍難題。為此,移遠(yuǎn)通信率先引入MTP(多Token預(yù)測(cè))與SD(投機(jī)采樣)兩大加速技術(shù)。
MTP通過(guò)在訓(xùn)練階段引入額外的預(yù)測(cè)頭,使模型能夠同時(shí)預(yù)測(cè)多個(gè)未來(lái)的詞元,提升數(shù)據(jù)效率并為推理加速奠定基礎(chǔ);SD則采用"小模型快速生成草稿,大模型并行驗(yàn)證"的機(jī)制,在保證輸出質(zhì)量無(wú)損的前提下,顯著減少計(jì)算步數(shù)并加速生成。
日前,移遠(yuǎn)端側(cè)大模型解決方案已全面支持MTP與SD加速,并成功落地客戶項(xiàng)目。
值得一提的是,該方案在高通技術(shù)團(tuán)隊(duì)的深度協(xié)同下,完成了多平臺(tái)的嚴(yán)苛驗(yàn)證與深度優(yōu)化。在移遠(yuǎn)內(nèi)部實(shí)驗(yàn)室基于高通躍龍Q-8750平臺(tái)(移遠(yuǎn)SP895BD-AP模組)部署Qwen系列大模型的實(shí)測(cè)中,推理加速比達(dá)到2.0x,模型平均生成速度由傳統(tǒng)的25 tokens/s躍升至50+ tokens/s,在保持極低功耗的同時(shí)獲得了成倍的輸出收益。
推理能效的翻倍,直接轉(zhuǎn)化為客戶可感知的商業(yè)價(jià)值。簡(jiǎn)單來(lái)說(shuō),就是同樣的芯片、同樣的模型,體驗(yàn)直接躍升一個(gè)臺(tái)階;或者同等體驗(yàn)下,硬件成本大幅降低。
從"聽(tīng)懂"到"看懂",再到推理速度的大幅提升,移遠(yuǎn)正在完成一場(chǎng)從感知到認(rèn)知的智能躍遷!這不只是技術(shù)的疊加,更是為終端設(shè)備注入真正的"靈魂"。憑借在端側(cè)大模型領(lǐng)域構(gòu)筑的深厚工程化壁壘與實(shí)戰(zhàn)積淀,移遠(yuǎn)已率先跨越了從技術(shù)探索到規(guī)模化落地的鴻溝。
未來(lái),移遠(yuǎn)將以領(lǐng)先的工程化能力為基石,攜手千行百業(yè)的合作伙伴,用高效的端側(cè)AI,共同定義和打造下一代終端產(chǎn)品!
WAIC 2026期間,歡迎蒞臨移遠(yuǎn)通信展臺(tái)( 展位號(hào):H1-A1018 ),感受更多精彩!
關(guān)于移遠(yuǎn)通信
上海移遠(yuǎn)通信技術(shù)股份有限公司(股票代碼:603236)是全球領(lǐng)先的物聯(lián)網(wǎng)整體解決方案供應(yīng)商,擁有完備的IoT產(chǎn)品和服務(wù),涵蓋蜂窩模組(5G/4G/3G/2G/LPWA)、車載前裝模組、智能模組(5G/4G/邊緣計(jì)算)、短距離通信模組(Wi-Fi&BT)、GNSS定位模組、衛(wèi)星通信模組、天線等硬件產(chǎn)品,以及AI解決方案、物聯(lián)網(wǎng)平臺(tái)、工業(yè)智能、智慧農(nóng)業(yè)、認(rèn)證與測(cè)試服務(wù)、RTK網(wǎng)絡(luò)校正方案等服務(wù)與解決方案。公司具備豐富的行業(yè)經(jīng)驗(yàn),產(chǎn)品廣泛應(yīng)用于智慧交通、智慧能源、金融支付、智慧城市、無(wú)線網(wǎng)關(guān)、智慧農(nóng)業(yè)&環(huán)境監(jiān)控、智慧工業(yè)、智慧生活&醫(yī)療健康、智能安全等領(lǐng)域。更多信息,敬請(qǐng)?jiān)L問(wèn)移遠(yuǎn)官網(wǎng)https://www.quectel.com.cn/,關(guān)注微信公眾號(hào)/視頻號(hào)"移遠(yuǎn)通信"或發(fā)送郵件至marketing@quectel.com。