 |
隨著監(jiān)管機(jī)構(gòu)就不斷上升的詐騙、數(shù)據(jù)泄露和濫用風(fēng)險發(fā)布警告與指引， 82% 中國內(nèi)地受訪者表示，對 AI代理進(jìn)行驗證將提升使用信心
深圳2026年5月18日 /美通社/ -- 全球驗證服務(wù)及反欺詐的領(lǐng)先平臺 Sumsub 今日發(fā)布最新調(diào)研。結(jié)果顯示，盡管欺詐和數(shù)據(jù)安全風(fēng)險仍然存在，消費者仍在不斷授權(quán) AI 代理進(jìn)行決策與操作。與此同時，公眾認(rèn)知尚未與 AI 應(yīng)用的普及速度同步，數(shù)字環(huán)境下的信任、責(zé)任及消費者保護(hù)等問題正持續(xù)引發(fā)關(guān)注。
在近幾個月中，AI 代理的應(yīng)用快速普及。其應(yīng)用主要集中在用戶熟悉的各類應(yīng)用程序及服務(wù)中，例如電商平臺、銀行與支付軟件、旅游和生活方式服務(wù)，以及社交或即時通訊平臺等。在這些場景中，AI 代理可協(xié)助用戶解答問題、總結(jié)信息、購物、規(guī)劃行程、自動處理日常工作，并在部分情況下代替用戶執(zhí)行操作，例如完成預(yù)訂或支付任務(wù)。
Sumsub 的大中華區(qū) AI 代理消費者信任調(diào)研顯示，44% 的受訪者表示曾遭遇至少一次與 AI 代理相關(guān)的風(fēng)險事件，包括錯誤操作（20%）、未經(jīng)授權(quán)的扣款（16%）、個人數(shù)據(jù)泄露（20%）、欺詐行為（16%）或賬戶被入侵（13%）等。總體而言，AI 功能的復(fù)雜度與決策自主權(quán)正不斷提升，這引發(fā)了全球各地監(jiān)管機(jī)構(gòu)的高度關(guān)注。今年 4 月，中國有關(guān)部門聯(lián)合發(fā)布《人工智能科技倫理審查與服務(wù)辦法（試行）》，標(biāo)志著相關(guān)監(jiān)管從原則倡導(dǎo)邁向制度化和規(guī)范化的新階段，進(jìn)一步強(qiáng)調(diào)責(zé)任界定、安全保障與負(fù)責(zé)任部署。
Sumsub 的調(diào)查數(shù)據(jù)顯示，在來自中國內(nèi)地、中國香港及中國臺灣地區(qū)的 1,050 名受訪者中，僅在 2026 年第一季度，已有 37% 的中國內(nèi)地受訪者表示開始允許 AI 代理直接代其執(zhí)行操作。在 AI 代理使用量持續(xù)上升的同時，僅有 42% 的受訪者能夠清晰區(qū)分 AI 代理與其他類型的 AI，不足半數(shù)。這一結(jié)果表明，公眾在"AI 代理可被授權(quán)執(zhí)行的行為范圍"以及"哪些關(guān)鍵環(huán)節(jié)仍需要人工決策與監(jiān)督"等方面，仍存在明顯的認(rèn)知缺口。
核心發(fā)現(xiàn)：
Sumsub 大中華區(qū)策略總監(jiān)賴壯威表示："AI 代理的顯著價值之一是提升效率，但在責(zé)任認(rèn)定與風(fēng)險管控上，始終無法替代人的角色，其更應(yīng)被視為'副駕駛'，在清晰的規(guī)則與有效的監(jiān)管下發(fā)揮輔助作用，而非脫離監(jiān)督、獨立運(yùn)行。當(dāng)下，技術(shù)正以空前速度持續(xù)演進(jìn)，無論是消費者還是企業(yè)，最核心的需求并非更高程度的自動化，而是清晰、可解釋、可追溯的治理機(jī)制——包括決策如何形成、責(zé)任由誰承擔(dān)，以及出現(xiàn)問題時如何認(rèn)定與追責(zé)。只有在權(quán)責(zé)邊界清晰、安全可控的前提下，才能推動 AI 代理技術(shù)有序發(fā)展，服務(wù)實體經(jīng)濟(jì)。"
AI代理加速落地，"把關(guān)者"至關(guān)重要
對大多數(shù)消費者而言，對 AI ?代理的信任程度仍與其所涉及的風(fēng)險水平高度相關(guān)。大中華區(qū)消費者正日漸使用 AI ?代理，超過七成受訪者表示，至少每周使用一次 AI ?代理。當(dāng)前使用場景仍以低風(fēng)險、輔助性任務(wù)為主，如提問或內(nèi)容生成、信息整理與總結(jié)，及對各類活動進(jìn)行端到端的規(guī)劃與調(diào)研。然而，一旦涉及資金或其他高風(fēng)險行為，對 AI ?代理的信任度則明顯下降。這一差異也進(jìn)一步反映出消費者對 AI 代理"自主性"的邊界仍持謹(jǐn)慎態(tài)度，尤其在可能帶來更高風(fēng)險或更嚴(yán)重后果的場景下。
與此同時，77% 的大中華區(qū)受訪者傾向于在 AI 代理執(zhí)行操作前引入"人工確認(rèn)機(jī)制"，尤其是在涉及支付、敏感數(shù)據(jù)及不可逆轉(zhuǎn)的決策時，這進(jìn)一步凸顯了消費者對"人工把關(guān)" 的期待。這表明，隨著AI代理的自主性不斷提升，人類必須作為最終的"把關(guān)者"，從而確保權(quán)責(zé)明確，問責(zé)有度。
數(shù)字信任離不開驗證機(jī)制與社會各界的合力構(gòu)建
受訪者普遍認(rèn)為，以下三項因素將顯著提升其使用 AI 代理的信心：平臺層面的安全保障（39%）、更嚴(yán)格的驗證機(jī)制（38%）以及更健全的監(jiān)管框架（37%）。值得注意的是，中國內(nèi)地超過八成受訪者表示，對 AI 代理進(jìn)行驗證將有助于增強(qiáng)其使用信心。
信任也分布在不同主體之間。相近比例的受訪者表示，他們最信任 AI 平臺研發(fā)者（39%）、政府及監(jiān)管機(jī)構(gòu)（37%），以及獨立第三方驗證服務(wù)機(jī)構(gòu)（36%）來保障 AI 代理的安全性與責(zé)性可追溯性。這也表明，相關(guān)風(fēng)險難以由單一主體獨立應(yīng)對，亟需多方協(xié)作。
Sumsub 亞太區(qū)政府事務(wù)主管陳崇軒表示："AI 代理的有效治理離不開社會各界的緊密合作。Sumsub 致力與政府、監(jiān)管機(jī)構(gòu)及行業(yè)伙伴攜手，明確相關(guān)標(biāo)準(zhǔn)和規(guī)范，強(qiáng)化責(zé)任落實，并提升公眾對負(fù)責(zé)任使用AI代理的認(rèn)知，確保相關(guān)系統(tǒng)在透明、可執(zhí)行的安全框架內(nèi)運(yùn)行。"
Sumsub 攜手優(yōu)閱達(dá)，助力中國企業(yè)構(gòu)建 AI 代理治理與合規(guī)能力，支持安全有序"出海"
在當(dāng)前數(shù)字經(jīng)濟(jì)環(huán)境下，消費者和企業(yè)面臨的風(fēng)險，并不只來自 AI 代理本身，更源于數(shù)字化進(jìn)程中長期存在的身份欺詐、權(quán)限邊界不清及驗證不足等問題。隨著企業(yè)加快"出海"步伐，這類風(fēng)險在不同司法轄區(qū)中進(jìn)一步疊加，尤其對金融科技、跨境支付與匯款、跨境電商、游戲出海、共享出行等涉及海外用戶身份驗證與合規(guī)需求的行業(yè)，影響更為顯著。
在此背景下，Sumsub 依托其在驗證與反欺詐領(lǐng)域十余年的全球經(jīng)驗，與亞太數(shù)字化方案專家優(yōu)閱達(dá)達(dá)成戰(zhàn)略合作，協(xié)助企業(yè)在引入 AI 代理及自動化能力的同時，構(gòu)建覆蓋治理、合規(guī)與反欺詐的綜合防護(hù)體系，并兼顧消費者的使用習(xí)慣與信任預(yù)期，推動業(yè)務(wù)穩(wěn)健發(fā)展。
在支持企業(yè)加快布局東南亞等重點市場時，Sumsub 也助力中國企業(yè)穩(wěn)步拓展至拉丁美洲、非洲等新興市場，幫助其高效應(yīng)對不同司法轄區(qū)下多樣化的合規(guī)要求與風(fēng)險挑戰(zhàn)，助力企業(yè)安全、有序推進(jìn)全球業(yè)務(wù)布局。
為協(xié)助企業(yè)更安全、有效地部署 AI 代理，Sumsub 早前推出了 AI 代理驗證解決方案，該方案基于創(chuàng)新的 Know Your Agent（KYA）框架，可協(xié)助企業(yè)對AI 代理進(jìn)行身份驗證，確保只有可信的自動化操作才能代表企業(yè)執(zhí)行任務(wù)。同時，通過將 AI 代理與經(jīng)驗證的真實用戶身份進(jìn)行關(guān)聯(lián)，管理 AI 自動化行為，從而有效應(yīng)對 AI 驅(qū)動的欺詐威脅。
如欲了解更多有關(guān) AI 代理驗證及 KYA 的資訊，請瀏覽：https://sumsub.com/blog/know-your-agent/
調(diào)研方法說明：
為評估消費者對 AI 代理的接受度及當(dāng)前使用情況，Sumsub于2026 年 4 月，委托獨立市場研究機(jī)構(gòu) Blackbox 開展大中華區(qū) AI 代理消費者信任度調(diào)查。調(diào)查覆蓋中國內(nèi)地、中國香港及中國臺灣地區(qū)共 1,050 名受訪者，重點分析其信任水平、在不同復(fù)雜度與風(fēng)險場景下將任務(wù)交由 AI代理處理的意愿，以及影響使用與采納意愿的關(guān)鍵因素。同時，報告還探討了受訪者的實際使用行為、對平臺規(guī)則與限制的認(rèn)知情況，以及當(dāng)前在安全、隱私與責(zé)任方面的顧慮，這些因素仍在一定程度上影響 AI 代理的進(jìn)一步普及。
