AI技術(shù)在賦能發(fā)展的同時(shí)，也帶來(lái)新型風(fēng)險(xiǎn)。不法分子利用“AI換臉”、“AI語(yǔ)音”冒充銀行客服詐騙，手段迷惑性強(qiáng)，嚴(yán)重侵害人民群眾財(cái)產(chǎn)安全，擾亂正常金融秩序和社會(huì)穩(wěn)定。我們必須多方聯(lián)動(dòng)，綜合施策，筑牢防范“防火墻”。
一、技術(shù)解析與特征剖析：深度偽造技術(shù)何以成為詐騙利器？
“AI換臉”與“AI語(yǔ)音”合成技術(shù)，是以深度學(xué)習(xí)算法為基礎(chǔ)，在視覺(jué)和聽(tīng)覺(jué)領(lǐng)域的深度偽造（Deepfake）。這類技術(shù)通過(guò)收集目標(biāo)對(duì)象的臉部或語(yǔ)音數(shù)據(jù)并分析，生成對(duì)抗網(wǎng)絡(luò)（GAN）等模型，從而形成以假亂真的動(dòng)態(tài)人物面部視頻或高度相似的語(yǔ)音。這類技術(shù)門檻正逐步降低，甚至出現(xiàn)“一鍵生成”的簡(jiǎn)易軟件工具，使其被濫用的風(fēng)險(xiǎn)陡增。
其作案手法通常分為三步：首先，通過(guò)非法渠道收集公民的面部照片、語(yǔ)音片段及相關(guān)金融信息；其次，利用AI技術(shù)生成高度仿真的視頻和語(yǔ)音，甚至能模擬銀行辦公背景；最后，以“賬戶異常”“涉嫌洗錢”等緊急事由為借口，通過(guò)視頻通話誘導(dǎo)受害人點(diǎn)擊釣魚鏈接、泄露驗(yàn)證碼或?qū)①Y金轉(zhuǎn)移至所謂的 “安全賬戶”。
尤其需要警惕的是，這類詐騙已經(jīng)呈現(xiàn)出精準(zhǔn)化、場(chǎng)景化的特點(diǎn)。例如2025年，天津一位老年人接到冒充客服的AI語(yǔ)音電話，對(duì)方能準(zhǔn)確說(shuō)出其個(gè)人信息，并以“賬戶風(fēng)險(xiǎn)控制”為由誘導(dǎo)轉(zhuǎn)賬，所幸銀行檢測(cè)系統(tǒng)及時(shí)預(yù)警并攔截，避免了98萬(wàn)元的經(jīng)濟(jì)損失。此類案件通常涉案金額高、識(shí)別難，需高度警惕。根據(jù)中央網(wǎng)信辦相關(guān)數(shù)據(jù)顯示，未經(jīng)授權(quán)采集的人臉、聲音克隆已成為AI技術(shù)濫用的主要問(wèn)題之一，相關(guān)詐騙案件金額往往達(dá)數(shù)十萬(wàn)元，且破案難度極大。
該詐騙呈現(xiàn)出三大特征：一是欺騙性強(qiáng)，偽造的“客服”表情自然、口型匹配，甚至能模仿特定語(yǔ)調(diào)。二是精準(zhǔn)性高，詐騙分子能精準(zhǔn)說(shuō)出受害者的個(gè)人信息，量身定制詐騙話術(shù)，令人防不勝防。三是團(tuán)伙化作案，形成技術(shù)提供、信息販賣、實(shí)施詐騙的黑色產(chǎn)業(yè)鏈，跨區(qū)域遠(yuǎn)程操控，打擊難度大。
二、現(xiàn)實(shí)危害：挑戰(zhàn)不容忽視
（一）造成人民群眾重大財(cái)產(chǎn)損失。AI詐騙欺騙性高，單次涉案金額巨大，致受害家庭遭受重創(chuàng)。
（二）嚴(yán)重侵蝕社會(huì)信任基礎(chǔ)。利用技術(shù)偽造權(quán)威機(jī)構(gòu)身份實(shí)施詐騙，沖擊公眾信任，干擾正常金融與政務(wù)服務(wù)秩序，增加社會(huì)運(yùn)行成本。
（三）危害金融安全并挑戰(zhàn)科技倫理。技術(shù)淪為犯罪“面具”，干擾金融秩序，挑戰(zhàn)金融監(jiān)管與風(fēng)控能力。同時(shí)，這也尖銳地提出了科技發(fā)展必須遵循倫理規(guī)范、法律法規(guī)的緊迫性問(wèn)題。
三、多維防范：構(gòu)筑應(yīng)對(duì)新型詐騙的堅(jiān)固防線
防范“AI換臉”“AI語(yǔ)音”冒充銀行客服詐騙，必須堅(jiān)持系統(tǒng)觀念，匯聚各方力量，實(shí)施打防管控并舉。
一要強(qiáng)化技術(shù)反制與行業(yè)自律。金融機(jī)構(gòu)與科技企業(yè)應(yīng)加大研發(fā)投入，升級(jí)遠(yuǎn)程核驗(yàn)技術(shù)，筑牢生物特征識(shí)別防線；互聯(lián)網(wǎng)平臺(tái)須切實(shí)履行主體責(zé)任，加強(qiáng)對(duì)AI生成內(nèi)容的審核，及時(shí)處置涉詐信息。
二要加大依法打擊與源頭治理。公安機(jī)關(guān)應(yīng)持續(xù)開展專項(xiàng)打擊，深挖黑產(chǎn)鏈條，嚴(yán)懲犯罪分子。網(wǎng)信、金融監(jiān)管等部門要加強(qiáng)協(xié)作，整治網(wǎng)絡(luò)黑產(chǎn)，完善法律法規(guī)，明確技術(shù)使用邊界。
三要提升公眾防范意識(shí)。相關(guān)部門與金融機(jī)構(gòu)應(yīng)開展精準(zhǔn)化、分眾化反詐宣傳，特別是針對(duì)易受騙群體，普及識(shí)別技巧，引導(dǎo)公眾通過(guò)官方渠道核實(shí)信息，形成全民反詐的良好氛圍。
