接到自稱(chēng)某短視頻平臺(tái)官方客服電話后，老人根據(jù)提示下載了一款A(yù)pp，然后銀行卡里的十幾萬(wàn)元被轉(zhuǎn)走……不久前，甘肅省金昌市公安局金川分局偵破一起涉電信網(wǎng)絡(luò)詐騙案件，揭開(kāi)不法分子利用AI語(yǔ)音偽裝官方客服詐騙的新套路。

業(yè)內(nèi)專(zhuān)家表示，要多措并舉，織密反詐防護(hù)網(wǎng)，防范新型AI語(yǔ)音電詐，更好保護(hù)群眾財(cái)產(chǎn)安全。

一通“客服”電話騙走十幾萬(wàn)元

“您好，檢測(cè)到您的賬號(hào)開(kāi)通了直播會(huì)員，每月會(huì)自動(dòng)扣費(fèi)800元。”去年底，金昌市的王阿姨接到這樣一通電話，對(duì)方自稱(chēng)某短視頻平臺(tái)官方客服，若要取消扣費(fèi)需按其指引一步步操作。

由于的確開(kāi)通過(guò)會(huì)員，加上來(lái)電語(yǔ)氣和官方客服別無(wú)二致，王阿姨信以為真，通過(guò)對(duì)方發(fā)送的短信鏈接下載了一款A(yù)pp，并由對(duì)方遠(yuǎn)程操作，其間，手機(jī)黑屏十幾秒。等手機(jī)恢復(fù)正常，她收到銀行短信提醒，銀行卡里的十幾萬(wàn)元被轉(zhuǎn)走。

意識(shí)到被騙，王阿姨立即報(bào)警。金昌市公安局金川分局刑事偵查大隊(duì)民警高濤告訴記者，王阿姨的遭遇并非個(gè)例?！叭ツ暌詠?lái)我們受理過(guò)的同類(lèi)型案件超過(guò)10起，絕大多數(shù)是利用AI技術(shù)詐騙老年人?！?/p>

考慮到案件可能涉及省內(nèi)外多地受害人，金昌市公安局金川分局成立專(zhuān)案組，經(jīng)過(guò)近半個(gè)月偵查蹲守，成功抓獲犯罪嫌疑人8名，現(xiàn)場(chǎng)查獲涉案手機(jī)、銀行卡、電腦等大量作案工具。

“截至目前，此案受害人已超20人，大多是老年人，來(lái)自全國(guó)各地?！备邼f(shuō)，單人受騙金額從幾萬(wàn)元到幾十萬(wàn)元不等，涉案總額超300萬(wàn)元。目前，涉案犯罪嫌疑人已被依法采取刑事強(qiáng)制措施，案件仍在進(jìn)一步辦理中。

警方抓捕犯罪嫌疑人現(xiàn)場(chǎng)。（金昌市公安局金川分局供圖）

多名辦案民警表示，不少受害老人不愿主動(dòng)報(bào)案。有的覺(jué)得被騙“丟臉”，有的擔(dān)心被家人責(zé)怪、引發(fā)家庭矛盾，選擇默默承受。

“82歲獨(dú)居老人被‘假客服’騙走83萬(wàn)元養(yǎng)老錢(qián)”“六旬老人遭遇‘假客服’詐騙，銀行卡超萬(wàn)元余額被轉(zhuǎn)走”……記者梳理發(fā)現(xiàn)，去年以來(lái)，甘肅、江蘇、山東等多地警方通報(bào)多起利用AI語(yǔ)音合成技術(shù)冒充官方客服詐騙老年人的案件。

傳統(tǒng)電詐借助AI合成語(yǔ)音“升級(jí)”

受訪民警表示，此類(lèi)電詐是傳統(tǒng)的假客服詐騙借助AI技術(shù)的升級(jí)版，與傳統(tǒng)方式相比，這類(lèi)新型騙局迷惑性更強(qiáng)，極易上當(dāng)。

據(jù)警方介紹，不法分子通過(guò)非法渠道獲取老年人個(gè)人信息，利用老年人防范意識(shí)薄弱、對(duì)數(shù)字技術(shù)辨別能力不足等特點(diǎn)，有針對(duì)性地進(jìn)行詐騙。

記者了解到，部分網(wǎng)絡(luò)平臺(tái)存在個(gè)人信息非法買(mǎi)賣(mài)黑產(chǎn)鏈，姓名、手機(jī)號(hào)、常用App使用記錄等在內(nèi)的信息被明碼標(biāo)價(jià)、公開(kāi)售賣(mài)，有的上千條打包出售，價(jià)格從幾百元至幾千元不等。

金昌市公安局金川分局刑事偵查大隊(duì)教導(dǎo)員黃瑞介紹，不同于傳統(tǒng)人工冒充客服詐騙案件，本案的詐騙手段利用了AI語(yǔ)音合成技術(shù)。詐騙分子獲取正規(guī)平臺(tái)客服公開(kāi)語(yǔ)音素材后，使用AI語(yǔ)音克隆工具進(jìn)行合成，幾分鐘即可生成高度逼真的客服語(yǔ)音，比人工假扮更自然、更規(guī)范、更難以分辨。

“詐騙分子通過(guò)AI合成語(yǔ)音，搭建虛擬撥號(hào)設(shè)備，批量撥打電話，一天能打上千個(gè)?！碧m州市公安局刑偵支隊(duì)副支隊(duì)長(zhǎng)李謙說(shuō)，通話前段依靠AI合成語(yǔ)音，主要為“取消自動(dòng)扣費(fèi)”“退款理賠”等話術(shù)；騙取老人信任后，詐騙分子人工介入，誘導(dǎo)老人下載軟件，詐騙分子遠(yuǎn)程操控手機(jī)進(jìn)行轉(zhuǎn)賬，整個(gè)過(guò)程大概十幾分鐘。

黃瑞說(shuō)，詐騙分子在操控受害人手機(jī)時(shí)，還會(huì)遠(yuǎn)程抹掉作案痕跡。一旦得手，迅速通過(guò)多層級(jí)、隱蔽化的洗錢(qián)手段轉(zhuǎn)移資金，給追回?fù)p失帶來(lái)難度。本案大部分受害老人的資金尚未追回。

記者在網(wǎng)絡(luò)平臺(tái)上搜索發(fā)現(xiàn)，免費(fèi)和付費(fèi)AI語(yǔ)音合成工具大量存在，部分商家宣稱(chēng)一鍵克隆真人語(yǔ)音，便宜的只要幾十元。

“AI語(yǔ)音克隆、深度偽造工具獲取成本極低，操作簡(jiǎn)單，造假逼真，被不法分子應(yīng)用于電信詐騙，社會(huì)危害極大，需引起高度警惕。”甘肅省計(jì)算中心副主任沈玉琳說(shuō)。

織密老年群體反詐防護(hù)網(wǎng)

受訪人士表示，一段時(shí)間以來(lái)，濫用AI技術(shù)的新型涉老詐騙案件頻發(fā)，作案手段升級(jí)，隱蔽性更強(qiáng)，嚴(yán)重侵害老年群體的財(cái)產(chǎn)安全與身心健康，亟需全鏈條、多維度防治打擊，織密老年群體反詐防護(hù)網(wǎng)。

受訪專(zhuān)家建議，從詐騙源頭入手，從嚴(yán)打擊個(gè)人信息非法買(mǎi)賣(mài)行為，重點(diǎn)整治醫(yī)療、養(yǎng)老、社區(qū)、金融等重點(diǎn)領(lǐng)域信息泄露問(wèn)題，規(guī)范相關(guān)平臺(tái)信息采集權(quán)限，暢通舉報(bào)渠道。

“要加快升級(jí)AI偽造內(nèi)容實(shí)時(shí)監(jiān)測(cè)、溯源技術(shù)，加強(qiáng)網(wǎng)信、公安等部門(mén)與電信運(yùn)營(yíng)商、相關(guān)平臺(tái)協(xié)作，排查監(jiān)管盲區(qū)，嚴(yán)格規(guī)范AI工具使用?！北本煼洞髮W(xué)中國(guó)教育與社會(huì)發(fā)展研究院助理研究員蔣艷雙說(shuō)。

針對(duì)取證難、追蹤難等難點(diǎn)，甘肅政法大學(xué)民商經(jīng)濟(jì)法學(xué)院副教授盛玉華建議，進(jìn)一步優(yōu)化電子證據(jù)取證規(guī)則，完善相關(guān)法律法規(guī)，明確將利用AI技術(shù)實(shí)施涉老詐騙等情形列為從重處罰情節(jié)，強(qiáng)化司法懲戒威懾。

蘭州大學(xué)管理學(xué)院副教授王洪鵬表示，要立足老年人認(rèn)知特點(diǎn)和信息接收習(xí)慣，開(kāi)展精準(zhǔn)化、場(chǎng)景化、適老化反詐宣傳，社區(qū)、家庭、子女聯(lián)動(dòng)，引導(dǎo)老人不輕信人言、不輕易轉(zhuǎn)賬，遇到可疑情況及時(shí)核實(shí)，提升老年群體反詐能力。

據(jù)了解，多家網(wǎng)絡(luò)平臺(tái)已發(fā)布提醒，不會(huì)通過(guò)境外電話、短信等途徑告知扣款、續(xù)費(fèi)等信息，不會(huì)要求用戶(hù)下載軟件或共享屏幕。民警提示，不掃不明二維碼、不點(diǎn)陌生鏈接、不隨意授權(quán)，“遭遇詐騙要第一時(shí)間報(bào)警，保存好通話記錄、短信截圖等相關(guān)證據(jù)”。