隨著AI技術(shù)的發(fā)展，變臉、擬聲的深度偽造現(xiàn)象也隨處可見(jiàn)。一些人利用這樣的先進(jìn)技術(shù)，實(shí)施針對(duì)老年人的詐騙。有哪些AI新型詐騙方式？如何防范？一起了解。

　　AI變臉擬聲 新型技術(shù)針對(duì)老年人實(shí)施詐騙

　　9月1日，北京大學(xué)國(guó)家發(fā)展研究院教授李玲發(fā)布了一份公開(kāi)聲明，稱(chēng)“近期網(wǎng)上出現(xiàn)了大量假冒本人推銷(xiāo)醫(yī)藥書(shū)籍和治療手段的虛假視頻，大多是人工智能AI合成。本人從未在任何平臺(tái)推銷(xiāo)過(guò)醫(yī)藥書(shū)籍和醫(yī)療產(chǎn)品，請(qǐng)大家不要上當(dāng)受騙”。

　　隨后，李玲教授向警方報(bào)警。

　　北京大學(xué)國(guó)家發(fā)展研究院教授 李玲：我覺(jué)得這個(gè)，不僅損害我的利益，更多的其實(shí)是損害了公眾的利益。因?yàn)槔夏耆烁P(guān)注健康，會(huì)實(shí)施一些養(yǎng)生的方法、治療的方式。所以特別希望我們老年朋友們一定要識(shí)別，要看清楚，你買(mǎi)他的東西，他是不是這一行的專(zhuān)家？像我是搞政策的，這個(gè)治療，我不是行家，不會(huì)推薦的。

　　除了賣(mài)東西給老年人，更可怕的，還有利用這種深度偽造的技術(shù)，實(shí)施針對(duì)老年人的詐騙。

　　武漢市公安局漢陽(yáng)分局琴斷口派出所民警接到轄區(qū)銀行報(bào)警，稱(chēng)先后有兩位老人，要求提前支取定期存款，疑似遭到了詐騙。而兩位老人并不認(rèn)識(shí)，只是碰巧在同一個(gè)銀行取錢(qián)。

　　武漢市公安局漢陽(yáng)區(qū)分局琴斷口派出所民警 胡楚文：肖婆婆接到電話(huà)，說(shuō)她上大學(xué)的孫子跟別人起了沖突，把對(duì)方打傷了，現(xiàn)在正在派出所調(diào)解。楊爹爹接到電話(huà)，說(shuō)他的孫子，在路上出了交通事故，需要跟對(duì)方私了，因?yàn)閾?dān)心影響后面的工作。

　　民警向老人解釋了AI詐騙的套路，老人都聲稱(chēng)，電話(huà)里的聲音和自己的孫子一模一樣。經(jīng)民警聯(lián)系家屬確認(rèn)，兩位老人的孫子，并沒(méi)有電話(huà)里的情況發(fā)生。

　　武漢市公安局漢陽(yáng)區(qū)分局琴斷口派出所民警 胡楚文：目前這兩個(gè)案例，已經(jīng)非常充分說(shuō)明，現(xiàn)在的AI技術(shù)已經(jīng)可以模擬聲紋、人的面容，所以你所看到的、聽(tīng)到的，都不一定是真的。

　　還有更極端的事情。一位母親正和女兒視頻聊天，女兒在視頻里抱怨“生活費(fèi)不夠用了”，就在這時(shí)，家門(mén)打開(kāi)了，她的“真女兒”走了進(jìn)來(lái)。而另一頭，視頻里的“假女兒”還在央求母親“給生活費(fèi)”。

　　加強(qiáng)治理 幫助老年人防范新型詐騙

　　在利用新技術(shù)進(jìn)行的新型詐騙中，老年人是弱勢(shì)群體。他們分辨力低，但平時(shí)也離不開(kāi)手機(jī)的使用。如何幫助老年人防范這樣的陷阱，也成為大家關(guān)心的問(wèn)題。

　　在上海和平公園，虹口公安分局民警為現(xiàn)場(chǎng)老年人講解了當(dāng)前常見(jiàn)的投資理財(cái)詐騙、網(wǎng)絡(luò)貸款詐騙等電信網(wǎng)絡(luò)詐騙手段。

　　在遼寧大連，一場(chǎng)包含AI互動(dòng)、反詐宣傳、知識(shí)科普等主題的反詐宣傳活動(dòng)也吸引了不少老年人前來(lái)，沉浸式學(xué)習(xí)預(yù)防電信網(wǎng)絡(luò)詐騙犯罪的相關(guān)知識(shí)，提升防騙能力。

　　9月8日開(kāi)幕的2024年國(guó)家網(wǎng)絡(luò)安全宣傳周上，就專(zhuān)門(mén)設(shè)置了關(guān)于AI換臉、換聲等對(duì)個(gè)人隱私侵害的反詐宣傳展位。

　　中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專(zhuān)業(yè)委員會(huì)委員 張博：除了換臉之外，如果再結(jié)合換背景環(huán)境、換聲音等等，那樣逼真度就會(huì)更高，更加難以分辨。

　　近幾年，我國(guó)對(duì)于規(guī)范人工智能生成、合成、使用上一直在采取積極措施。

　　2022年12月，國(guó)家網(wǎng)信辦等三部門(mén)發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，旨在加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)深度合成管理。

　　2023年7月，國(guó)家網(wǎng)信辦等七部門(mén)聯(lián)合公布《生成式人工智能服務(wù)管理暫行辦法》，在鼓勵(lì)創(chuàng)新與發(fā)展的同時(shí)，進(jìn)一步完善人工智能管理體系。

　　2024年7月，國(guó)家金融監(jiān)督管理總局金融消費(fèi)者權(quán)益保護(hù)局發(fā)布風(fēng)險(xiǎn)提示，提醒公眾防范“共享屏幕”“AI換臉擬聲”等新型電信網(wǎng)絡(luò)詐騙。

　　2024年9月14日，國(guó)家網(wǎng)信辦發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法(征求意見(jiàn)稿)》。

　　《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法(征求意見(jiàn)稿)》中提出：

　　人工智能生成合成內(nèi)容標(biāo)識(shí)包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。