焦點熱訊:定制換臉視頻僅需數(shù)十元？ 謹防詐騙手法披上AI外衣
謹防詐騙手法披上AI外衣（主題）
北京日報記者 袁璐
日前，全國多地警方發(fā)布了多個“AI詐騙”的典型案例，案件披露后，“AI詐騙正在全國爆發(fā)”話題一度沖上熱搜第一，引發(fā)網(wǎng)友熱議。記者調(diào)查發(fā)現(xiàn)，目前有不少人對外提供定制AI換臉視頻，僅需正面半身照即可，成本低至數(shù)十元。
(資料圖片)
“當下AI換臉技術(shù)已相當成熟，容易被不法分子利用，但無需過分恐慌及妖魔化AI換臉的可用范圍?！本W(wǎng)絡安全專家表示，面對利用AI技術(shù)的新型騙局，公眾需提高警惕，碰到支付、轉(zhuǎn)賬等，盡量多渠道驗證對方身份。
突然泛濫
多款軟件可快速實現(xiàn)AI換臉
AI換臉技術(shù)，是一種利用人工智能和計算機視覺技術(shù)，將一張人臉圖像的特征和表情轉(zhuǎn)換到另一張人臉圖像上，實現(xiàn)“換臉”效果?！癆I換臉技術(shù)已相當成熟，使用門檻越來越低?！睂Ｗ⒃朴嬎闩c移動終端安全研究的“白帽黑客”陳玉（化名）告訴記者，早在2017年，就有某ID名為“Deepfakes”的用戶首次發(fā)布AI換臉視頻?！霸撚脩糍~號不久被封殺，但他直接開源了其AI換臉項目的代碼?！?/p>
代碼開源后，AI換臉技術(shù)宛如被打開的“潘多拉魔盒”，迅速席卷全球?！爸灰邆浠A(chǔ)的電腦知識，一個‘小白’也能在一天做出一個換臉視頻?！标愑癖硎荆壳笆忻嫔嫌卸嗫钴浖煽焖賹崿F(xiàn)AI換臉。除國外發(fā)布的專業(yè)軟件外，國內(nèi)部分娛樂APP也內(nèi)嵌了AI換臉功能。
昨天，記者下載了一款名為Face-Play的APP?！耙绘IAI換臉變裝，還原平行宇宙的你！”該APP表示，用戶需要在APP界面內(nèi)拍攝完成一張比較規(guī)范的正面人像，點擊變臉，選擇自己想要的變臉特效即可獲得AI換臉視頻，模板多達3000多款，含“古風漢服”“經(jīng)典角色”“氣質(zhì)美女”“港風女神”等。不過該APP采用付費制，周會員為17元，年會員為398元。此外，微信上還有不少有AI換臉功能的娛樂小程序，用戶無需下載也可在線使用。
隨便能買
定制AI換臉視頻僅需數(shù)十元
“眾女星換臉女兒國國王誰更適配？楊超越、迪麗熱巴……”在B站上，這樣的明星換臉視頻播放量往往突破10萬次。除明星換臉外，記者注意到，電商平臺上有商家抓住了人們對過世親人的思念，推出“AI想念的人”等視頻合成服務，一條合成視頻收費50元，月銷量超40件。
“你只需要提供一張人物正面半身照給我，我就能讓嘴巴眼睛動起來。你提供文字，他說出這段話?！痹撎詫毜曛饕贿吔榻B，一邊向記者出示了一條“客片”：“親愛的家人們，我想念你們，我和你們的外公在這邊過得很好，你們工作忙但也要照顧好身體。”在該店主發(fā)來的視頻里，一位頭發(fā)花白的老奶奶盯著鏡頭諄諄叮囑，面部表情自然，甚至帶有方言口音。
此外，還有不少商家以9.9元、19.9元等價格出售高清AI視頻換臉制作的教程，并提供多套模板和數(shù)字虛擬人面部捕捉工具。但記者發(fā)現(xiàn)，這類商品大多差評多多?！安灰I，沒有用”“騙人的，誰買誰上當”“資料包沒有想象中那么簡單，也沒有人工售后，全靠自學”，網(wǎng)友們評價道。
“找人定制AI換臉視頻，看起來成片效果好，但實際上有很大的安全隱患?！标愑癖硎?，這一過程需要搜集大量的面部識別信息，而這恰恰是用戶最核心的個人信息?！皞€人信息一旦被比對之后，如果落到不法分子的手里，極易威脅到財產(chǎn)安全和人身安全?！?/p>
加強防范
AI詐騙有待更高層面監(jiān)管
AI換臉技術(shù)的可及性，讓AI詐騙頻發(fā)。近日，包頭市公安局發(fā)布一起使用AI技術(shù)進行電信詐騙的案件，受害人郭先生10分鐘內(nèi)被騙430萬元。5月25日，4月發(fā)生的一起AI換臉詐騙事件又被媒體曝光。在這起安徽安慶經(jīng)開區(qū)發(fā)生的“冒充熟人”詐騙案中，詐騙分子使用了一段9秒鐘的智能AI換臉視頻佯裝“熟人”，詐騙金額達245萬元。
基于AI換臉的詐騙手段已發(fā)展到什么地步？對此，奇安信首席反詐騙專家裴智勇對記者表示，不法分子在使用AI換臉進行詐騙時，大多以發(fā)送或展示AI換臉視頻片段作為手段?！氨热缱罱教岬降?秒AI換臉視頻，它其實沒有和受害人發(fā)生真實交互，由于時間很短，受害人也很難詳細分辨?！?/p>
“但我們無需過分恐慌及妖魔化AI換臉的可用范圍?！迸嶂怯卤硎荆阅壳凹夹g(shù)來看，想要盜取微信賬號、劫持微信鏡頭并在實時視頻聊天中運用AI實時換臉和變聲技術(shù)，難度和成本都極高?！膀_子通常都是用很低的成本博取很高的收益，不太可能花費高昂代價去批量尋找受害者?！?/p>
陳玉表示，普通用戶防范AI詐騙，關(guān)鍵在保護個人面部信息，防止被不法分子所獲取。“用戶不要在互聯(lián)網(wǎng)上隨意公開發(fā)布包含自己高清正面人臉的照片和視頻，或與不熟悉的人隨意進行線上視頻等?！?/p>
“沒有經(jīng)過訓練的普通人想要用肉眼識別視頻是否為AI合成，難度極高。騙子甚至不會給你詳細判斷的機會，幾秒就掛斷?！迸嶂怯抡J為，公眾與其花費大量精力分辨騙子發(fā)來視頻的真假，不如在有懷疑時直接換一種渠道驗證對方身份，業(yè)內(nèi)稱為“雙因子身份驗證”?！氨热绾糜岩曨l聊天后要求轉(zhuǎn)賬，你就撥打?qū)Ψ诫娫捥柎a再次確認；對方使用微信談論交易，你就不妨用QQ再找他問問。多渠道驗證要比肉眼分辨視頻容易得多，也可靠得多。”
同時，業(yè)內(nèi)專家認為，AI詐騙亟待更高層面監(jiān)管，比如監(jiān)管部門應該建立專門的人工智能安全機構(gòu)，監(jiān)督AI技術(shù)在不同領(lǐng)域內(nèi)的應用。技術(shù)企業(yè)也應該加強數(shù)據(jù)合規(guī)建設，在人工智能設計中嵌入個人信息保護機制，并采用技術(shù)措施和管理制度，確保個人信息安全。
標簽：
