??公安部門：全國爆發(fā)消息不實，但涉詐風險正在積聚
??一張靜態(tài)半身照，經(jīng)過特殊軟件處理，就能變成視頻，而這樣一段視頻，可能被不法分子用來詐騙。那么，“AI換臉”是如何實現(xiàn)的？目前全國真的爆發(fā)“AI詐騙潮”了嗎？對普通公眾而言，如何識別“AI假臉”？
??花錢就可“買臉” “AI換臉”暗藏黑產(chǎn)
??“AI換臉”技術(shù)，一直是網(wǎng)絡(luò)安全監(jiān)管的重點對象，許多換臉軟件，不得不通過短視頻平臺、社交賬號等私密渠道進行資源共享。
??某社交平臺一位商家介紹，可以提供國內(nèi)明星換臉服務(wù)，軟件價格2000元一套，可送一個模型，“模型可以定制，另外加500元一個?！贝送?，該商家提供了多組套餐供選擇：包括單圖換臉、實時換臉、全自動換臉等，每套價格多集中在2000元至3000元。商家表示，可采用多個人臉混合的方式，將使用者本人的臉和明星的臉進行混合，以降低侵權(quán)風險。
??在某銷售網(wǎng)站上，一名軟件開發(fā)者則展示了如何將知名女星的眼睛和嘴巴拼接融合到一起，生成全新虛擬數(shù)字人的過程。該款軟件提供了從初級到超級再到全套的不同版本。以初級套餐來說，付費499元可提供軟件界面、視頻指導(dǎo)、入門級模型、基礎(chǔ)指導(dǎo)等。付費2888元，則可得到全套等級的視頻換臉模型。
??軟件不僅可以實現(xiàn)視頻換臉，還支持直播換臉?！叭绻阌锌粗械哪?，可以找到某個人的正面、側(cè)面等各種角度視頻拿來訓(xùn)練?！痹撥浖_發(fā)者同樣表示，“如果你想要明星臉，又怕侵權(quán)，不想那么像，就可以找?guī)讉€人的臉放在一起訓(xùn)練，看上去又像又不像，達到明星臉的效果?！?/p>
??此外，網(wǎng)絡(luò)上不乏AI換臉教程。在國內(nèi)某知名App上輸入“換臉”，彈出的高頻檢索記錄顯示，有“換臉軟件”“換臉App免費”“換臉視頻怎么做”“換臉算法”等。
??視頻“大變活人” 是如何實現(xiàn)的
??“AI換臉”也叫“深度偽造技術(shù)”，堪稱現(xiàn)代網(wǎng)絡(luò)“易容術(shù)”，是比PS強大很多的動態(tài)換臉技術(shù)。這一方式被一些不法分子用于盜刷銀行卡、非法辦理手機卡等詐騙場景。除了欺騙機器外，還可以通過偽造電話語音、視頻通話等欺騙真人，引誘轉(zhuǎn)賬、實施敲詐等。那么，“AI換臉”到底是如何實現(xiàn)的？
??“深度偽造技術(shù)主要分兩部分：自動編碼器和生成對抗網(wǎng)絡(luò)?！碧旖虼髮W智能與計算學部教授翁仲銘介紹，其核心原理，是利用“生成對抗網(wǎng)絡(luò)”等算法，將目標對象的面部，“嫁接”到被模仿對象上，一般可分四類：重現(xiàn)、替換、編輯和合成。
??隨著深度學習技術(shù)的發(fā)展，自動編碼器、生成對抗網(wǎng)絡(luò)等，逐漸被應(yīng)用到“深度偽造”中。那么，什么是自動編碼器？翁仲銘介紹，自動編碼器是一種神經(jīng)網(wǎng)絡(luò)技術(shù)，就是把一個人的照片特征抓取出來，然后用數(shù)字代表。
??有編碼器就需要解碼器，解碼器會把一串串數(shù)字再還原成照片。不同解碼器，可以還原不同照片，比如朱茵的解碼器可以還原朱茵的照片，而還原施瓦辛格照片，則需要施瓦辛格的解碼器。
??“深度偽造技術(shù)，就是在設(shè)計、訓(xùn)練精準的編碼器和解碼器?！蔽讨巽懡忉?，因為編碼器是抓取照片的特征，所以基本上只需要一套就可以了。但解碼器就需要訓(xùn)練很久，以換成史泰龍的臉為例，這個過程需要輸入史泰龍600—3000張照片，并經(jīng)過48—72小時來訓(xùn)練深度模型。
??“自動編碼器做出的照片是否自然真實，還需要判別把關(guān)，這就需要‘生成對抗網(wǎng)絡(luò)’技術(shù)?！蔽讨巽懡忉專@包括兩個機器學習模型，分別為“生成網(wǎng)絡(luò)”和“辨別網(wǎng)絡(luò)”，這種網(wǎng)絡(luò)包含兩個相互博弈的神經(jīng)網(wǎng)絡(luò)，像“貓捉老鼠”一樣對抗：一個盡力去忽悠另一個，讓它相信自己生成的是真樣本，而另一個則盡力去區(qū)分真假樣本。
??生成網(wǎng)絡(luò)扮演“造假者”，在模型訓(xùn)練后，產(chǎn)生偽造影片；而辨別網(wǎng)絡(luò)則扮演“檢測者”，不斷地檢視假影片，直至它再辨別不了結(jié)果是假的。數(shù)據(jù)越多，效果越理想，假影片越真實。
??AI進入快速迭代期，涉詐犯罪風險正在積聚
??通過AI換臉和擬聲技術(shù)，10分鐘騙430萬元；AI虛擬人在聊天中篩選出受害者，人工接力實施詐騙……近期，多起宣稱利用AI技術(shù)實施詐騙的案件引發(fā)關(guān)注。
??那么，“AI詐騙潮”是否真的到來了？近日，公安部門確認，“AI詐騙全國爆發(fā)”的消息不實，目前此類詐騙發(fā)案占比很低。但公安機關(guān)已注意到此犯罪新手法，將會同有關(guān)部門，開展技術(shù)反制和宣傳防范。
??專家表示，AI在技術(shù)上確實能做到換臉、擬音，但被用來進行“廣撒網(wǎng)”式詐騙需要具備很多條件。
??這類詐騙如果得手必須做到：收集到被換臉對象的個人身份信息、大量人臉圖片、語音素材，通過AI生成以假亂真的音視頻；竊取被換臉對象的微信號；充分掌握詐騙對象個人身份信息，熟悉其與被換臉對象的社會關(guān)系，綜合作案成本很高。
??公安機關(guān)研判，目前AI涉詐案件仍屬零星發(fā)案狀態(tài)，成熟的類型化詐騙犯罪，往往具有在全國多地集中爆發(fā)的特點，但當前沒有成規(guī)模的AI詐騙類案件發(fā)生。
??所以，近期網(wǎng)上“AI換臉、換聲詐騙在全國爆發(fā)”傳言不實，目前全國此類案件發(fā)生不到10起，但該動向值得高度關(guān)注。網(wǎng)上一鍵換臉功能的App、小程序有技術(shù)濫用風險，需要加強技術(shù)防范反制等工作。
??國家開發(fā)投資集團特級專家趙建強表示，雖然AI詐騙類案件尚未大規(guī)模爆發(fā)，但AI技術(shù)正加速向網(wǎng)絡(luò)詐騙、虛假信息、色情等領(lǐng)域滲透?！叭缂倜懊餍菗Q臉直播、一鍵脫衣、造謠、制作色情視頻等。雖然AI詐騙案件未成氣候，但這一趨勢值得關(guān)注，必須提早防范?！币晃环丛p民警說。
??用“白AI”對抗“黑AI”，及時畫紅線、踩剎車
??中國移動信息安全中心品質(zhì)管理處副處長周晶表示，近年來，各界正在研判AI技術(shù)給社會帶來的風險和潛在威脅，設(shè)法將AI技術(shù)發(fā)展納入一定規(guī)則中，做到安全可控。
??業(yè)內(nèi)人士建議，要加強AI反制技術(shù)研究，“以AI制AI”。一些科技公司正加強對圖像、聲音偽造技術(shù)的反制研究，在公安、金融的視頻認證場景已有應(yīng)用。有一線民警建議，要加強AI安全技術(shù)應(yīng)用研發(fā)，將AI技術(shù)應(yīng)用于犯罪識別、預(yù)警、對抗中，實現(xiàn)以“白”AI對抗“黑”AI。
??其次，加強源頭治理和行業(yè)引導(dǎo)，及時更新、完善相關(guān)法律、標準、規(guī)則，為AI技術(shù)發(fā)展保駕護航?！皵?shù)據(jù)是AI犯罪的源頭，保護好公民的個人隱私數(shù)據(jù)安全，就能在最大程度上降低AI違法犯罪的能力。”周晶說。
??中國互聯(lián)網(wǎng)協(xié)會監(jiān)管支撐部主任郝智超建議，AI技術(shù)發(fā)展還要有相關(guān)法律法規(guī)來畫紅線、踩剎車。對AI技術(shù)的研發(fā)、傳播、使用做到有規(guī)可循，并根據(jù)技術(shù)發(fā)展實際情況，及時完善對技術(shù)服務(wù)商行為的規(guī)范引導(dǎo)。
??此外，還要有針對性地加強反詐宣傳。郝智超表示，未來AI可根據(jù)大數(shù)據(jù)創(chuàng)造出無比接近真實的“真實”?！耙ㄟ^不斷的教育，改變大眾觀念，讓人知道眼見不一定為實，有圖不一定有真相，提升對網(wǎng)絡(luò)信息的辨識力?！?/p>
??(一)合成聲音
??騙子通過騷擾電話錄音等，提取某人聲音，獲取素材后進行聲音合成。
??(二)通過AI篩選受騙人群
??騙子不是漫無目的地全面撒網(wǎng)，而是別有用心地鎖定特定對象。
??(三)AI換臉
??騙子首先分析公眾發(fā)布在網(wǎng)上的各類信息，用AI技術(shù)換臉，可偽裝成任何人。
??識別假臉
??多數(shù)假臉是使用睜眼照片合成，假臉極少甚至不會眨眼。還包括語音和嘴唇運動不同步、情緒不符合、模糊的痕跡、畫面停頓或變色等。（記者 于梅君）