今年以來，隨著ChatGPT和GPT-4等技術的應用，深度合成產品和服務日漸增多。利用AI換臉、AI擬聲等虛假音視頻進行詐騙的違法行為屢見不鮮，這些新的詐騙手法十分隱蔽和高效，給社會造成很大的安全威脅。
近日，“AI詐騙正在全國爆發”一度沖上微博熱搜。6月10日，國家反詐中心辟謠爆發傳言不實。但AI詐騙相關話題的熱度依然居高不下，甚囂塵上。
(資料圖)
2023年5月，內蒙古包頭警方發布一起利用AI實施電信詐騙的典型案例：2023年4月，福建一家科技公司的法人代表郭先生被騙子通過AI換臉和擬聲技術，佯裝好友對其實施詐騙。在10分鐘內，先后分兩筆把430萬元轉到了對方的銀行賬戶上。
無獨有偶，2023年5月22日，AI換臉詐騙事件再次發生。安徽一男子9秒被騙132萬，詐騙分子使用了一段9秒鐘的智能AI換臉視頻，佯裝“熟人”讓受害人放松警惕從而得手。其詐騙速度之快，令人乍舌。
這兩則受騙事件套路如出一轍。不法分子利用AI換臉技術，偽裝成特定人物，提前制作冒充熟人的視頻，并與他人進行視頻通話，或使用特定的換臉應用程序，以假亂真，博取被害人信任后實施詐騙行為。
AI換臉的應用邊界新科技的發展應用，可謂是一把雙刃劍，AI 換臉技術亦是。給我們的生活帶來了便利的同時，但也可能會被用于欺詐和虛假信息傳播，對隱私和安全構成威脅，同時導致誤解和誤導等問題。
AI換臉，即通過AI人工智能技術，把別人的臉換成自己的臉，而且臉部表情自然，效果十分逼真。AI換臉技術主要通過使用深度學習算法和大型模型來實現，其實現原理是通過人臉檢測、人臉對齊、特征提取、特征融合和重建等步驟，將不同人的面部特征進行融合，生成具有換臉效果的新圖像。
具體來說，首先，大型模型可以自動檢測人臉，并在輸入圖像中定位人臉區域。接著，對輸入圖像中的人臉進行對齊，使得不同人臉的面部特征點位置相同。這通常需要使用人臉關鍵點和仿射變換等技術。再者，使用深度學習模型，可以提取人臉的特征，這些特征可以用來指導替換操作。將兩張不同人臉的面部特征進行融合，生成新的面部特征。最后，使用重建算法，例如反卷積神經網絡（DCNN）或GAN等，將新的面部特征映射回圖像空間中，生成一張具有換臉效果的新圖像。
總而言之，AI換臉采用的是深度合成技術，通過AI建模實現換臉。利用深度學習、虛擬現實等生成合成類算法，制作圖像、音頻、視頻等信息，目前在社交、影視、廣告等諸多領域不斷深化應用。
比如，在影視劇中，劇組可以運用AI換臉技術對原演員或危險情節拍攝進行巧妙處理；在教學方面，AI換臉技術能夠實現互動性強的虛擬教學。
同時，AI換臉技術也存在著濫用風險。此前，有多個電商直播間被曝使用明星AI換臉直播，博取流量。這些直播并不會直接提到相關明星藝人的名字，但也不會主動聲明或者否認，通過社交媒體傳播，誘導用戶和粉絲點擊鏈接下載惡意軟件或輸入個人信息，以達到直播賣貨或進行詐騙的目的。更有甚者，利用AI換臉軟件及技術非法處理和制作虛假的淫穢視頻后進行非法售賣，繞過人臉識別系統監管從而實施詐騙、盜竊等犯罪。
可以看出，不法分子使用AI技術分析目標用戶的行為特征和個人信息，進行精準定向攻擊，竊取個人敏感信息。這類詐騙往往通過非法獲取他人個人數據，以及運用各種黑灰軟件來替換數據信息來實現，從而達到目的。
AI詐騙“魔高一尺”，防范“道高一丈”AI換臉詐騙的背后，是隱私信息泄露與詐騙陷阱的結合。針對技術花樣翻新的AI詐騙，公眾要提高防范意識，加強監管、健全立法是重要手段。趨利避害，需要從個人、政策、技術、安全企業等多個層面和維度共同發力，才能應對未來可能出現的新型詐騙手段。
在個人層面，提高自身使用數字工具的安全意識和安全能力。一是當在涉及到轉賬交易等行為時要格外留意，可以通過電話、視頻等方式再三確認對方是否是本人；二是加強個人信息保護意識，謹慎點擊不明鏈接，不管是在互聯網上還是社交軟件上，盡量避免過多地暴露自己的信息，以免被騙子精準圍獵。
在政策層面，已出臺相關文件，但更要加強對AI技術的監管和管理。2022年11月25日，國家互聯網信息辦公室、工業和信息化部、公安部聯合發布了《互聯網信息服務深度合成管理規定》，明確了深度合成數據和技術管理規范。要求深度合成服務提供者和技術支持者加強訓練數據管理和技術管理，保障數據安全，不得非法處理個人信息。其中提到：深度合成服務提供者對使用其服務生成或編輯的信息內容，應當添加不影響使用的標識。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內容功能的服務的，應當進行顯著標識，避免公眾混淆或者誤認。
今年4月11日，國家網信辦公布了《生成式人工智能服務管理辦法（征求意見稿）》，其中提到，AI內容必須真實準確，還明確提到，禁止非法獲取、披露、利用個人信息和隱私、商業秘密。
對于提供“AI換臉”技術的互聯網科技類企業，要加大監管力度。此外，各網絡平臺對于AI換臉的應用應當擔負起責任。目前，推出AI換臉功能的平臺以及允許AI換臉相關內容傳播的平臺，都應該加強審核，以避免AI技術被不法分子利用。
在技術層面，緊盯數據的信息采集、儲存、共享、披露等各環節，進行全鏈條管理。當前AI安全研究仍然落后于AI能力研究，這也是安全技術廠商應持續攻關的方向。加大對AI換臉技術的技術研究和防范措施的開發力度，提高AI換臉技術的安全性和可靠性，研發更加智能化的識別系統用于辨別真偽，減少此類詐騙行為的生存空間。
人臉信息作為敏感個人信息，不正當使用將對社會公眾的人身和財產安全帶來重大風險。在使用新興技術時，我們不能忘記法律的規制、道德倫理的約束，這是所有技術發展應有的邊界。于此同時，必須時刻保持高度警惕，增強自我安全意識和能力，才能防范網絡詐騙。
標簽：
