近年來，隨著人工智慧技術的進步，一些犯罪分子開始利用人工智慧技術，將他人的面孔和聲音融合在一起，創造出非常逼真的合成影象，進行新型網路詐騙，往往在短時間內給受害者造成巨大損失。 我們怎麼能看到這種AI“深度偽造”？ 有什麼好的方法可以識別“AI換臉”嗎？ 我們先來看看最近發生在陝西省習的一起“AI換臉”詐騙案。
陝西省習的財務官員張女士與老闆**交談，老闆讓她將186萬元轉入指定賬戶。
受害人張女士：老闆讓我趕緊轉這筆錢，我對這筆錢很著急，因為他的聲音和**形象看起來和別人一樣，所以我更相信這筆錢是他所說的，然後我就直接轉了這筆錢。
轉賬後，張女士按照規定將電子憑證發給了公司財務內部群，沒想到群裡的老闆看到了資訊，問她資金的來源？
受害人張女士：然後我們打了**，然後跟老闆核實了一下，老闆說沒給我發**，然後就沒說轉賬的事情。
意識到自己被騙的張女士急忙報警求助，並立即聯絡反詐中心和相關銀行進行緊急停頓付款，最終挽救了大部分被騙資金156萬元。
人工智慧“多人換臉”騙局騙取港幣2億元。
超過100萬的現金，對於大多數人來說都是一筆鉅款，好在第一次處理損失，挽回了大部分損失，我們再來看看另乙個案例，這個案子“變臉”的技術難度更高，涉及的金額也更大。 近日，香港**還披露了一起AI多人換臉詐騙案，涉案金額高達2億港元。
在本案中，某跨國公司香港分公司的一名員工應邀參加由總公司首席財務官發起的多人會議。 按照要求，他多次將2億港元轉入5個當地銀行賬戶，然後與總部核實，得知自己被騙了。 **調查獲悉，本案中，在所謂的**會議中，只有一名受害者是“真人”，其餘所謂的參與者都是AI換臉後的欺詐者。
看完這兩個案例，你一定有點好奇，AI換臉背後的技術原理是什麼？ 在技術層面，如何實現對人臉的精準識別和替換，打造逼真的效果？ 讓我們聽聽專家的意見。
如何在技術上實現準確的人臉識別和替換。
中國網路空間安全協會人工智慧安全治理委員會專家薛芝志：AI換臉過程主要包括人臉識別與跟蹤、人臉特徵提取、人臉變換與融合、背景環境渲染、影音合成等幾個關鍵步驟。 其背後的核心由三部分組成，首先，利用深度學習演算法準確識別**中的人臉影象，並提取眼睛、鼻子、嘴巴等關鍵面部特徵。 其次，將這些特徵與目標人臉影象進行匹配、替換和融合; 最後，渲染背景環境並新增合成聲音，以生成高度逼真的假臉交換**。
快速的AI“換臉”只需乙個**即可完成。
為了了解AI換臉能有多逼真，記者與專業技術人員合作，深度體驗了AI換臉技術。
技術人員先是用手機**拍下了記者的臉部照片，匯入AI人工智慧軟體後，記者驚訝地發現，電腦攝像頭前的技術人員雖然是技術人員，但輸出的確實是記者的**，幾乎可以說是“一鍵換臉”， 不需要複雜的環境和解壓縮操作。
更令人驚訝的是，隨著技術人員面部表情的變化，**上記者的臉也隨之變化。
記者：為什麼技師的臉會動，我的**也會隨之動？
中國網路空間安全協會人工智慧安全治理專委會專家薛志志：首先，通過採集**，可以對**中的人臉進行人臉追蹤，在定位後的第二步，他可以對一張臉的人臉特徵進行採集和提取，主要包括這些與嘴巴相關的明顯人臉特徵， 鼻子和眼睛。收集完畢後，第三步就是拿著這個原件**，做乙個改造、融合和塑形。
記者：通過這個**還能做些什麼？
中國網路空間安全協會人工智慧安全治理專委會專家薛芝志：目前，通過這個**技術人員，這個**已經能夠移動和生活了，如果這個**進一步儲存下來，可以儲存大量的**。 稍後，您可以將其合成乙個簡短的 **版本**。
人工智慧人臉檢測技術主要通過深度學習演算法實現，可以識別面部特徵並對其進行準確分析。 可以從**或**中提取乙個人的面部表情，並將它們與另乙個人的面部特徵相匹配。 專家告訴記者，如果想在進行實時通話時實現人工智慧AI換臉技術的使用，乙個是遠遠不夠的，需要從不同角度收集近1000張照片。
中國網路空間安全協會人工智慧安全治理專委會專家薛芝志：想要實時點對點通訊，就需要多收集**，深度學習演算法模型訓練完成後，訓練後將模型倒入我們的**中，可以進行實時的更改和轉換。 在這種情況下，您可以實時更改您的臉部。 語音通訊也是可能的，我們需要提前收集到目標群體中的一些聲音，然後訓練模型來恢復目標群體的聲音。
人工智慧的生成量極高，難度極高，成本高昂。
據專家介紹，以欺詐為目的，點對點通話的實施需要AI人工智慧產生非常高的程度。 要達到假真造假的效果並不容易。
中國計算機學會安全專業委員會數字經濟與安全工作組成員方宇：對於詐騙，其實主要是通過點對點通話，這個時候，如果你用換臉技術和語音合成來做實時換臉詐騙，如果想完成這些技術操作， 您需要投資於強大的技術支援。
中國網信安全協會人工智慧安全治理專委會專家薛芝志：這背後需要大量的資金投入，包括收集最好的產品，包括專業演算法的人員等等，這需要乙個很長的週期，包括一些計算演算法。 投資的各個環節都需要長時間的不斷迭代和操作，才能達到相當現實的效果，才有可能達到欺詐的實際效果。
目前，AI“換臉”在娛樂**錄製中應用較多。
除了一些不法分子試圖利用AI技術進行詐騙之外，其實近年來，AI技術更多地被用於二次創作短**，這是娛樂性質的，網路上出現越來越多的明星AI換臉**，不少網友感嘆，這種**“嘴型， 手勢很匹配，很自然，我差點以為這是真的。 ”
例如，這款軟體，在拍下記者的臉部**後，可以在幾秒鐘內記錄並生成記者成為賽車手的視訊**。
中國計算機學會安全專業委員會數字經濟與安全工作組成員方宇：目前，AI技術主要用於改變短**的面貌，通過做一些特定的動作、跳舞等。 這些**其實似乎有點不自然，而且也是純粹的娛樂性變臉。
記者發現，在手機應用**中，有幾十款換臉軟體，可以達到換臉的目的。
中國網路空間安全協會人工智慧安全治理委員會專家薛志志：如果從娛樂大眾的角度來看，市面上有很多這樣的軟體和工具，可以達到AI換臉的效果，但**度只有六七分， 公眾可以直接看到它。但是如果你想生成乙個騙局來說話，你必須產生這種點對點，我們有很高的程度。
人工智慧技術的“換臉換嗓子”可能存在法律風險。
然而，AI技術也是一把“雙刃劍”，即使是為了娛樂而利用AI變臉變聲，也存在法律風險。 法律專家表示，利用人工智慧技術改變他人的面貌和聲音，甚至將其翻譯成其他語言並發布**，都可能涉嫌侵權，主要表現在三個方面：
首先，涉嫌侵犯著作權，例如相聲和素描，這些都是受中華人民共和國著作權法保護的“作品”。 例如，網民使用AI軟體將相聲、小品等“翻譯”成其他語言，需要得到版權所有者的授權，否則會出現侵權問題。
根據《中華人民共和國民法典》規定，任何組織或者個人不得利用資訊科技汙損、汙損、偽造等手段侵犯他人肖像權。 未經肖像權人同意，不得製作、使用、公開肖像權人肖像，法律另有規定的除外。
三是涉嫌侵犯發言權的，根據《中華人民共和國民法典》的規定，自然人的聲音保護應當適用肖像權保護的有關規定。 換句話說，在使用另乙個人的聲音之前，必須獲得有發言權的人的同意。
學習一些技巧，輕鬆識別 AI“人臉和聲音”。
AI換臉技術的出現，導致聽覺是虛擬的，看不一定是相信的。 那麼我們該如何預防呢？ 專家表示，事實上，無論AI人工換臉有多逼真，還是有一些方法可以辨別真假。
中國計算機學會安全專業委員會數字經濟與安全工作組成員方宇：其實從我目前看到的實時深度偽造來看，其實是有一定方法可以驗證的。
例如，我們可以要求對方在**說話時，通過在臉前揮手來進行識別和實時偽造，因為它需要實時生成和處理這個**，改變AI的面孔。
那麼在揮手的過程中，會引起這種面部資料的干擾，最終的效果就是我們看到的，在揮手的過程中，他鍛造的臉部會產生一定的抖動或者一些閃光，或者一些異常情況。
二是在點對點交流中，可以問一些只有對方知道的問題，以驗證對方的真實性。
提高預防意識，避免個人生物資訊洩露。
專家表示，除了一些識別AI換臉騙局的技巧外，我們每個人都應該提高預防意識，並在日常生活中採取相關預防措施，養成良好的上網習慣。 首先，要做好日常資訊保安保護，加強人臉、聲紋、指紋等生物特徵資料的安全防護：此外，還要做好個人手機、電腦等終端裝置軟硬體的安全管理。 其次，不要登入來歷不明**，以免被病毒入侵。 第三，做好可能用於聲音、影象甚至**的應用的授權管理，做好定位採集。 不給他人收集自己資訊的機會，也可以在一定程度上讓AI換臉騙局遠離他們。
隨著人工智慧技術的發展，需要多層次的監管規範。
除了提高自我預防意識，如何加強對AI技術的監管也成為越來越多人關注的問題。 AI技術本身不是問題，關鍵是我們如何使用它？ 如何形成有效的監督？ 據專家介紹，人工智慧技術的發展需要多層次的監管和標準化。
首先，從源頭上進一步加強對公民個人資訊的保護，特別是對生物識別等私隱資訊的技術、司法保護。 二是加強技術層面的管理。 例如，您可以使用**傳播**或社交軟體，使用專業的識別軟體進行識別，並在“AI生成”水印上不可磨滅的“AI生成”水印，用於AI生成。 目前，這種數字水印造假技術有待進一步推廣。 第三，在法律制度層面，要進一步完善人工智慧領域的相關法律法規。 2023年8月15日，中國正式實施《生成式人工智慧服務管理暫行辦法》。 《辦法》從多個方面“劃紅線”，旨在促進生成式人工智慧的健康發展和規範應用。