譯者：閆靜。
在過去的幾年裡，由於深度偽造的出現，數字領域中現實與虛擬之間的界限已經慢慢但肯定地變得模糊。
複雜的、人工智慧驅動的合成媒體**已經從荷里活的新概念演變成一種實用工具，被出於政治動機的威脅行為者和網路犯罪分子用來合成虛假資訊和實施欺詐。
如今，隨著人工智慧能力的增強，深度偽造和合成的威脅也在增長。 我們對線上資訊真實性的信任從未如此低調或脆弱。
在本文中，我們將深入探討我們今天所看到的深度偽造世界，探索它們的性質、風險、現實生活中的影響，以及應對這些高階威脅所需的條件。
Deepfakes通常是人為建立的，音訊旨在顯示人們參與的從未發生過的事件或行為。 它們利用複雜的人工智慧 （AI） 和機器學習 （ML） 技術，特別是生成對抗網路 （GAN）。
GaN 涉及兩個 AI 模型：乙個生成內容（生成器），另乙個評估其真實性（鑑別器）。 生成器生成越來越逼真的假**或假音訊，而鑑別器不斷評估內容的真實性，從而迅速提高生成的假**的質量和可信度。
最初，深度偽造在娛樂和社交領域占有一席之地，提供了新穎的內容創作方式，例如將名人的臉疊加在**中的不同身體上，或實現逼真的聲音模仿。 然而，這項技術創造高度令人信服的假貨的潛力迅速從單純的新奇事物轉變為虛假資訊和操縱的強大工具。
從政治虛假資訊到金融欺詐，深度偽造的後果是深遠和多方面的。 下面，我們將通過一些關鍵示例來了解這些風險的廣度和深度。
政治虛假資訊
深度偽造通過傳播虛假陳述和操縱公眾**，對政治穩定構成重大風險，尤其是當它們被用來製造關於政客的誤導性陳述時。 第乙個備受矚目的例子發生在 2018 年，當時 Buzzfeed 發布了歐巴馬的深度偽造。
從那時起，許多其他案件都是**; 烏克蘭人沃洛德公尺爾·澤倫斯基 （Volodymyr Zelensky） 的深度偽造，錯誤地將他描繪成承認失敗並敦促烏克蘭人向俄羅斯投降，旨在誤導和挫敗公眾士氣。 最終，由於發現澤連斯基頭部與體型不匹配等不一致之處，**被認定為假**。
商業間諜活動
在行業中，深度偽造已成為實施欺詐的有效工具，有可能造成巨大的經濟損失。 這在冒充高階管理人員時尤其有效。 一家英國能源公司損失了22萬歐元，原因是人工智慧軟體被用來模仿該公司德國母公司首席執行官的聲音，並指示英國首席執行官緊急轉移資金。
個人身份盜竊和騷擾
當虛假**被用於身份盜竊和騷擾時，個人權利和私隱非常容易受到攻擊。 惡意**的產生可能比我們想象的要嚴重得多。 在德國，人們對深度偽造的威脅非常關注，以至於已經發起了一場廣告活動，以強調這些危險，並警告父母與這些技術相關的風險。
操縱金融市場
除了對個人或組織造成傷害外，深度偽造還可以通過虛假陳述影響投資者決策和市場情緒，從而擾亂整個金融市場。 乙個例子是深度偽造，攻擊者描述了五角大樓附近短暫影響美國的假設事件。
濫用法律和司法
在法律領域，深度偽造可用於偽造證據，這可能導致司法不公並破壞司法程式的完整性。 雖然在法律環境中還沒有具體和廣泛的例子，但以這種方式使用深度偽造的可能性引起了人們對法庭上視聽證據的可靠性以及加強核查措施以確保正義的必要性的擔憂。
與任何工具一樣，人工智慧可以用於好事和壞事。 目前，該行業正在努力開發人工智慧驅動的方法來檢測和打擊深度偽造威脅。 這項工作的大部分集中在分析面部表情和語音生物特徵，以發現人眼和耳朵無法察覺的細微異常。 這涉及使用機器學習模型，並在包含真實和操縱**的各種資料集上訓練它們，以便有效地區分兩者。
通常與加密貨幣相關的區塊鏈技術也正在成為這場鬥爭中的有用工具。 區塊鏈提供了一種驗證檔案的真實性和真實性並確認它們沒有被更改的方法。 所謂的“智慧型合約”既可以用來驗證數字內容的真實性，也可以用來跟蹤它如何與其他物件互動，包括任何修改。 結合可以標記*內容真實性的人工智慧，智慧型合約可以觸發審查過程或提醒相關當局或利益相關者。
此外，該行業正在開發其他工具，以確保人工智慧平台建立的內容可以被檢測為人造內容。 例如，谷歌的合成器可以在人工智慧生成的音訊內容中嵌入聽不見的“水印”。 像 synthad 這樣的方法旨在確保 AI 工具生成的內容即使在被人類或其他編輯軟體操縱後仍能可靠地檢測為人工生成的內容。
與網路安全的其他領域一樣，教育和宣傳活動在打擊深度偽造威脅方面發揮著重要作用。 對個人和組織進行深度偽造、如何發現它們及其潛在影響的教育至關重要。 未來幾年，科技公司、網路安全專家、**機構和教育機構之間的合作將變得至關重要，因為我們正在努力制定更全面的戰略，以打擊用於不良目的的人工生成內容。
隨著深度偽造帶來的威脅形勢不斷演變，採取策略來減輕與濫用人工智慧技術相關的風險變得越來越重要。 以下最佳實踐可以幫助組織和個人提高對與深度偽造相關的安全威脅的認識。
提高認識和培訓
教育是防止深度偽造的基石。 定期對員工進行識別深度偽造的培訓可以顯著降低被欺騙的風險。 該培訓應側重於合成的微妙之處**，並及時了解深度偽造技術的最新發展。
在組織內培養一種驗證文化，通過多種渠道對任何異常或可疑的通訊（尤其是涉及敏感資訊的通訊）進行交叉檢查。
實施穩健的驗證流程
對於關鍵通訊，特別是在金融和法律環境中，實施多因素身份驗證和嚴格的驗證流程至關重要。 例如，對於高風險交易或敏感資訊共享，語音和**呼叫確認可能是有效的。 這種做法可以防止類似於前面提到的首席執行官為欺詐活動偽造聲音的情況。
利用先進的網路安全解決方案
我們可以通過將先進的網路安全解決方案與深度偽造檢測功能相結合，利用人工智慧來擊敗人工智慧。 使用人工智慧和機器學習來分析和標記潛在深度偽造的工具增加了重要的安全層。
定期軟體和安全更新
維護最新的軟體（包括安全解決方案）對網路安全至關重要。 更新通常包含針對新發現的漏洞的補丁，這些漏洞可能被深度偽造和其他網路威脅所利用。 主動軟體更新可以顯著降低安全漏洞的可能性。
與外部專家合作
對於內部網路安全能力有限的組織，與外部安全專家合作可以提供增強的保護。 這些專業人員可以提供有關最新威脅的資訊，並協助制定專門針對深度偽造和其他新興網路風險的策略。
個人警覺
作為個人，我們在與**互動時都必須保持警惕，這包括對聳人聽聞或有爭議的內容保持一定程度的懷疑，在分享或採取行動之前進行驗證。
利用可以幫助檢測深度偽造的工具和瀏覽器擴充套件也有助於加強個人網路安全實踐。
還值得注意的是，與任何其他創作一樣，深度偽造的質量可能會因創作者的能力和對細節的關注而異。 這意味著在某些情況下，仍然可以發現不太先進或複雜的深度偽造。 在識別過程中需要特別注意的事項包括：
不自然的眼球運動：AI 生成的影象或**可能無法準確複製複雜和自然的眼球運動。 這種差異可能表現為不尋常的眨眼模式或缺乏自然的眼球運動。
音訊** 同步問題：某些深度偽造可能無法同步語音和嘴唇動作，從而導致明顯的差異。
顏色和陰影不一致：AI 通常不能一致地渲染顏色和陰影，尤其是在不同的照明條件下。 請注意膚色或背景顏色的不一致，陰影可能會錯位。
不尋常的身體運動：人工智慧也可能難以保持體型的一致性，導致明顯的扭曲或不規則。 這可能包括突然的、不自然的動作或表情，這些動作或表情與乙個人的平時動作或反應不一致。
簡而言之，打擊深度偽造需要多方面的方法，將教育、強大的驗證流程、先進技術、軟體維護、專家協作和個人警惕相結合。 這些做法是應對網路安全領域日益複雜的深度偽造的綜合戰略的一部分。 此外，它們將有助於防禦其他型別的網路安全威脅，鼓勵個人和組織在當今以數字為中心的世界中所需的安全思維。
潘多拉魔盒已經開啟，我們不能指望深度偽造會消失。 相反，隨著深度偽造變得越來越普遍和微妙，我們將需要制定有效的應對措施，並在某些關鍵領域取得突破。
除了繼續開發先進的身份驗證工具外，包括 OpenAI 等 AI 開發人員和網路安全公司在內的行業領導者還需要引領 AI 技術的開發和應用，以建立道德準則並確保對 deepfake 威脅的強大防禦。
此外，還需要制定新的立法和法規來禁止和懲罰出於有害目的建立和分發深度偽造。 由於數字**的跨國性質，還需要在法律框架內開展國際合作，以有效打擊深度偽造。
正如我們上面提到的，教育公眾了解深度偽造意識和素養是應對此類威脅不可或缺的一部分。 在一場涉及各種網路表面的戰鬥中，可以傳播錯誤資訊，僅靠技術和監管是無法取勝的。 深度偽造不可避免的擴散需要一種多維的防禦方法，將技術創新、道德行業實踐、明智的立法措施和公共教育結合起來。