Jillian Kossman, IDScan.net 首席运营官 Jillian Kossman IDScan.net 首席运营官

英國94億英鎊的深度偽造詐騙損失對美國的啟示

英國最近公佈的數據顯示，深度偽造技術已經超出了偶爾的實驗，進入了一個持續的工業化犯罪階段。根據全球反詐騙聯盟的報告，英國消費者在2025年11月前九個月內因AI驅動的詐騙而損失了94億英鎊，這個數字反映了數字欺騙的規模和複雜性的迅速增加。雖然頭條新聞經常關注政治不當信息或病毒式合成視頻，但更重要的轉變正在金融服務、數字身份系統和在線平台上發生。深度偽造技術已經從研究實驗室和互聯網社區轉移到了一個日益增長的詐騙工具生態系統中。犯罪集團正在結合面部替換軟件、AI生成的語音克隆、合成身份構建以及文件偽造等技術，創建出令人信服的、可擴展的攻擊，這些攻擊可以繞過傳統的驗證控制。這些影響遠遠超出了單一市場。英國的損失引起了美國的關注，特別是在金融服務、數字身份系統和在線平台等領域。遠程開戶、數字銀行和自動化決策系統已經成為商業的基礎設施。AI驅動詐騙的財務影響英國94億英鎊的損失是AI增強的詐騙如何迅速演變的明確指標。更廣泛的全球數據也支持這一趨勢，美國聯邦貿易委員會（FTC）報告稱，2023年美國消費者因詐騙而損失了超過10億美元，這是首次報告的損失達到這個水平，冒名頂替詐騙和身份詐騙是領先的類別。FTC的消費者哨兵網絡數據顯示，數字冒名頂替方案正在穩步增加，許多這些方案都受到AI基於操縱工具的支持。金融機構已經感受到這個影響。2023年，聯邦調查局的互聯網犯罪投訴中心報告稱，網絡犯罪的總損失為125億美元，商業電子郵件妥協和投資詐騙佔據了重要部分。隨著生成AI降低了生產令人信服的假身份的門檻，這些類別可能會更頻繁地與合成媒體技術交叉。全球詐騙格局也反映了不斷增大的壓力。納斯達克發佈的全球金融犯罪報告估計，2023年全球的詐騙計劃和銀行詐騙造成的預計損失超過485億美元。雖然不是所有這些活動都涉及深度偽造，但分析師們越來越多地將生成AI視為提高詐騙效率和可信度的倍增器。英國的身份詐騙程度是由於高數字採用、開放銀行框架和廣泛使用遠程身份核實的結合所致。這些結構條件也存在於美國，金融服務公司、共享經濟平台和在線市場都依賴自動化身份驗證和遠程開戶。如何將孤立的冒名頂替轉變為可擴展的運營自2017年首次提出以來，深度偽造詐騙已經演變為各個階段。早期的事件通常涉及單次冒名頂替嘗試，例如商業電子郵件妥協中的偽造執行官語音。2019年，一起備受關注的案例中，犯罪者使用AI生成的語音克隆來冒名頂替一位CEO，並從一家英國能源公司非法轉移了22萬歐元，如《華爾街日報》報導的那樣。目前的浪潮更為系統化。犯罪網絡現在提供合成身份套件，包括AI生成的駕駛執照、操縱的生物特徵自拍和匹配的數據記錄。開源生成對抗網絡和消費級別的面部替換工具降低了技術障礙。曾經需要專家知識的東西現在可以通過在線市場和加密消息平台進行組裝。歐洲刑警組織的研究已經警告說，生成AI正在加速詐騙即服務模式，使有組織的犯罪集團能夠自動化魚叉式網絡攻擊，創建多語言詐騙腳本和大量製造身份證件。該機構的2023年威脅評估強調了合成媒體工具如何降低成本同時提高可信度和影響力。這個轉變很重要，因為身份驗證系統是為了確認靜態數據點而設計的。傳統的檢查通常集中在文件真實性、數據庫驗證或簡單的面部識別匹配上。深度偽造技術可以利用這些系統之間的差距，AI生成的面部可以通過基本的活體檢測，合成身份可以結合真實和虛假的數據元素以避免交叉引用。這意味著詐騙者可以反覆練習攻擊，直到檢測閾值被滿足。結果是一個防御系統必須不斷演化的循環，而攻擊者則受益於可擴展的自動化。美國的風險格局美國與英國有許多相同的特徵，這些特徵都促成了AI驅動的詐騙浪潮。遠程開戶已經成為銀行和金融科技公司的標準做法，數字第一的平台處理從汽車租賃到遊戲和酒店預訂等一切業務，都不需要面對面身份核實。生物特徵身份驗證的增長為這個領域添加了另一維度，面部識別和自拍基於的驗證工具被廣泛部署以簡化開戶流程。當深度偽造視頻可以模擬實時的面部運動時，這些系統將面臨越來越大的壓力。是的，這些自動化工具已經產生了效率增益和用戶體驗的提升，通過啟用電子商務和點對點市場處理每天數百萬筆交易，幾乎沒有任何摩擦，但是它們也為組織開啟了一系列新的漏洞。金融機構必須在客戶便利性和強大的防詐騙措施之間取得平衡。過度激進的控制可能會疏遠合法用戶，而不足夠的保障則會使企業面臨損失的風險。超出金融的平台風險金融服務通常在詐騙討論中受到最多的關注，但它們遠不是唯一的風險領域。酒店、遊戲、汽車和在線市場都依賴身份驗證來防止濫用、年齡限制訪問違規和支付詐騙。一個被攻破的身份系統可以使更廣泛的犯罪行為得以實施，包括洗錢和訪問受監管的服務，由於數字生態系統的相互聯繫，單一領域的漏洞可能會迅速擴散。一個用於開設銀行帳戶的合成身份可能稍後會被用於在多個平台上註冊，從而放大了潛在的危害。基於雲的驗證服務和API驅動的集成已經簡化了各種規模的企業的合規性，但同時，集中化也創造了集中化的目標。攻擊者可以研究常見的驗證工作流程，並根據需要定制深度偽造輸出。對抗深度偽造詐騙的韌性建設僅僅依靠單一的解決方案或保護點來消除風險是一種無效的方法。專家們強調了在適應性風險框架中結合文件驗證、生物特徵分析、行為分析和異常檢測的重要性。AI的複雜性正在不斷演化，因此持續的模型訓練是跟上AI進步的必要條件。靜態閾值和一次性部署策略不適合這個目的。跨行業和與執法機構的合作也至關重要，考慮到數字詐騙網絡的跨境性質。消費者意識也發揮著作用，一個可以通過公共報告和透明度來支持的概念，幫助減少受害率。英國損失的激增是一個警告信號，而不是一個孤立的異常。隨著生成AI能力的擴展和成本的降低，詐騙策略將繼續演化。依賴遠程驗證系統的組織必須評估其控制措施對合成媒體操縱的韌性。對於在美國運營的公司，問題變成了其防御系統能夠多快地成熟起來，以應對日益複雜和迅速的深度偽造詐騙浪潮，就像英國的經驗所示，AI驅動的詐騙如何迅速轉化為數十億英鎊的損失。當金融服務、在線平台和身份提供者重新評估其暴露程度時，焦點正在從孤立的詐騙案例轉向系統性韌性。深度偽造技術已經進入了一個由自動化、規模和跨部門影響所定義的階段。反應需要相應地匹配。