Bộ lọc làm đẹp là một công cụ tiềm năng cho cuộc tấn công Deepfake

Bộ lọc làm đẹp hiện nay không chỉ che giấu các khiếm khuyết: chúng còn có thể giúp deepfakes và face morphs tránh được các hệ thống phát hiện. Một nghiên cứu mới cho thấy rằng ngay cả các hiệu ứng làm mịn tinh tế cũng có thể khiến các bộ phát hiện AI nhầm lẫn, khiến các hình ảnh giả trở nên thật và các hình ảnh thật trở nên giả. Nếu xu hướng này tiếp tục, bộ lọc làm đẹp có thể phải đối mặt với các hạn chế trong các.context có mức độ rủi ro cao, từ kiểm soát biên giới đến các cuộc gọi Zoom của công ty.

Trong một nghiên cứu học thuật năm 2024 hợp tác giữa Tây Ban Nha và Ý, các nhà nghiên cứu đã báo cáo rằng 90% phụ nữ từ 18 đến 30 tuổi sử dụng bộ lọc làm đẹp trước khi đăng hình ảnh lên mạng xã hội. Trong ý nghĩa này, bộ lọc làm đẹp là các phương pháp thuật toán hoặc hỗ trợ AI để thay đổi ngoại hình khuôn mặt sao cho được cải thiện so với bản gốc:

Từ nghiên cứu năm 2024: ví dụ về khuôn mặt nữ (bên trái) và nam (bên phải) trước và sau khi áp dụng bộ lọc làm đẹp. Bộ lọc đã thay đổi các đặc điểm như tông màu da, mắt, mũi, môi, cằm và gò má để tăng cường vẻ hấp dẫn. Nguồn: https://arxiv.org/pdf/2407.11981

Các bộ lọc này cũng có sẵn như các chức năng bản địa hoặc chức năng bổ sung trong các hệ thống dựa trên video phổ biến, bao gồm Snapchat và Zoom, cung cấp khả năng làm mịn da “không hoàn hảo” và thậm chí thay đổi tuổi của đối tượng, đến mức mà danh tính có thể bị thay đổi đáng kể:

Click để phát:ba phụ nữ tắt bộ lọc “làm đẹp” video, tiết lộ mức độ mà ngoại hình của họ bị thay đổi bởi các thuật toán hoặc AI. Nguồn: https://www.youtube.com/watch?v=gtCpea_5qxw

Hiện tượng này dường như đã đạt đến điểm bão hòa ngay khi công nghệ đã tương đối trưởng thành; một nghiên cứu năm 2020 từ Đại học City London đã tiết lộ rằng 90% người dùng Snapchat trẻ tuổi ở Hoa Kỳ, Pháp và Vương quốc Anh đã sử dụng bộ lọc trong ứng dụng của họ, trong khi Meta báo cáo rằng hơn 600 triệu người trẻ đã sử dụng bộ lọc trên Facebook hoặc Instagram tại thời điểm đó.

Khi khám phá các tác động bất lợi của các bộ lọc này đối với sức khỏe tâm lý, một báo cáo Psychology Today đã lặp lại rằng trong số những người được nghiên cứu, 90% phụ nữ trẻ, với độ tuổi trung bình là 20, đã sử dụng bộ lọc hoặc chỉnh sửa ảnh của họ theo một cách nào đó. Các bộ lọc phổ biến nhất là những bộ lọc dùng để làm đều màu da; tạo ra một vẻ ngoài rám nắng; làm trắng răng; và thậm chí giảm kích thước cơ thể.

Tranh đấu

Khi các bộ lọc khuôn mặt được thiết lập để được hưởng lợi từ cuộc cách mạng năm 2025 trong tổng hợp video, và nói chung từ sự quan tâm liên tục trong lĩnh vực nghiên cứu này, mức độ mà chúng ta có thể “tái tạo” hoặc tưởng tượng lại bản thân trong các cuộc gọi video trực tiếp đang ngày càng xung đột với mối quan tâm của cộng đồng an ninh về các kỹ thuật video deepfake gian lận hoặc tội phạm.

Một vấn đề là rằng phạm vi ‘kiểm tra dễ dàng’ được phát triển trong những năm gần đây để tiết lộ một kẻ giả mạo video deepfake, người có thể đang tìm cách lừa đảo một lượng lớn tiền trong một bối cảnh doanh nghiệp, đang trở nên kém hiệu quả khi các điểm yếu này được tính đến trong dữ liệu đào tạo và tại thời điểm suy luận:

Click để phát:ba hoặc bốn năm trước, vẫy tay trước khuôn mặt được deepfake là một kiểm tra đáng tin cậy cho các cuộc gọi video, nhưng chúng ta có thể thấy rằng những nỗ lực chuyên tâm từ các công ty như TikTok đang làm xói mòn các ‘dấu hiệu’ cổ điển. Nguồn: Ibid và https://archive.is/mofRV#wavehands

Critically hơn, việc sử dụng rộng rãi các bộ lọc làm đẹp khuôn mặt / thay đổi khuôn mặt làm cho nước trở nên đục đối với một thế hệ mới của các bộ phát hiện deepfake đang được giao nhiệm vụ giữ cho những kẻ mạo danh ra khỏi các cuộc gọi video trong phòng họp và tránh xa những nạn nhân tiềm năng của ‘mạo danh’ và ‘bắt cóc’ gian lận.

Nó dễ dàng hơn để tạo ra một deepfake thuyết phục, dù là ảnh hay video, nếu độ phân giải của hình ảnh thấp hoặc hình ảnh bị suy giảm theo một cách nào đó, vì hệ thống giả mạo cơ bản có thể che giấu những điểm yếu của nó sau những gì dường như là vấn đề kết nối hoặc vấn đề về nền tảng.

Trên thực tế, các bộ lọc làm đẹp phổ biến nhất loại bỏ một số vật liệu hữu ích nhất trong việc xác định các video deepfake, chẳng hạn như kết cấu da và các khu vực chi tiết khuôn mặt khác – và đáng để xem xét rằng khuôn mặt càng già, càng có nhiều chi tiết như vậy, và do đó, việc sử dụng các bộ lọc làm đẹp chống lão hóa có thể là một sự cám dỗ đặc biệt trong trường hợp đó.

Nếu một vẻ ngoài ‘android’ không có chi tiết là thời thượng, các bộ phát hiện deepfake có thể thiếu vật liệu cần thiết để phân biệt giữa hình ảnh và video người thật và giả. Nguồn: https://www.instagram.com/reel/DMyGerPtTPF/?hl=en

Các giấy của Hội Hoàng gia vào cuối năm 2024 Điều gì là đẹp vẫn còn tốt: hiệu ứng hào quang hấp dẫn trong kỷ nguyên của các bộ lọc làm đẹp đã xác nhận rằng việc sử dụng các bộ lọc làm đẹp tăng cường vẻ hấp dẫn chung trên cả hai giới (mặc dù sự hấp dẫn tăng lên có xu hướng giảm ước tính chung về trí tuệ ở phụ nữ sử dụng bộ lọc làm đẹp).

Do đó, nó là công bằng khi nói rằng đây là một công nghệ phổ biến; rằng nó hoạt động; và rằng nó sẽ là một sự sốc văn hóa nếu nó đột nhiên phải đối mặt với các hạn chế về an ninh, hoặc bị cấm trong các bối cảnh đa dạng.

Tuy nhiên, trong một giai đoạn mà các video deepfake đe dọa trở nên không thể phân biệt với các tham gia video thực sự, cả về ngoại hình và giọng nói, có thể rằng sự “tiếng ồn” toàn cầu từ các bộ lọc làm đẹp có thể cần được giảm thiểu trong tương lai, vì lý do an ninh.

Kẻ phạm tội mịn màng

Vấn đề này đã được điều tra gần đây nhất trong một bài báo mới từ Đại học Cagliari ở Ý, với tựa đề Đẹp lừa đảo: Đánh giá tác động của các bộ lọc làm đẹp đối với phát hiện tấn công deepfake và morphing.

Trong nghiên cứu mới, các nhà nghiên cứu đã áp dụng các bộ lọc làm đẹp cho các khuôn mặt từ hai tập dữ liệu chuẩn, và đã kiểm tra một số bộ phát hiện deepfake và morphing tấn công trên cả hình ảnh gốc và đã thay đổi.

Trong gần như mọi trường hợp, độ chính xác của phát hiện đều giảm sau khi làm đẹp; sự sụt giảm đáng kể nhất xảy ra khi các bộ lọc làm mịn các nếp nhăn, làm sáng màu da, hoặc thay đổi tinh tế các đặc điểm khuôn mặt. Những thay đổi này đã loại bỏ hoặc làm biến dạng các tín hiệu mà các mô hình phát hiện dựa vào.

Ví dụ, mô hình hàng đầu trên MorphDB đã mất hơn 9% độ chính xác sau khi làm đẹp, và vấn đề này vẫn tồn tại trên nhiều kiến trúc phát hiện, cho thấy rằng các hệ thống hiện tại không mạnh mẽ đối với các cải tiến thẩm mỹ phổ biến.

Các tác giả kết luận:

‘[Bộ lọc làm đẹp] tạo ra một mối đe dọa đối với tính toàn vẹn của hệ thống xác thực sinh trắc học và phân tích pháp y, làm cho việc phát hiện deepfake và tấn công morphing mạnh mẽ trong những điều kiện như vậy trở thành một thách thức mở quan trọng.

‘Công việc trong tương lai nên ưu tiên phát triển các hệ thống phát hiện thao túng kỹ thuật số mạnh mẽ đối với những thay đổi tinh tế, thực tế, dù có ác ý hay không, để đảm bảo việc nhận dạng và xác minh nội dung đáng tin cậy trong các bối cảnh hàng ngày và quan trọng về an ninh.’

Phương pháp và Dữ liệu

Để đánh giá cách các bộ lọc làm đẹp ảnh hưởng đến phát hiện deepfake và phát hiện morph, các nhà nghiên cứu đã áp dụng một bộ lọc làm mịn tiến bộ và đã kiểm tra kết quả trên hai mạng nơ-ron tích chập (CNN) được liên kết chặt chẽ với vấn đề mục tiêu: AlexNet và VGG19.

Mỗi tập dữ liệu chuẩn được kiểm tra chứa các ví dụ về thao túng khuôn mặt phù hợp. Đầu tiên là CelebDF, một tập dữ liệu video lớn có 590 clip thực và 5.639 clip giả mạo được tạo ra thông qua các kỹ thuật hoán đổi khuôn mặt tiên tiến. Bộ sưu tập này cung cấp một loạt các điều kiện ánh sáng, tư thế đầu và biểu cảm tự nhiên trên 59 cá nhân, khiến nó phù hợp để đánh giá độ bền của các bộ phát hiện deepfake trong các kịch bản truyền thông thực tế:

Ví dụ về các hình ảnh khuôn mặt bị ảnh hưởng, từ CelebDF. Nguồn: https://github.com/yuezunli/celeb-deepfakeforensics

Thứ hai là AMSL (yêu cầu đăng ký), một tập dữ liệu tấn công morphing được xây dựng từ Bộ sưu tập Face Research Lab London, chứa cả khuôn mặt thực và khuôn mặt được trộn tổng hợp. Tập dữ liệu này bao gồm các biểu cảm trung lập và cười từ 102 đối tượng, và được cấu trúc để phản ánh các thách thức thực tế cho các hệ thống xác thực sinh trắc học được sử dụng trong các bối cảnh như kiểm soát biên giới.

Hình ảnh từ tập dữ liệu nguồn Face Research Lab London (FRLL) được sử dụng trong AMSL. Nguồn: https://figshare.com/articles/dataset/Face_Research_Lab_London_Set/5047666?file=8541955

Mỗi mạng được đào tạo trên 80% của tập dữ liệu deepfake hoặc morphing, với 20% còn lại được sử dụng cho xác thực. Để kiểm tra độ bền đối với việc làm đẹp, các nhà nghiên cứu sau đó đã áp dụng một bộ lọc làm mịn tiến bộ cho các hình ảnh kiểm tra, tăng bán kính mờ từ 3% đến 5% chiều cao khuôn mặt:

Ví dụ về khuôn mặt từ các tập dữ liệu CelebDF (trên) và AMSL (dưới), được hiển thị trước và sau khi áp dụng một bộ lọc làm đẹp dựa trên làm mịn. Bán kính bộ lọc được缩 theo chiều cao khuôn mặt, với c = 3% và c = 5% tạo ra các hiệu ứng mạnh hơn.

Về các chỉ số, mỗi mô hình được đánh giá bằng Tỷ lệ lỗi bằng nhau (EER) trên cả mẫu kiểm tra gốc và làm đẹp. Phân tích cũng báo cáo Tỷ lệ lỗi phân loại trình bày hợp pháp (BPCER), hoặc tỷ lệ dương tính giả, và Tỷ lệ lỗi phân loại trình bày tấn công (APCER), hoặc tỷ lệ âm tính giả, sử dụng ngưỡng được đặt trên dữ liệu gốc.

Khuôn mặt morphed từ tập dữ liệu AMSL.

Để đánh giá hiệu suất thêm, Diện tích dưới đường cong ROC (AUC) và phân bố điểm số cho hình ảnh thực và giả đã được kiểm tra.

Thử nghiệm

Trong kết quả phát hiện deepfake, cả hai mạng đều cho thấy Tỷ lệ lỗi bằng nhau tăng lên khi cường độ làm đẹp tăng. EER của AlexNet tăng từ 22,3% trên hình ảnh gốc lên 28,1% ở mức làm mịn cao nhất, trong khi EER của VGG19 tăng từ 30,2% đến 35,2%. Sự suy giảm hiệu suất theo các mẫu khác nhau trong mỗi trường hợp:

Kết quả phát hiện deepfake trên tập dữ liệu CelebDF sử dụng AlexNet và VGG19. Cả hai mô hình đều được kiểm tra trên hình ảnh gốc và làm đẹp với các mức làm mịn khuôn mặt tăng dần. Các chỉ số được hiển thị bao gồm Tỷ lệ lỗi bằng nhau (EER), Tỷ lệ lỗi phân loại trình bày hợp pháp (BPCER) và Tỷ lệ lỗi phân loại trình bày tấn công (APCER), sử dụng ngưỡng được đặt từ tập kiểm tra gốc. Độ chính xác của phát hiện giảm khi cường độ làm đẹp tăng, mặc dù mẫu suy giảm khác nhau giữa các kiến trúc.

Khi làm đẹp tăng, AlexNet trở nên có nhiều khả năng nhầm lẫn khuôn mặt thực cho giả, như được hiển thị bằng sự tăng ổn định của tỷ lệ dương tính giả (BPCER). VGG19, mặt khác, chủ yếu gặp khó khăn trong việc bắt các giả mạo, với tỷ lệ âm tính giả (APCER) tăng. Cả hai mô hình đều phản ứng khác nhau với các bộ lọc, cho thấy rằng thậm chí các kiến trúc nổi tiếng cũng có thể thất bại theo những cách khác nhau khi đối mặt với các thay đổi về thẩm mỹ.

Để hiểu rõ hơn về những kết quả này, các nhà nghiên cứu đã áp dụng bộ lọc làm đẹp riêng biệt cho hình ảnh thực và giả và đo lường tác động đến hiệu suất phát hiện. Sự phân tích này, được hiển thị trong bảng kết quả dưới đây, làm rõ nguồn gốc của sự dễ bị tổn thương của mỗi mô hình:

Độ chính xác của phát hiện cho AlexNet và VGG19 dưới làm đẹp một phần trên tập dữ liệu CelebDF. Bảng báo cáo ba kịch bản: làm đẹp thực vs làm đẹp giả (F-Real vs F-Fake); làm đẹp thực vs giả gốc (F-Real vs O-Fake); và thực gốc vs làm đẹp giả (O-Real vs F-Fake), với sự giảm độ chính xác cho thấy hiệu suất phát hiện giảm. AlexNet bị ảnh hưởng nhiều nhất khi hình ảnh thực được làm đẹp, trong khi VGG19 gặp khó khăn nhất khi làm đẹp được áp dụng cho hình ảnh giả.

Đối với AlexNet, hiệu suất phát hiện giảm khi hình ảnh thực được làm đẹp, nhưng cải thiện khi chỉ hình ảnh giả được làm mịn. Đối với VGG19, hiệu suất cải thiện slightly với hình ảnh thực được làm đẹp nhưng trở nên tồi tệ hơn khi deepfakes được lọc. Trong tất cả các trường hợp, làm đẹp mạnh hơn giảm độ chính xác.

Biểu đồ hộp hiển thị phân bố điểm số đầu ra của AlexNet và VGG19 trên mẫu thực và giả từ tập dữ liệu CelebDF, dưới các mức làm đẹp tăng dần. Khi làm mịn tăng, phân bố điểm số cho hình ảnh thực và giả trở nên ít tách biệt hơn, cho thấy độ tin cậy của phát hiện giảm. AlexNet trở nên ít tự tin hơn trong việc xác định khuôn mặt thực, trong khi VGG19 trở nên có nhiều khả năng phân loại sai hình ảnh giả.

Làm đẹp làm cho điểm số đầu ra của AlexNet trở nên đồng đều hơn trên cả mẫu thực và giả. VGG19 cho thấy sự phân tán lớn hơn trong mỗi lớp. Mặc dù những tác động trái ngược này lên sự thay đổi điểm số, cả hai mô hình đều mất độ chính xác. Đối với AlexNet, điểm số cho khuôn mặt thực di chuyển gần hơn với điểm số của deepfakes. Đối với VGG19, điểm số cho hình ảnh thực và giả bắt đầu chồng lên nhau, giảm khả năng của mô hình trong việc phân biệt chúng.

Bản báo cáo cho biết:

‘Những kết quả này có những ý nghĩa quan trọng và cho thấy rằng cần phải xem xét việc sử dụng các bộ lọc làm đẹp trong phát hiện deepfake, vì chúng có thể có tác động không thể đoán trước đến hiệu suất. Cụ thể, các kiến trúc khác nhau phản ứng khác nhau với các thao túng khuôn mặt, ngay cả khi những thao túng đó không nhằm mục đích lừa đảo.

‘Ví dụ, dựa trên bộ phát hiện deepfake cụ thể, các bộ lọc làm đẹp có thể thay đổi đáng kể đầu ra, khiến hình ảnh thực được xác định là giả và, quan trọng hơn, cho phép deepfakes lừa dối việc phát hiện.

‘Do đó, cần tập trung vào việc phát triển các bộ phát hiện mạnh mẽ hơn đối với những thay đổi tinh tế, thực tế, dù có ác ý hay không, để đảm bảo nhận dạng và xác minh nội dung đáng tin cậy trong các bối cảnh hàng ngày và quan trọng về an ninh.’

Trong kịch bản tấn công morphing, một hình ảnh tổng hợp được tạo ra bằng cách trộn các đặc điểm khuôn mặt từ hai cá nhân. Hình ảnh này được sử dụng để lừa dối các hệ thống nhận dạng khuôn mặt, cho phép cả hai danh tính nguồn được xác thực là cùng một người. Những cuộc tấn công như vậy được coi là đặc biệt liên quan trong các bối cảnh an ninh, nơi các hệ thống sinh trắc học có thể bị lừa dối để chấp nhận hình ảnh morphed cho mục đích xác minh danh tính chính thức.

Bảng trên cho thấy kết quả phát hiện tấn công morphing trên hình ảnh AMSL trước và sau khi làm đẹp, với cả hai mạng đều cho thấy sự tăng mạnh của tỷ lệ lỗi khi cường độ làm mịn tăng.

Trong kịch bản tấn công morphing, hiệu suất suy giảm nhiều hơn so với phát hiện deepfake. EER của AlexNet tăng từ 27,6% đến 41,2%, và EER của VGG19 tăng từ 19,0% đến 37,3%, chủ yếu do sự tăng của tỷ lệ dương tính giả: khuôn mặt thực bị phân loại sai là morphs. Với bán kính làm mịn 3%, tỷ lệ dương tính giả của VGG19 đạt 90%.

Mẫu này vẫn giữ khi các bộ lọc được áp dụng một cách chọn lọc. Làm mịn khuôn mặt thực làm suy giảm phát hiện, trong khi làm mịn chỉ khuôn mặt morphed cải thiện kết quả. Khi làm mịn tăng, cả hai mạng đều cho thấy sự giảm phân tách giữa điểm số thực và giả, với VGG19 trở nên đặc biệt không ổn định.

Các phát hiện này, theo các tác giả, cho thấy rằng các bộ lọc làm đẹp có thể giúp morphs tránh được phát hiện thậm chí hiệu quả hơn deepfakes, gây ra những lo ngại nghiêm trọng về an ninh.

Ví dụ một phần (do thiếu không gian) về cách làm đẹp tối thiểu (bán kính làm mịn 3%) thay đổi phân loại của AlexNet. Ở bên trái, một hình ảnh thực được phân loại sai là một cuộc tấn công sau khi lọc, và ở bên phải, một hình ảnh morphed được phân loại sai là hợp pháp sau khi lọc.

Cuối cùng, các nhà nghiên cứu đã tìm thấy rằng thậm chí các bộ lọc làm đẹp tinh tế cũng có thể suy giảm đáng kể hiệu suất của các bộ phát hiện deepfake và morphing hiện đại.

Tác động thay đổi theo kiến trúc, với AlexNet cho thấy sự suy giảm dần, và VGG19 sụp đổ dưới sự lọc tối thiểu. Vì các bộ lọc này là phổ biến và không phải là ác ý, khả năng che giấu các cuộc tấn công của chúng tạo ra một mối đe dọa thực tế, đặc biệt là trong các hệ thống sinh trắc học. Bản báo cáo nhấn mạnh sự cần thiết của các mô hình phát hiện mạnh mẽ hơn đối với những thao túng hình ảnh tinh tế.

Kết luận

Một lý do tại sao việc đào tạo các hệ thống phát hiện deepfake có thể bỏ qua các bộ lọc làm đẹp là sự thiếu vật liệu tương phản; cuối cùng, phiên bản “làm đẹp” là phiên bản được lan truyền rộng rãi, và, không giống như video chúng tôi nhúng như một ví dụ, rất hiếm khi một hình ảnh “trước” được áp dụng.

Một chướng ngại vật khác là nhiều bộ lọc thực hiện chính xác loại làm mịn điển hình của các hoạt động nén khi lưu hình ảnh hoặc nén video (một lợi ích cho băng thông của nhà cung cấp, ngoài việc làm đẹp kỹ thuật số cho những người sử dụng bộ lọc).

Lĩnh vực nghiên cứu phát hiện deepfake đã tham gia sâu vào việc chống lại các trường hợp suy giảm hình ảnh thực tế do các vấn đề như máy ảnh chất lượng thấp, nén quá mức hoặc kết nối mạng không ổn định – tất cả những điều này đều có lợi cho những kẻ lừa đảo deepfake, những người phải cố gắng nhiều hơn trong một kịch bản chất lượng cao, độ phân giải cao.

Liệu các bộ lọc làm đẹp cuối cùng có trở thành một trách nhiệm an ninh hay không dường như phụ thuộc vào mức độ mà chúng chứng minh là một chướng ngại vật đối với các phương pháp sàng lọc deepfake, hoặc liệu chúng sẽ trở thành một loại “tường lửa” de facto có lợi cho những kẻ xấu hơn là những người chống lại chúng.

Được xuất bản lần đầu vào thứ Tư, ngày 24 tháng 9 năm 2025