美容 필터는 잠재적인 딥페이크 공격 도구입니다

美容 필터는 이제 결점을 숨기는 것 이상의 기능을 합니다.它们可以帮助 딥페이크와 얼굴 변형이 감지 시스템을 통과할 수 있습니다. 새로운 연구에 따르면, 심지어 미묘한 매끄러움 효과도 AI 감지기를 혼동시켜 가짜 이미지를 실제로 보이게 하고 실제 이미지를 가짜로 보이게 할 수 있습니다. 이러한 추세가 계속된다면, 美容 필터는 높은 위험성의 상황에서 제한될 수 있습니다.

2024년 스페인과 이탈리아의 학술 협력에서, 연구자들은 18-30세 여성의 90%가 소셜 미디어에 이미지를 게시하기 전에 美容 필터를 사용한다고 보고했습니다. 이러한 의미에서 美容 필터는 알고리즘 또는 AI를 사용하여 얼굴의 외모를 개선하는 방법입니다.

2024년 연구에서 예시된 여성(왼쪽)과 남성(오른쪽) 얼굴을 美容 필터를 적용하기 전과 후에 보여줍니다. 필터는 피부 톤, 눈, 코, 입, 턱, 볼을 포함한 특징을 개선하기 위해 적용됩니다. 출처: https://arxiv.org/pdf/2407.11981

이러한 필터는 스냅챗과 줌과 같은 비디오 기반 시스템에서 네이티브 또는 추가 기능으로广泛하게 사용할 수 있습니다. 이러한 필터는 ‘불완전한’ 피부를 매끄럽게 하고, 심지어 주제의 나이를 변경할 수 있습니다.

재생하기: 세 명의 여성이 비디오 ‘美容’ 필터를 끄는 것을 보여줍니다. 알고리즘 또는 AI에 의해 그들의 신체가 얼마나 변경되는지 보여줍니다. 출처: https://www.youtube.com/watch?v=gtCpea_5qxw

이 현상은 기술이 상대적으로 성숙했을 때 포화점에 도달하는 것으로 보입니다. 2020년 런던 시티 대학교의 연구에 따르면, 미국, 프랑스, 영국의 젊은 스냅챗 사용자의 90%가 앱에서 필터를 사용했습니다. 메타는 페이스북이나 인스타그램에서 6억 명 이상의 젊은 사람들이 필터를 사용했다고 보고했습니다.

美容 필터의 심리적 영향에 대한 연구에 따르면, 20세의 평균 나이를 가진 젊은 여성의 90%가 사진을 편집하거나 필터를 적용했습니다. 가장 인기 있는 필터는 피부 톤을 고르게 하고, 탄을 뿜어주고, 이를 밝히고, 체형을 줄이는 것이었습니다.

대면

美容 필터는 2025년 비디오 합성의 혁신으로부터 이익을 얻을 수 있으며, 이 연구 분야의 지속적인 관심으로부터 더 일반적으로 이익을 얻을 수 있습니다. 우리는 라이브 비디오 채팅에서 우리 자신을 재창조하거나 재상상할 수 있는 정도가 점점 더 증가하고 있습니다. 그러나 이것은 보안 커뮤니티의 딥페이크 비디오 기술에 대한 우려와 충돌합니다.

한 가지 문제는 최근 몇 년 동안 개발된 딥페이크를 감지하기 위한 ‘쉬운’ 테스트가 점점 더 효과적으로 작동하지 않는다는 것입니다. 이러한 테스트는 비디오 딥페이크가 큰 금액의 돈을 기업 환경에서 속여낼 수 있는 것을 막기 위해 개발되었습니다.

재생하기: 세หร 네 년 전, 손을 얼굴 앞으로 흔드는 것이 비디오 딥페이크를 감지하기 위한 신뢰할 수 있는 테스트였지만, TikTok과 같은 플랫폼의 노력으로 인해 이러한 ‘테스트’가 점점 더 효과적으로 작동하지 않는다는 것을 볼 수 있습니다. 출처: Ibid와 https://archive.is/mofRV#wavehands

더욱 심각한 문제는 美容 필터의 광범위한 사용이 딥페이크와 얼굴 변형 공격을 감지하기 위한 새로운 세대의 감지기에 혼란을 일으킬 수 있다는 것입니다. 이러한 필터는 보안 시스템이 침입자로부터 보호하려고 하는 사람들을 걸러내기 위해 사용됩니다.

딥페이크를 더 현실적으로 만들기 위해서는 이미지의 해상도가 낮거나 이미지 자체가 손상된 경우가 더 쉽습니다. 美容 필터는 딥페이크를 감지하기 위한 유용한 자료인 피부 текст와 다른 얼굴 특징을 제거하거나歪曲시킵니다.

美容 필터는 특히 나이가 많은 얼굴에 더 많이 사용될 수 있습니다. 나이가 많은 얼굴일수록 더 많은 세부 사항을 가지고 있기 때문입니다. 이러한 필터를 사용하여 젊어 보이기 위해 사용할 수 있습니다.

디테일이 없는 ‘안드로이드’ 스타일의 외모가 유행이라면, 딥페이크 감지기는 실제와 가짜 이미지를 구별하기 위해 필요한 자료가 부족할 수 있습니다. 출처: https://www.instagram.com/reel/DMyGerPtTPF/?hl=en

로열 소사이어티의 2024년 논문 美容 필터의 사용이 미치는 영향은 美容 필터를 사용하면 일반적으로 매력도가 증가하지만, 여성의 경우 지능에 대한 일반적인 평가가 낮아질 수 있다고 보고했습니다.

따라서 美容 필터는 인기 있는 기술이며, 효과가 있으며, 다양한 상황에서 사용됩니다. 그러나 비디오 딥페이크가 실제와 구별할 수 없을 정도로 발전할 수 있는 상황에서, 美容 필터의 글로벌 ‘노이즈’를 감소시키는 것이 필요할 수 있습니다.

스무스 크리미널

이 문제는 최근 이탈리아의 카글리아리 대학교의 새로운 논문에서 조사되었습니다. 美容 필터의 딥페이크와 얼굴 변형 공격 감지에 미치는 영향입니다.

연구자들은 두 개의 벤치마크 데이터셋에서 얼굴에 美容 필터를 적용하고, 여러 딥페이크와 얼굴 변형 공격 감지기를 원래와 변경된 이미지에 대해 테스트했습니다.

거의 모든 경우에서, 감지 정확도는 美容 필터를 적용한 후에 떨어졌습니다. 가장 극적인 감소는 주름을 매끄럽게 하거나 피부 톤을 밝히거나 얼굴 특징을 미묘하게 변경할 때 발생했습니다. 이러한 변경은 감지 모델이 의존하는 신호를 제거하거나歪曲시켰습니다.

예를 들어, MorphDB에서 최고 성능을 보인 모델은 필터링 후 9% 이상의 정확도를 잃었습니다. 이 문제는 여러 감지 아키텍처에서 지속되었습니다. 이는 현재 시스템이 일반적인 미용 개선에 강건하지 않음을 나타냅니다.

연구자들은 다음과 같이 결론을 내렸습니다:

‘美容 필터는 생체 인증 및 법의학 분석 시스템의 무결성을 위협합니다. 이러한 조건에서 강건한 딥페이크와 얼굴 변형 공격 감지를 개발하는 것은 중요한 열린 도전입니다.’

‘미래의 연구는 이러한 미묘한, 실제 세계의 변경에 강건한 디지털 조작 감지 시스템의 개발에 중점을 두어야 합니다. 이는 일상과 보안 관련 상황에서 신뢰할 수 있는 身分 인증과 콘텐츠 검증을 보장하기 위해 필요합니다.’

방법과 데이터

딥페이크와 얼굴 변형 공격 감지에 美容 필터가 미치는 영향을 평가하기 위해, 연구자들은 점진적인 매끄러움 필터를 적용하고, 두 개의 벤치마크 컨볼루셔널 신경망(CNN)에 대해 테스트했습니다. 이러한 네트워크는 대상 문제와 잘 관련되어 있습니다.

각 데이터셋은 딥페이크 또는 얼굴 변형 공격의 예를 포함했습니다. 첫 번째는 CelebDF로, 590개의 실제 클립과 5,639개의 위조 클립이 포함된 대규모 비디오 벤치마크입니다. 이 컬렉션은 59명의 개인을 대상으로 다양한 조명 조건, 헤드 포즈, 자연스러운 표현을 제공합니다.

CelebDF의 영향을 받은 얼굴 이미지 예시. 출처: https://github.com/yuezunli/celeb-deepfakeforensics

두 번째는 AMSL로, Face Research Lab London 컬렉션에서 구축된 얼굴 변형 공격 데이터셋입니다. 이 데이터셋은 중립적이고 미소 짓는 표정을 포함한 102명의 주제를 포함합니다. 이 데이터셋은 보안 상황에서 생체 인증 시스템에 대한 실제적인 도전을 반영하도록 설계되었습니다.

AMSL에서 사용된 Face Research Lab London 세트(FRLL) 데이터셋의 이미지. 출처: https://figshare.com/articles/dataset/Face_Research_Lab_London_Set/5047666?file=8541955

각 네트워크는 데이터셋의 80%에서 훈련되었고, 나머지 20%는 검증에 사용되었습니다. 美容 필터의 강건성에 대한 테스트를 위해, 연구자들은 테스트 이미지에 점진적인 매끄러움 필터를 적용했습니다.

CelebDF와 AMSL 데이터셋의 얼굴 예시를 매끄러움 필터를 적용하기 전과 후에 보여줍니다.

메트릭으로는 원본과 美容 필터링된 테스트 샘플에서 평등 오류율(EER), 본인 인증 오류율(BPCER), 공격 오류율(APCER)을 사용했습니다. 또한 실제와 가짜 이미지의 점수 분포와 ROC 곡선 아래의 면적(AUC)을 검사했습니다.

AMSL 데이터셋의 모핑된 얼굴.

테스트

딥페이크 감지 결과에서, 두 네트워크 모두 美容 필터링 강도가 증가함에 따라 평등 오류율이 증가했습니다. AlexNet의 경우, 원본 이미지에서 22.3%에서最高 매끄러움 수준에서 28.1%로 증가했습니다. VGG19의 경우, 30.2%에서 35.2%로 증가했습니다. 성능 감소는 각 경우에 다른 패턴을 따랐습니다.

CelebDF 데이터셋에서 AlexNet과 VGG19를 사용한 딥페이크 감지 결과.

美容 필터링이 증가할수록, AlexNet은 실제 얼굴을 가짜로 분류할 가능성이 더 높아졌습니다. 반면, VGG19는 가짜를 실제로 분류할 가능성이 더 높아졌습니다. 두 모델 모두 美容 필터링에 대해 다른 방식으로 반응했으며, 이는 잘 알려진 아키텍처가 다른 방식으로 실패할 수 있음을 나타냅니다.

연구자들은 美容 필터를 실제와 가짜 이미지에 개별적으로 적용하여 감지 성능에 미치는 영향을 측정했습니다. 이 분석은 각 모델의 취약성의 원인을 명확히 했습니다.

CelebDF 데이터셋에서 AlexNet과 VGG19의 감지 정확도.

AlexNet의 경우, 실제 이미지를 美容 필터링하면 감지 성능이 떨어졌습니다. 그러나 가짜 이미지만을 매끄럽게 하면 성능이 개선되었습니다. VGG19의 경우, 실제 이미지를 美容 필터링하면 성능이 약간 개선되었지만, 가짜 이미지를 매끄럽게 하면 성능이 떨어졌습니다. 모든 경우에서, 더 강한 美容 필터링은 정확도를 더 낮추었습니다.

CelebDF 데이터셋에서 AlexNet과 VGG19의 출력 점수 분포.

美容 필터링은 AlexNet의 출력 점수를 실제와 가짜 이미지에서 모두 더 균일하게 만들었습니다. 반면, VGG19는 각 클래스 내에서 더 큰 분산을 보였습니다.尽管 점수 분산에 대한 이러한 대조적인 효과가 있지만, 두 모델 모두 정확도를 잃었습니다. AlexNet의 경우, 실제 얼굴의 점수가 가짜와 더 가까워졌습니다. VGG19의 경우, 실제와 가짜 이미지의 점수가 겹치기 시작했습니다.

연구는 다음과 같이 말합니다:

‘이러한 결과는 美容 필터가 딥페이크 감지에 미치는 영향에 대한 중요한 의미를 가지고 있습니다. 美容 필터는 감지 성능에 예측할 수 없는 영향을 미칠 수 있습니다. 특히, 다른 아키텍처는 얼굴 조작에 대해 다르게 반응할 수 있습니다.’

‘예를 들어, 특정 딥페이크 감지기에 따라, 美容 필터는 실제 이미지를 가짜로 식별하게 만들 수 있고, 더 중요하게는, 가짜 이미지를 감지기로부터 숨길 수 있습니다.’

‘따라서, 이러한 미묘한, 엄격하게 악의적이지 않은 변경에 강건한 감지기를 개발하는 것이 필요합니다. 이러한 변경은 악의적인 딥페이크 조작을 위한 카모플라주로 사용될 수 있습니다.’

결론

딥페이크 감지 시스템을 美容 필터링을 무시할 수 있도록 훈련시키는 한 가지 이유는 대조적 자료의 부족입니다. 궁극적으로, ‘美容 필터링된’ 버전이 널리 전파되고, ‘전’ 사진은 매우 드물게 적용됩니다.

또 다른 장애물은 많은 필터가 이미지 또는 비디오를 저장하거나 압축할 때 발생하는 매끄러움과 같은 유형의 매끄러움을 수행한다는 것입니다. 이는 제공업체의 대역폭을節約하는 데 도움이 됩니다.

딥페이크 감지 연구 분야는 이미 실제 세계의 이미지 열악화와 같은 문제에 직면해 있습니다. 이러한 조건은 딥페이크 사기꾼에게 유리합니다. 높은 품질의 시나리오에서는 더 많은 노력이 필요합니다.

美容 필터가 결국 보안 책임으로 간주될 가능성은 딥페이크 스크리닝 방법에 대한 장애물로 작용하는 정도와, 악의적인 사람보다 싸우는 사람에게 더 많은 이익을 제공하는 일종의 事実상의 방화벽으로 작용하는 정도에 따라 달라질 수 있습니다.

최초로 게시된 날: 2025년 9월 24일 수요일