2024년에는 딥페이크가 주류가 될 것입니다. 기업이 스스로를 보호할 수 있는 방법은 다음과 같습니다.

적어도 2016년 선거 이후, 허위 정보에 대한 우려가 대중의 의식에 퍼졌을 때, 전문가들은 딥페이크에 대한 경종을 울려 왔습니다. 이 기술의 의미는 여전히 끔찍했습니다. 초현실적인 합성 미디어의 무분별한 확산은 다음을 위협합니다. 사람—정치인부터 일반인까지. 이미 광범위한 불신으로 특징지어지는 가연성 환경에서 딥페이크는 불길을 더욱 부채질할 뿐이라고 약속했습니다.

알고 보니 우리의 두려움은 시기상조였습니다. 실제로 딥페이크를 만드는 데 필요한 기술적 노하우와 조악한 품질로 인해 적어도 지난 두 번의 대선 기간 동안 딥페이크는 최소한의 우려로 남아 있었습니다.

하지만 그 모든 것이 곧 변할 것입니다. 이미 변하고 있습니다. 지난 2년 동안 생성 AI 기술이 주류에 진입하여 일반 소비자를 위한 딥페이크 생성 프로세스를 근본적으로 단순화했습니다. 이와 동일한 혁신으로 딥페이크의 품질이 크게 향상되어 블라인드 테스트에서 대부분의 사람들은 조작된 비디오와 실제 비디오를 구별할 수 없게 되었습니다.

특히 올해는 이 기술이 사회에 어떤 영향을 미칠 수 있는지, 그리고 이를 막기 위한 노력이 없다면 어떤 결과가 초래될지 보여주는 징후들이 나타나기 시작했습니다. 예를 들어, 작년에는 AI가 생성한 프란치스코 교황의 특이한 스타일리시한 코트 사진이 공개되었습니다. 바이러스 성이났다., 그리고 많은 사람들이 진짜라고 여겼습니다. 이는 한편으로는 무해한 재미로 보일 수 있지만, 이러한 딥페이크의 위험성과 일단 퍼지기 시작한 허위 정보를 억제하는 것이 얼마나 어려운지를 보여줍니다. 앞으로 몇 달, 몇 년 동안 이런 종류의 바이럴 가짜 영상은 훨씬 덜 재미있고, 훨씬 더 위험한 사례들이 나타날 것으로 예상됩니다.

이러한 이유로 미디어부터 금융, 정부, 소셜 미디어 플랫폼에 이르기까지 모든 분야의 조직이 딥페이크 탐지 및 콘텐츠 진위 확인에 대해 적극적인 자세를 취하는 것이 중요합니다. 안전장치를 통한 신뢰문화 구축이 필요하다 지금, 딥페이크의 파도가 현실에 대한 우리의 공유된 이해를 씻어내기 전에 말입니다.

딥페이크 위협 이해하기

딥페이크 급증에 맞서기 위해 조직들이 무엇을 할 수 있는지 살펴보기 전에, 보안 도구가 왜 필요한지 정확히 짚어볼 필요가 있습니다. 일반적으로 딥페이크에 대해 우려하는 사람들은 정치와 사회적 신뢰에 미칠 수 있는 잠재적 영향을 언급합니다. 이러한 잠재적 결과는 매우 중요하며 딥페이크에 대한 논의에서 결코 간과해서는 안 됩니다. 하지만 공교롭게도 이 기술의 부상은 미국 경제의 여러 분야에 심각한 영향을 미칠 수 있습니다.

예를 들어 보험을 들어보세요. 현재 미국의 연간 보험 사기 규모는 최대 308.6억 달러에 달합니다. 이는 전체 산업의 약 70분의 2025 규모입니다. 동시에, 대부분의 보험 회사의 백엔드 운영은 점점 더 자동화되고 있으며, XNUMX년까지 표준 청구의 XNUMX%가 비접촉식으로 이루어질 것으로 예상됩니다. 이는 최소한의 인간 개입으로 결정이 점점 더 많이 내려진다는 것을 의미합니다. 프론트 엔드와 백엔드의 AI 촉진 자동화.

아이러니하게도 이러한 자동화 증가를 가능하게 한 바로 그 기술(예: 기계 학습 및 인공 지능)이 악의적인 행위자의 악용을 보장했습니다. 예를 들어 Dall-E, Midjourney 또는 Stable Diffusion과 같은 생성 AI 프로그램을 사용하여 자동차를 실제보다 더 손상된 것처럼 보이게 만드는 등 일반 사람이 청구를 조작하는 것이 그 어느 때보다 쉬워졌습니다. 이미 이러한 목적을 위해 특별히 존재하는 앱이 있습니다. 예를 들어 Dude Your Car!는 사용자가 차량 사진에 인위적으로 흠집을 만들 수 있도록 해줍니다.

공식 문서에도 마찬가지입니다. 송장, 인수 감정, 심지어 서명까지 임의로 수정하거나 도매가로 조작하는 등 이제 쉽게 조작할 수 있습니다. 이러한 문제는 보험사뿐만 아니라 경제 전반에 걸쳐 발생합니다. 금융 기관은 다양한 문서의 진위 여부를 확인해야 하며, 소매업체는 제품에 결함이 있고 조작된 이미지가 첨부되어 있다는 불만을 접할 수 있습니다.

기업은 이 정도의 불확실성 속에서는 운영될 수 없습니다. 어느 정도의 사기는 항상 불가피할 수 있지만, 딥페이크의 경우 우리는 주변부 사기에 대해 말하는 것이 아닙니다. 우리는 기업이 허구에서 진실을 판별할 명확한 수단이 없고 결국 수십억 달러의 손실을 입게 되는 잠재적인 인식론적 재앙에 대해 이야기하고 있습니다. 이 혼란에 달러.

불과 불로 맞서 싸우다: AI가 어떻게 도움을 줄 수 있는가?

그렇다면 이 문제를 해결하기 위해 무엇을 할 수 있습니까? 아마도 그 대답은 딥페이크를 용이하게 하는 바로 그 기술에 있다는 것은 놀라운 일이 아닙니다. 이 재앙이 더 커지기 전에 멈추려면 불로 불에 맞서 싸워야 합니다. AI는 딥페이크를 생성하는 데 도움이 될 수 있지만, 다행히도 이를 자동으로 대규모로 식별하는 데도 도움이 될 수 있습니다.

올바른 AI 도구를 사용하면 기업은 특정 사진, 비디오 또는 문서가 변조되었는지 자동으로 확인할 수 있습니다. 수십 개의 서로 다른 모델을 가짜 식별 작업에 활용하는 AI는 특정 사진이나 비디오가 의심스러운지 여부를 기업에 자동으로 정확하게 알려줄 수 있습니다. 일상적인 작업을 자동화하기 위해 기업이 이미 배포하고 있는 도구와 마찬가지로 이러한 도구는 과도한 직원에게 부담을 주거나 중요한 프로젝트에서 시간을 빼앗지 않고 백그라운드에서 실행할 수 있습니다.

사진이 잠재적으로 변경된 것으로 식별되면 직원은 경고를 받고 AI가 제공한 정보의 도움을 받아 문제를 직접 평가할 수 있습니다. 심층 스캔 분석을 사용하면 기업에 알릴 수 있습니다. why 예를 들어 수동으로 변경된 메타데이터, 웹 전체에 동일한 이미지의 존재, 다양한 사진 불규칙성 등을 지적하는 등 사진이 조작되었을 가능성이 있다고 생각합니다.

이 글이 지난 몇 년간 생성 AI 기술 분야에서 우리가 목격한 놀라운 발전을 폄하하려는 것은 아닙니다. 이 기술은 실제로 여러 산업 분야에 걸쳐 유용하고 생산적인 응용 분야를 가지고 있습니다. 하지만 이 신기술의 잠재력, 그리고 단순성은 개인의 이익을 위해든 사회적 혼란을 조장하기 위해든 조직을 조종하려는 자들에 의해 악용될 가능성이 매우 높습니다.

조직   AI의 생산성 향상 이점과 만연한 딥페이크의 단점을 동시에 누리는 것입니다. 하지만 이를 위해서는 더욱 철저한 경계가 필요합니다. 특히 생성 AI의 결과물이 날로 설득력 있고 상세하며 사실적으로 표현되고 있다는 점을 고려할 때 더욱 그렇습니다. 기업들이 이 문제에 더 빨리 관심을 기울일수록 자동화된 세상의 이점을 최대한 누릴 수 있을 것입니다.