2024년, 딥페이크가 주류로 전환된다. 기업이 자신을 보호하기 위해 어떻게 할 수 있는지

2016년 선거 때부터, 전문가들은 딥페이크에 대한 경고를 울렸습니다. 이 기술의 의미는 지금도 恐ろしいです. 超現実的な 합성 미디어의 무제한적인 확산은 모든 사람에게 위협이 됩니다. 불신이 이미 널리 퍼진 환경에서, 딥페이크는 불을 더할 뿐입니다.

하지만, 우리의 두려움은 преждевременный 것이었습니다. 딥페이크를 실제로 만들기 위한 기술적인 노하우와 종종 낮은 품질 때문에, 지난 두 번의 대통령 선거에서 딥페이크는 최소한의 문제였습니다.

하지만, 모든 것이 바뀌고 있습니다. 지난 2년 동안, 생성적 인공지능 기술이 주류로 전환되면서, 평균 소비자가 딥페이크를 만들기 위한 과정을 크게 단순화했습니다. 이러한 혁신은 딥페이크의 품질을 크게提高시켰습니다. 그래서, 블라인드 테스트에서, 대부분의 사람들은 실제와 가짜를 구별할 수 없습니다.

이번 년도, 특히, 우리는 이 기술이 사회에 미칠 영향에 대해 예측하기 시작했습니다. 작년, 예를 들어, AI로 생성된 프란치스코 교황의 사진이 인터넷에서 유행했습니다. 많은 사람들이 그것을 실제로 믿었습니다. 이것은 딥페이크의 위험성을 보여줍니다. 그리고, 이러한 가짜 정보를 막기 위해 노력하지 않으면, 더 많은 문제가 생길 수 있습니다.

이 때문에, 모든 종류의 조직이 딥페이크 탐지와 콘텐츠 인증을 위해 적극적으로 대처해야 합니다. 신뢰를 위한 안전 장치를 지금부터 마련해야 합니다. 그렇지 않으면, 딥페이크의 물결이 우리의 현실을 파괴할 수 있습니다.

딥페이크 위협 이해

딥페이크를 막기 위해 조직이 할 수 있는 일을 살펴보기 전에, 딥페이크의 위협을 이해하는 것이 중요합니다. 일반적으로, 딥페이크는 정치와 사회적 신뢰에 미칠 영향에 대해 논의됩니다. 하지만, 이 기술의 확산은 미국 경제의 여러 부문에 심각한 영향을 미칠 수 있습니다.

예를 들어, 보험 산업을 살펴보면, 현재 미국의 보험 사기는 매년 3086억 달러에 달합니다. 이는 보험 산업의 약 4분의 1에 해당합니다.同時에, 대부분의 보험 회사는 자동화된 시스템을 사용하여 청구를 처리합니다. 2025년까지, 70%의 표준 청구가 무인 처리될 것으로 예상됩니다.

이러한 자동화된 시스템은 악의적인 행위자들이 쉽게 조작할 수 있습니다. 생성적 인공지능 프로그램을 사용하여, 보험 청구서를 조작할 수 있습니다. 이미, 이러한 목적으로 사용되는 앱이 있습니다. 예를 들어, Dude Your Car!이라는 앱은 사용자가 차량 사진을 조작하여 보험금을 청구할 수 있습니다.

이러한 위협은 보험 회사만이 아니라, 금융 기관, 소매 업체, 그리고 모든 종류의 기업에 영향을 미칠 수 있습니다. 이러한 조작된 문서는 진실과 거짓을 구별하기 어렵게 만들 수 있습니다. 따라서, 기업은 이러한 위협에 대비해야 합니다.

일부 정도의 사기는 항상 존재할 수 있지만, 딥페이크는 기업이 진실과 거짓을 구별할 수 없게 만들 수 있습니다. 이것은 기업이 운영할 수 없는 상황입니다.

불을 불로 끄다: AI가 어떻게 도와줄 수 있는가

딥페이크를 막기 위해 무엇을 할 수 있을까요? 아마도 예상치 못한 답이지만, 딥페이크를 생성하는 기술 자체가 해결책이 될 수 있습니다. 딥페이크를 자동으로 탐지하고, 진위를 확인할 수 있는 도구를 개발할 수 있습니다.

이러한 도구를 사용하면, 기업은 사진, 비디오, 문서가 조작되었는지 자동으로 확인할 수 있습니다. 여러 모델을 사용하여, 기업은 사진이나 비디오가 의심스러운지 자동으로 판단할 수 있습니다. 이러한 도구는 백그라운드에서 작동하여, 직원의 업무를 방해하지 않습니다.

만약 사진이 조작되었다고 판단되면, 인력이 직접 확인할 수 있습니다. 딥스캔 분석을 사용하여, 기업은 왜 사진이 조작되었다고 판단되었는지 확인할 수 있습니다. 예를 들어, 메타데이터가 수동으로 변경되었거나, 동일한 이미지가 인터넷에 여러 개 존재하는 경우 등입니다.

이것은 생성적 인공지능 기술의 발전을 낮추는 것이 아닙니다. 이 기술은 여러 산업에서 유용한 응용 프로그램을 가지고 있습니다. 하지만, 이 기술의 강력함과 사용의 용이성은 악의적인 행위자들이 이를 악용할 가능성을 높입니다.

기업은 두 마리의 토끼를 모두 잡을 수 있습니다. 인공지능의 생산성 혜택을 누리면서, 딥페이크의 악영향을 피할 수 있습니다. 하지만, 이를 위해서는 새로운 수준의 주의가 필요합니다. 생성적 인공지능의 출력은 더욱 설득력 있고, 자세하며, 현실적인 것이 되고 있습니다. 기업이 이 문제에 대한 주의를 기울일수록, 자동화된 세계의 모든 혜택을 누릴 수 있을 것입니다.