이런 상황을 상상해 보세요. 당신은 긴 마감을 맞이하여 일에 집중하고 있는데, 어머니의 전화번호로부터 전화를 받습니다. 전화를 건 사람의 목소리는 분명히 어머니의 목소리입니다. 평소와 같은 차분하고 사랑하는 목소리이지만, 조금은 이상한 긴급함이 묻어납니다. 그녀는 파리에서 휴가를 보내다가 심각한 문제에 부딪혔다고 하며, 즉시 금융적으로 도와야 한다고 합니다. 당신은 어머니가 파리에 있음을 알고, 그녀가 제공하는 세부 사항은 호텔 이름까지 매우 설득력 있게 만들어 전화를 받은 사람을 믿게 합니다. 두 번째 생각 없이 돈을 이체하지만, 나중에 어머니가 전화를 건 적이 없다는 사실을 알게 됩니다. 그것은 고급 AI 시스템이 어머니의 목소리를 완벽하게 모방하고,詳細한 시나리오를 조작한 것입니다. 당신은 그 사실을 깨닫고 소름이 끼칩니다.

이 시나리오는 과거에는 순수한 과학 소설이었지만, 이제는 새로운 현실이 되고 있습니다. LLM(대규모 언어 모델)과 같은 AI 기술의 출현으로 인해令人 驚異한 발전이 이루어졌습니다. 그러나, AI 기반 사기와 같은 새로운 위협이 등장했습니다. AI를 이용한 복잡한 사기의 가능성은 기술적인 발전의 지평선에 새로운 위협을 제기합니다. 전화 사기는 전화의 발명 이후부터 문제가 되었지만, 디지털 통신의 모든 측면에 LLM을 통합함으로써 위협의 수준이 크게 높아졌습니다. 우리는 AI의 잠재력을 활용하는 동시에 이러한 위협의 가능성을 완화하기 위해 방어를 강화해야 합니다.

전화 사기의 현재 상황

범죄자들은 수년 동안 무고한 개인을 속여 돈을 이체하거나 민감한 정보를 제공하도록 유도하려고 시도해 왔습니다. 그러나 이러한 사기 중 많은 것이 상대적으로 단순하며, 인간이 읽는 스크립트에 의존합니다. 이러한 제한에도 불구하고, 전화 사기는 여전히 유익한 범죄 활동입니다.

미국 연방거래위원회에 따르면, 2022년 alone에 미국인들은 사기에 약 8.8억 달러를 잃었으며, 그 중 상당 부분이 전화 사기로 인한 것입니다. 이는 이러한 전략이 현재의 덜 발전된 형태로도 여전히 효과가 있음을 의미합니다. 그러나 이러한 사기가 발전하면 어떻게 될까요?

AI 기반 사기의 미래

전화 사기의 지형은 몇 가지 핵심 기술의 출현으로 인해 크게 변할 것입니다.

대규모 언어 모델 (LLM)

이러한 AI 시스템은 인간과 같은 텍스트를 생성하고 자연스러운 대화를 할 수 있습니다. 사기에 적용될 경우, LLM은 매우 설득력 있고 적응 가능한 스크립트를 생성할 수 있어, 잠재적인 피해자가 사기를 식별하기更加 어려워질 것입니다.

검색 보강 생성 (RAG)

이 기술은 LLM 시스템이大量의 정보에 실시간으로 접근하고 사용할 수 있도록 합니다. 사기꾼은 공개된 정보를 이용하여 개인의 프로필을 구축할 수 있습니다. 또한, 사회 공학 기술을 이용하여 친구와 가족으로부터 더 깊은 정보를 수집할 수 있습니다. 이는 사기꾼이 목표의 신원, 직업 정보, 또는 최근 활동에 대한 정보에 접근할 수 있도록 해줍니다. 그러면, RAG를 이용하여 LLM에 필요한 컨텍스트를 제공하여, 접근이 매우 개인화되고 합법적으로 보이게 할 수 있습니다.

합성 오디오 생성

Resemble AI와 Lyrebird와 같은 플랫폼은 매우 실제적인 AI 생성 음성을 생성하는 데 선두를 지키고 있습니다. 이러한 기술은 가상 어시스턴트, 자동 고객 서비스, 콘텐츠 생성 등 다양한 응용 프로그램에서 사용할 수 있습니다. ElevenLabs와 같은 회사는 사용자가 자신의 음성을 밀접하게 복제할 수 있는 합성 음성을 생성할 수 있는 솔루션을 개발함으로써, 디지털 상호작용에서 새로운 수준의 개인화와 참여를 가능하게 합니다.

합성 비디오 생성

Synthesia와 같은 회사는 이미 실제적인 비디오 콘텐츠를 생성하는 데 AI 생성 아바타를 사용할 수 있는 잠재력을 보여주고 있습니다. 향후, 이러한 기술은 사기꾼이 친구나 가족을 가장하거나 완전히 허구의 인물을 생성하여 비디오 통화를 할 수 있도록 할 수 있습니다. 이는 이전에는 불가능했던 물리적 실제감을 사기에 도입할 것입니다.

AI 립싱크

Sync Labs와 같은 스타트업은 생성된 오디오와 비디오 푸터를 일치시키는 고급 립싱크 기술을 개발하고 있습니다. 이는 역사적인 인물, 정치인, 유명인, 그리고几乎 모든 사람의 실제적인 딥페이크 비디오를 생성하는 데 사용될 수 있습니다. 이는 현실과 欺瞞 사이의 경계를 더욱 모호하게 만들 것입니다.

이러한 기술의 조합은 다소 우려스러운 그림을 보여줍니다. 실제적인 대화에서 AI가 실시간으로 적응할 수 있고, 목표에 대한 개인 정보를 가지고 있으며, 실제적인 사람의 입이 생성된 음성과 완벽하게 일치하는 비디오 통화를 할 수 있는 사기 전화 시나리오를 상상해 보세요. 欺瞞의 가능성은真正로巨大합니다.

강화된 보안 조치의 필요성

이러한 AI 기반 사기가 더욱 발전함에 따라, 신원과 진위를 확인하는 방법은 AI의 발전과 함께 경쟁해야 할 것입니다. 在线 세계를 안전하게 유지하기 위해 규제와 기술적인 발전이 필요할 것입니다.

규제 개선

개인 정보 보호 법의 강화: 더 엄격한 개인 정보 보호 법을 시행하면 사기꾼이 악용할 수 있는 개인 정보의 양을 제한할 수 있습니다. 이러한 법은 데이터 수집, 사용자 동의 프로토콜, 데이터 유출에 대한 처벌 등에 대한 더 엄격한 요구 사항을 포함할 수 있습니다.

가장 강력한 AI 모델을 위한 사적 클라우드: 규제는 가장 강력한 AI 모델이 공개적으로开放되지 않고, 사적 클라우드 인프라스트럭처에 호스팅되도록 요구할 수 있습니다. 이는 가장 발전된 기술에 대한 접근을 제한하여, 악의적인 행위자가 이를 사기 목적으로 사용하기更加 어려워질 것입니다. (예: https://security.apple.com/blog/private-cloud-compute/)

국제적인 AI 규제 협력: AI 기술의 글로벌 특성으로 인해, 국제적인 규제 표준에 대한 협력이 유익할 수 있습니다. 국제적인 AI 규제를 생성하고 시행하는 글로벌 기구를 설립하면, 국경을 초월하는 AI 관련 범죄를 다루는 데 도움이 될 수 있습니다.

공개 인식 캠페인: 정부와 규제 기관은 시민들이 AI 사기의 잠재적인 위험과 자신을 보호하는 방법에 대해 교육하는 공개 인식 캠페인에 투자해야 합니다. 인식은 개인과 조직이 필요한 보안 조치를 구현하는 데 중요한 첫 번째 단계입니다.

현재의 AI 규제는 사기를 방지하기에 충분하지 않으며, 이러한 기술의 공개 소스 특성으로 인해 미래의 규제는 더욱 어려워질 것입니다. 이는 누구든지 이러한 기술에 접근하고 수정할 수 있음을 의미합니다. 따라서, 더 강력한 규제와 함께 보안 기술의 발전이 필요합니다.

합성 데이터 감지

합성 오디오 감지: 사기꾼이 AI를 사용하는 것처럼, 우리의 방어도 vậy입니다. Pindrop과 같은 회사는 실시간으로 전화 통화 중에 합성 오디오를 감지할 수 있는 AI 기반 시스템을 개발하고 있습니다. 그들의 기술은 전화 통화의 오디오 특징을 1,300개 이상 분석하여, 그것이 실제 사람인지 또는 발전된 AI 시스템인지 판단합니다.

합성 비디오 감지: 합성 비디오 감지는 또한 중요한 위협입니다. Deepware와 같은 회사는 합성 비디오를 감지하는 기술을 개발하고 있습니다. Deepware의 플랫폼은 비디오 데이터의 미묘한 불일치를 분석하여, 비디오가 실제인지 또는 AI에 의해 조작되었는지 판단합니다. 이러한 기술은 개인과 조직이 복잡한 비디오 기반 사기와 잘못된 정보 캠페인으로부터 보호하는 데 도움이 될 수 있습니다.

신원 인증 발전

신원 인증을 확인하는 방법은 여러 가지가 개발되고 있으며, 이러한 방법 중 하나 이상이 향후 몇 년 안에 주류가 될 것입니다.

원격 대화에 대한 2단계 인증: 2요소 인증(2FA)은 안전한 통신의 기본 구성 요소입니다. 이 방법에서는 각 전화 통화 또는 이메일에 대한 고유한 인증 코드가 포함된 텍스트 메시지를 트리거합니다. 2FA는 기본 인증에 효과적이지만, 모든 상황에서 의존할 수 없으므로, 더 발전된 방법이 필요합니다.

행동 기반 다요소 인증: 초기 인증을 넘어서, 미래의 보안 시스템은 상호작용 중에 지속적으로 행동을 분석할 수 있습니다. BioCatch와 같은 회사는 사용자가 기기에 어떻게 상호작용하는지에 따라 사용자 프로필을 생성하는 행동 생체 인증을 사용합니다. 이 기술은 초기 인증 확인을 통과했더라도, 사기꾼이 도난당한 정보를 사용하고 있을 수 있음을 나타내는 행동의 이상을 감지할 수 있습니다.

생체 인증 기반 인증: Onfido와 같은 회사는 생체 인증 기술을 이용한 身分 인증 도구를 제공합니다. 이 시스템은 문서 확인과 생체 인증을 결합하여, 실제로 통화 또는 비디오 채팅의 다른 쪽에 있는 사람이 정말로 주장하는 사람인지 확인합니다.

고급 지식 기반 인증: 미래의 인증 시스템은 사용자의 디지털足跡과 최근 활동에 기반한 동적, AI 생성 질문을 포함할 수 있습니다. 예를 들어, Prove는 전화 중심 身分 인증을 전문으로 하는 회사로, 전화 지능과 행동 분석을 이용하여 身分을 확인하는 솔루션을 개발하고 있습니다. 그들의 기술은 사용자가 기기를 사용하는 패턴을 분석하여, 사기꾼이 복제하기更加 어려운 唯一한 “身分 서명”을 생성할 수 있습니다.

블록체인 기반 身分 인증: 블록체인 기술은 分散化되고, 篡改할 수 없는 身分 인증 방법을 제공합니다. Civic과 같은 회사는 사용자가 개인 정보를 제어하면서 안전한 인증을 제공하는 블록체인 기반 身分 인증 시스템을 개발하고 있습니다. 이러한 시스템은 身分에 대한 검증 가능한, 불변의 기록을 생성하여, 높은 위험의 거래를 관리하는 데 유용합니다.

결론

LLM, RAG, 합성 오디오 생성, 합성 비디오 생성, 립싱크 기술의 결합은 일종의 양날의 검입니다. 이러한 발전은 긍정적인 응용 프로그램에巨大한 잠재력을 가지고 있지만, 사기꾼이 이를 악용할 경우,重大한 위협을 제기합니다.

이러한 위협에 대응하기 위해, 우리는 지속적인 혁신과 주의를 디지털 보안 분야에 투자해야 합니다. 우리는 이러한 강력한 도구의 잠재적인 위험을 인식하고 준비함으로써, 그들의 이점을 활용하고 그들의 잠재적인 피해를 완화할 수 있습니다.

포괄적인 규제, 이러한 새로운 형태의 사기에 대한 교육, 최첨단 보안 조치에 대한 투자, 그리고 belki 가장 중요한 것은, 우리 모두가 온라인 또는 전화에서 알 수 없는 실체와 상호작용할 때, 건강한 회의주의를 가져야 합니다. 이러한 새로운 지형을 탐색하는 데에는 이러한 요소들이 모두 필요합니다.