이런 상황을 상상해 보세요. 당신은 긴 마감일을 맞이하여 집중하고 있는 중입니다.突然, 당신의 어머니의 전화번호로 보이는 번호에서 전화가 걸려옵니다. 전화를 받았더니 당신의 어머니의 목소리가 들립니다. 그녀의 목소리는 평상시와 같이 차분하고 사랑이 넘치지만, 조금은 긴급한 느낌을 주는 음성입니다. 그녀는 파리에서 휴가를 보내던 중에 심각한 문제에 부딪혔다고 하며, 당신에게 즉시 금융 지원이 필요하다고 합니다. 당신은 그녀의 말이 사실인 것처럼 느껴집니다. 왜냐하면 그녀는 파리에 있기 때문이고, 그녀는 호텔 이름까지 포함한 세부 사항을 제공하기 때문입니다. 당신은 두 번 생각하지 않고 돈을 이체합니다. 그러나 나중에 당신은 어머니가 실제로 그 전화를 걸지 않았고, 그것은 당신의 어머니의 목소리를 완벽하게 모방하고 세부적인 시나리오를 조작하는 고급 AI 시스템이었다는 것을 알게 됩니다. 이것이 실제로 일어난 것이라는 사실을 깨달았을 때, 당신의 등에는 식은땀이 흐릅니다.

이 시나리오는 과거에는 순수한 과학 소설이었습니다. 그러나 이제それは 새로운 현실이 되었습니다. 대형 언어 모델(LLM)과 같은 AI 기술의 등장으로 인해 놀라운 발전이 이루어졌습니다. 그러나 큰 위협이 있습니다. AI 기반 사기입니다. 인공 지능에 의해 구동되는 복잡한 사기의 가능성은 기술적인 발전의 지평에서 새로운 위협입니다. 전화 사기는 전화의 발명 이후로 문제가 되었습니다. 그러나 디지털 통신의 모든 측면에 LLM이广泛하게 통합됨에 따라, 상황은劇的に変化했습니다. 우리는 AI의 잠재력을 받아들이는 동시에, 이러한 점점 더 복잡해지는 위협에 대한 우리의 방어를 강화하는 것이 중요합니다.

전화 사기의 현재 상황

범죄자들은 수년 동안 무고한 개인을 속여 돈을 이체하거나 민감한 정보를 공개하도록 시도해 왔습니다. 그러나 이러한 전화 사기 대부분은 상대적으로 비소식입니다. 왜냐하면它们는 인간의 스크립트를 읽는 운영자를頼하고 있기 때문입니다. 그러나 이러한 제한에도 불구하고, 전화 사기는 여전히 유익한 범죄입니다.

미국 연방 거래위원회(US Federal Trade Commission)에 따르면, 2022년 alone에 미국人は 사기에 의해 8.8억 달러를 잃었습니다. 이는 전화 사기로 인한 피해의 상당한 부분을 차지합니다. 이는 이러한 전략이 현재의 덜 발전된 형태에서도 여전히 많은 사람들에게 효과가 있음을 의미합니다. 이러한 전략이 발전하면 어떻게 될까요?

사기의 AI 기반 미래

전화 사기의 풍경은 몇 가지 핵심 기술의 등장으로 인해劇的に変化할 것입니다.

대형 언어 모델(LLM)

이러한 AI 시스템은 인간과 같은 텍스트를 생성하고 자연스러운 대화를 할 수 있습니다. 사기에 적용될 경우, LLM은 매우 설득력 있고 적응 가능한 스크립트를 생성할 수 있습니다. 이는 잠재적인 피해자가 사기를 식별하기가 훨씬 더 어려워집니다.

검색 보강 생성(RAG)

이 기술을 사용하면 LLM 시스템이大量의 정보에 접근하고 실시간으로 활용할 수 있습니다. 사기자는 공개적으로 उपलब있는 정보를 사용하여 개인의 프로필을 생성할 수 있습니다. 또한 사기자는 사회 공학 기술을 사용하여 친구와 가족으로부터 더深い 정보를 수집할 수 있습니다. 이는 사기자가 대상의 身分, 직업 정보, 또는 최근 활동과 같은 정보에 접근할 수 있음을 의미합니다. 그러면 RAG를 사용하여 LLM에 필요한 컨텍스트를 제공할 수 있습니다. 이는 접근법이 매우 개인화되고 합법적으로 보이게 만듭니다.

합성 오디오 생성

Resemble AI와 Lyrebird와 같은 플랫폼은 매우リアル한 AI 생성 음성을 생성하는 데 선두주자입니다. 이러한 기술은 가상 어시스턴트, 자동 고객 서비스, 콘텐츠 생성과 같은 다양한 응용 프로그램에서 사용될 수 있습니다. ElevenLabs와 같은 회사들은 사용자가 자신의 음성을 밀접하게 복제할 수 있는 합성 음성을 생성할 수 있도록 경계를 더욱 확장하고 있습니다. 이는 디지털 상호작용에서 새로운 수준의 개인화와 참여를 가능하게 합니다.

합성 비디오 생성

Synthesia와 같은 회사들은 이미リアル한 비디오 콘텐츠를 생성하는 잠재력을展示하고 있습니다. 향후 몇 년 안에, 이러한 기술을 사용하여 사기자는 친구나 가족의 모습을 가장하거나 완전히 허구의 인물을 생성하여 비디오 통화를 할 수 있습니다. 이는 사기에 이전에 불가능했던 물리적リアリ즘을 도입합니다.

AI 립싱크

Sync Labs와 같은 스타트업은 생성된 오디오를 비디오 영상과 일치시키는 고급 립싱크 기술을 개발하고 있습니다. 이는 역사적인 인물, 정치인, 유명인, 그리고 거의 모든 사람의 매우 설득력 있는 디프페이크 비디오를 생성하는 데 사용될 수 있습니다. 이는 현실과 欺瞞 사이의 경계를 더욱模糊하게 만듭니다.

이러한 기술의 조합은 걱정스러운 그림을描きます. 실시간으로 대화를 적응시키고, 대상에 대한 개인 정보를 갖춘 AI가 있는 사기 전화 상상을 해보세요. 그리고 실제 사람처럼 보이는 비디오 통화로 전환할 수 있습니다. 欺瞞의 가능성은真正로巨大합니다.

강화된 보안 조치의 필요성

이러한 AI 기반 사기가 더 복잡해짐에 따라, 身分과 진위를 확인하는 방법은 AI의 발전과 함께 경쟁해야 합니다. 규제와 기술적 발전이 모두 필요합니다.

규제 개선

より厳格한 데이터 개인 정보 보호 법: 더 엄격한 데이터 개인 정보 보호 법을 시행하면 사기자가 악용할 수 있는 개인 정보의 양을 제한할 수 있습니다. 이러한 법은 데이터 수집, 사용자 동의 프로토콜, 데이터 유출에 대한 더严格한 처벌을 포함할 수 있습니다.

최근의 AI 모델을 위한 사적 클라우드: 규제는 가장 강력한 AI 모델이 공개적으로 이용 가능한 것이 아니라, 사적이고 보안이 높은 클라우드 인프라에 호스팅되어야 한다고 명시할 수 있습니다. 이는 가장 발전된 기술에 대한 접근을 제한하여, 악의적인 행위자가 이를 사기 목적으로 사용하는 것을 더 어렵게 만들 수 있습니다.

국제적인 AI 규제 협력: AI 기술의 세계적인 특성으로 인해, 국제적인 규제 표준에 대한 협력이 유익할 수 있습니다. 국제적인 AI 규제를 책임지는 글로벌 기구를 설립하여 국경을 넘는 AI 관련 범죄를 대처하는 데 도움이 될 수 있습니다.

공공 인식 캠페인: 정부와 규제 기관은 시민들이 AI 사기의 잠재적인 위험과 자신을 보호하는 방법에 대해 교육하는 공공 인식 캠페인에 투자해야 합니다. 인식은 개인과 기관이 필요한 보안 조치를 구현하는 데 필요한 첫 번째 단계입니다.

현재의 AI 규제는 사기를 방지하기에 충분하지 않으며, 많은 강력한 기술의 오픈 소스 특성으로 인해 미래의 규제는 더욱 도전적입니다. 이는 이러한 기술에 접근하여 수정할 수 있음을 의미합니다. 따라서, 더 강력한 규제와 함께 보안 기술의 발전도 필요합니다.

합성 데이터 감지

합성 오디오 감지: 사기자가 AI를 사용하는 것처럼, 우리의 방어도 vậy입니다. Pindrop과 같은 회사는 실시간으로 전화 중에 합성 오디오를 감지하는 AI 기반 시스템을 개발하고 있습니다. उनक의 기술은 전화의 오디오를 1,300개 이상의 특징을 분석하여 실제 사람인지, 또는 고급 AI 시스템인지 판단합니다.

합성 비디오 감지: 합성 비디오 감지 기술은 Deepware와 같은 회사가 개발 중입니다. Deepware의 플랫폼은 비디오 데이터의 미묘한 불일치, 즉 비디오의 자연스럽지 못한 동작, 불규칙한 조명, 픽셀 이상과 같은 것을 분석하여 비디오가 실제인지, 또는 AI에 의해 생성된 것인지를 판단합니다. 이러한 차이를 식별함으로써, Deepware의 기술은 비디오가 실제인지, 또는 사기나 잘못된 정보 캠페인에 의해 조작되었는지 판단할 수 있습니다.

신원 인증 발전

사용자의 身分을 확인하는 방법은 여러 가지가 개발 중입니다. 이러한 방법 중 하나 이상은 향후 인터넷을 더 안전하게 만들기 위해 주류가 될 것입니다.

원격 대화의 2단계 인증: 2요소 인증(2FA)은 안전한 통신의 기본 구성 요소입니다. 이 방법에서는 각 전화 통화 또는 이메일에 대한 고유한 확인 코드가 포함된 텍스트 메시지를 트리거합니다. 2FA는 기본 인증에 효과적이지만, 모든 상황에서 의존할 수 없으므로, 더 발전된 방법이 필요합니다.

행동 기반 다요소 인증: 대화 시작 시 身分을 확인하는 것보다, 미래의 보안 시스템은 대화 중에 지속적으로 행동을 분석할 수 있습니다. BioCatch와 같은 회사는 사용자가 디바이스와 상호작용하는 방식을 기반으로 사용자 프로필을 생성하는 행동 생체 인증을 사용합니다. 이 기술은 초기 인증 확인을 통과했더라도, 도용된 정보를 사용하여 사기자가 행동하는 것과 같은 비정상적인 행동을 감지할 수 있습니다.

생체 인증 기반 인증: Onfido와 같은 회사는 AI 기반 身分 확인 도구를 제공하여 고급 디프페이크와 기타 형태의 身分 사기를 감지합니다. их의 시스템은 문서 확인과 생체 인증을 결합하여, 통화 또는 비디오 채팅의 다른 쪽 끝에 있는 사람이 실제로 자신이라고 주장하는 사람인지 확인합니다.

고급 지식 기반 인증: 단순한 보안 질문을 넘어서, 미래의 인증 시스템은 사용자의 디지털足跡과 최근 활동을 기반으로 동적으로 생성된 질문을 포함할 수 있습니다. 예를 들어, Prove와 같은 회사들은 전화 중심 身分 확인 솔루션을 개발하여, 사용자가 디바이스를 사용하는 패턴을 분석하여 고유한 ” 身分 서명”을 생성합니다. 이는 사기자가 복제하기 훨씬 더 어렵습니다.

블록체인 기반 身分 확인 인증: 블록체인 기술은 分散化되고, 변조할 수 없는 身分 확인 방법을 제공합니다. Civic과 같은 회사는 사용자가 개인 정보를 제어하면서 안전한 인증을 제공하는 블록체인 기반 身分 확인 시스템을 개척하고 있습니다. 이러한 시스템은 사용자의 身分에 대한 검증 가능하고, 변경할 수 없는 기록을 생성하여, 높은 위험의 거래를 관리하는 데 유용합니다.

결론

LLM, RAG, 합성 오디오 생성, 합성 비디오 생성, 립싱크 기술의 결합은 양날의 검입니다. 이러한 발전은 긍정적인 응용 프로그램에巨大한 잠재력을 가지고 있지만, 사기자에 의해 악용될 경우,重大한 위험을 갖습니다.

이것은 보안 전문가와 사이버 범죄자 사이의 지속적인 경쟁을 강조합니다. 우리는 이러한 강력한 도구의 이점을 활용하고, 잠재적인 피해를 최소화하기 위해, 이러한 위험을 인정하고 준비해야 합니다.

포괄적인 규제, 새로운 형태의 사기에 대한 교육, 최첨단 보안 조치에 대한 투자, 그리고 가장 중요한 것은, 우리 모두가 온라인이나 전화에서 알 수 없는实体와 상호작용할 때 건강한 회의주의를 갖는 것이, 이 새로운 풍경을 탐색하는 데 필요합니다.