AI와 ID 검증을 통한 신뢰 구축

생성적 AI는 전 세계 비즈니스에서 관심을 끌고 있습니다. 실제로, ​​60%의 AI를 채택한 조직은 생성적 AI를 사용하고 있습니다. 오늘날의 리더들은 기술 스택에 AI 도구를 통합하여 경쟁력과 관련성을 유지하기 위해 경쟁하고 있으며, AI 개발자들은 이전보다 더 많은 도구를 개발하고 있습니다. 그러나 빠른 채택과 기술의 특성으로 인해 많은 보안과 윤리적 문제가 완전히 고려되지 않고 있습니다. 결과적으로, 신뢰가 약화되고 있습니다.

최근 조사에 따르면, 미국인 중 48%만이 AI가 안전하고 보안이 된다고 믿으며, 78%는 AI가 악의적인 의도로 사용될 수 있다고 우려합니다. AI는 일상적인 워크플로우를 개선하는 데 도움이 되지만, 소비자는 악의적인 행위자와 AI를 조작하는 능력에 대해 우려하고 있습니다. 딥페이크 기능은 기술이 대중에게 더 쉽게 접근할 수 있게 되면서 더 큰 위협이 되고 있습니다.

AI 도구를 가지고 있는 것만으로는 더 이상 충분하지 않습니다. AI가真正로 유익한 잠재력을 발휘하기 위해서는, 비즈니스에서는 책임감 있고 신뢰할 수 있는 기술 사용을 보여주는 솔루션에 AI를 통합해야 합니다. 특히 사이버 보안 분야에서 신뢰는 핵심입니다.

AI 사이버 보안 도전

생성적 AI 기술은 빠르게 발전하고 있으며, 개발자들은 이 기술을 기업에 적용하는 것의 중요성을 이제야 이해하기 시작했습니다. 최근 ChatGPT Enterprise의 출시가 이를 보여줍니다.

현재의 AI 기술은 과거에는 과학 소설의 영역에만 존재했던 것을 달성할 수 있습니다. 그 작동 방식은 인상적이지만, 이러한 기술이 빠르게 발전하는 속도는 더욱 인상적입니다. 이것이 AI 기술이 회사, 개인, 그리고 물론 사기꾼에게도 확장 가능하고 접근하기 쉽게 만드는 이유입니다. AI 기술의 능력은 혁신을 주도했지만, 그广泛한 사용은 또한 딥페이크-어스-서비스와 같은 위험한 기술의 개발로 이어졌습니다. “딥페이크”라는 용어는 이 기술이 생성하는 특정 스타일의 조작된 콘텐츠(또는 “가짜”)를 생성하는 데 깊은 학습 기술을 사용해야 하기 때문에 유래되었습니다.

사기꾼은 항상 가장 높은 ROI를 제공하는 돈을 따라갑니다. 따라서 높은 수익을 제공하는 비즈니스, 즉 핀테크, 송금 비즈니스, 정부 서비스, 고가 상품 소매업체는 항상 그들의 목표 목록 상단에 있습니다.

우리는 신뢰가 위협을 받는 곳에 있습니다. 소비자는 점점 더 신뢰하지 않으며, 이는 초보자 사기꾼에게도 공격할 기회를 더 많이 제공합니다. AI 도구의 접근성과 낮은 비용으로 인해, 악의적인 행위자는 누구든지 다른 사람의 이미지와 신원을 조작하기 쉽습니다. 딥페이크 기능은 딥페이크 앱과 웹사이트를 통해 대중에게 더 쉽게 접근할 수 있게 되며, 복잡한 딥페이크를 생성하는 데 필요한 시간과 기술 수준은 상대적으로 낮습니다.

AI를 사용함으로써, 우리는 또한 계정 탈취가 증가하는 것을 보았습니다. AI 생성된 딥페이크는 누구든지 유명인이나甚至 자신의 상사와 같은 가짜 신원을 쉽게 생성할 수 있게 합니다.

AI와 대규모 언어 모델(LLM) 생성 언어 애플리케이션은 더 복잡하고 회피할 수 있는 사기를 생성할 수 있으며, 이를 탐지하고 제거하기가 어렵습니다. LLM은 특히 모국어를 완벽하게 구사할 수 있는 피싱 공격을广泛하게 사용할 수 있게 합니다. 이러한 공격은 또한 대규모로 로맨스 사기를 일으킬 수 있습니다. 즉, 누군가가 데이트 웹사이트나 앱을 통해 누군가와 연결되지만, 그와 대화하는 사람은 사기꾼이며 가짜 프로필을 사용하고 있습니다. 이것은 많은 소셜 플랫폼이 확장성을 유지하기 위해 “인간 증명” 검사를 배치하는 것을 고려하도록 만들었습니다.

그러나 현재 보안 솔루션은 악의적인 행위자를 막을 수 없습니다. 딥페이크 탐지는 실제와 가짜 사이의 차이를 찾는 분류기에 기반합니다. 그러나 이러한 고급 위협을 탐지하는 데에는 더 많은 데이터 포인트가 필요합니다.

AI와 ID 검증: 함께 작동

AI 개발자는 책임감 있고 신뢰할 수 있는 기술 사용을 보여주는 보안対策를 제공하는 데 중점을 두어야 합니다. 이것은 더 신뢰할 수 있는 AI 사용 사례를 제공할 뿐만 아니라, 사이버 보안 관행을 개선하는 데도 도움이 될 것입니다.

이 기술의 주요 사용 사례는 ID 검증 내에서 있습니다. AI 위협 풍경은 끊임없이 발전하고 있으며, 팀은 새로운 기술을 빠르게 적용할 수 있는 기술로装備되어야 합니다.

AI와 ID 검증 기술을 사용하는 기회는 다음과 같습니다:

• 기본 디바이스 속성 검사
• 조작 탐지 위한 대응 AI 사용: 사기를 피하고 중요한 데이터를 보호하기 위해, 대응 AI는 들어오는 이미지의 조작을 탐지할 수 있습니다.
• 일부 상황에서 데이터 부재를 위험 요소로 처리
• 여러 세션과 고객에 걸친 패턴 활성 검색

AI와 ID 검증 기술이 제공하는 이러한 계층적 방어는 사람, 주장된 신원 문서, 네트워크, 디바이스를 조사하여 딥페이크로 인한 조작 위험을 최소화하고, 오직 신뢰할 수 있는, 실제 사람만이 서비스에 접근할 수 있도록 합니다.

AI와 ID 검증은 계속 함께 작동해야 합니다. 훈련 데이터가 더 강력하고 완전할수록, 모델이 더 좋아집니다. AI는 입력된 데이터만큼 좋은 성능을 발휘하므로, 더 많은 데이터 포인트를 가지면, ID 검증과 AI가 더 정확해질 것입니다.

AI와 ID 검증의 미래

신뢰할 수 있는 출처로 증명되지 않는 한, 온라인에서 아무것도 신뢰할 수 없습니다. 오늘날, 온라인 신뢰의 핵심은 증명된 신원에 있습니다. LLM과 딥페이크 도구의 접근성은 온라인 사기 위험을 증가시킵니다. 조직화된 범죄 집단은 잘 자금이 지원되고 있으며, 이제는 최신 기술을 대규모로 활용할 수 있습니다.

회사들은 방어 지형을 넓혀야 하며, 기술에 투자하는 것을 두려워해서는 안 됩니다. 더 이상 단일 방어 지점만으로는 충분하지 않습니다. 회사들은 시스템, 상품, 서비스에 접근하려는 개인과 관련된 모든 데이터 포인트를 조사해야 하며, 그들의 여정 전체에 걸쳐 지속적으로 검증해야 합니다.

딥페이크는 계속 발전하고 더 복잡해질 것입니다. 비즈니스 리더들은 새로운 사기 패턴을 식별하고 위협에 따라 사이버 보안 전략을 지속적으로 발전시켜야 합니다.