새로운 실행 임시로 인한 사기 시대는 임원들을 포함하지 않을 것

최근 몇 년 동안 디지털 세계에서 기업들이 직면한 가장 큰 위협은 임원 사칭이었으며, 이는 thường적으로 가짜 이메일 주소나 사칭 소셜 미디어 계정을 통해 수행되었습니다. 그러나 오늘날 우리는 훨씬 더 복잡하고 설득력 있는 적을 맞닥뜨리고 있습니다: AI 에이전트입니다.

대규모 언어 모델(Large Language Models, LLMs)을 사용하여 작동하는 자율 에이전트의 등장으로 새로운 가능성이 열렸으며, 이는 초기 웹2와 모바일 앱 시대의 흥분을 다시 불러일으킵니다.

진짜 자율 에이전트가 아직 비전에서 현실로 넘어오지 않았지만, 전문가들은 내년이면 기업 네트워크에서 돌아다닐 수 있을 것으로 경고합니다. 그에 따른 흥분과 채택은 결국 사이버 범죄자들의 레이더에 나타날 것입니다. 사이버 범죄자들은 자율 에이전트를 새로운 디지털 사기 프론티어로 간주합니다. 그러면 이러한 에이전트가 사칭당하거나, 더 나쁘게는 사칭자가 될 때 무슨 일이 발생할까요?

모바일 앱이曾經에 가짜 버전으로淹没되어 로그인 자격증명이나 악성 코드를 설치하도록 만들었던 것처럼, AI 에이전트도 유사한 波에 직면할 것입니다. 그러나 이번에는 위험이 더難檢出であり, 피해가 더廣泛할 수 있습니다.

임원 사칭에서 에이전트 사칭으로

AI는 이미 새로운 사기와 欺騙의 길을 열었습니다. 예를 들어, 음성 클로닝 사기에서는 몇 초의 오디오만으로 임원의 음성 패턴을 재현할 수 있으며, 최근에는 실시간 디프페이크 비디오와 음성 기반의 사칭 증거가 보고되었습니다. 이제, 자율 에이전트가 귀하의 회사를 대표하여 고객, 투자자, 또는 파트너와 상호작용한다고 상상해 보세요. 그 에이전트는 웹사이트에 내장되어 있거나, 채팅봇에 통합되어 있거나, 이메일을 통해 상호작용할 수 있습니다. 그리고 그것은 매우 설득력 있고 전문적이며 완전히 가짜 상호작용을 제공할 수 있습니다.

에이전트 사칭의 전신은 “감옥 탈출” 모델일 수 있습니다. 여기서 위협 행위자는 LLM을 조작하여 유해하거나 거짓 출력을 생성합니다. 그러나 이것은 시작에 불과합니다.

데이터에 따르면, AI 기업은 2024년에 1315억 달러를 모금하여 총 글로벌 벤처 캐피탈 거래의 3분의 1을 차지했습니다. AI 경쟁은 야심 있는 창업자, 투자자, 그리고 정부에 의해 급속히 가속화될 것입니다. 그리고 합법적인 사용 사례는 계속해서 악의적인 목적으로 악용될 것입니다.

생성적 AI는 이러한 에이전트의 생성을 민주화할 것입니다. 플랫폼이它们를 통합하는 동안, 에이전트의 진위를 확인하는 가이드라인은 거의 없습니다. 이것은 새로운 종류의 사칭을 위한 문을 열어줍니다: 사람뿐만 아니라 소프트웨어도 사칭할 수 있습니다.

열렬한 브랜드와 호기심 많은 소비자에게 경고

소비자와 브랜드는 에이전트를 신뢰하는 것의 의미를 이해하기 시작했습니다. 그러나 신뢰는 디지털 상호작용의 핵심입니다. 그리고 그것이 깨지면 결과는 참혹할 수 있습니다.

디프페이크 비디오와 음성 클로닝을 관찰한 바와 같이, 가짜 에이전트는 다음을 위해 사용될 수 있습니다:

• 신뢰할 수 있는 브랜드 또는 OTHERWISE 신뢰할 수 있는 브랜드의 이름으로 지불이나 민감한 데이터를 요구합니다.
• 소셜 미디어 DM 또는 유료 광고를 통해 사용자를 악성 코드가 포함된 웹사이트로 리디렉션합니다.
• 고객의 신뢰를 침식하고 대규모로 명성을 손상시킵니다.

최근의 연방 거래위원회 보고서에 따르면, 사칭 사기는 미국에서만 30억 달러 이상의 손실을 초래했습니다. 그리고 AI 사칭이 더 원활하고 확장 가능해지면 이 숫자는 급격히 증가할 것으로 예상됩니다.

가짜 에이전트의 확산: 광고, 검색, 소셜

특히 위험한 것은 가짜 에이전트가 어떻게 배포될 것인가입니다. 그들은 자신의 웹사이트나 도메인이 필요 없습니다. 악의적인 행위자는 유료 검색 결과와 소셜 미디어 플랫폼을 사용하여 악의적인 복제品을 홍보할 수 있습니다. 예를 들어, Google의 스폰서 링크 또는 Instagram의 홍보 게시물을 통해 사용자를 가짜 에이전트 또는 지원 포털로 유도할 수 있습니다.

이러한 생태계 수준의 위험은 사이버 보안에 대한 새로운 사고 방식을 요구합니다. 더 이상 네트워크, 클라우드, 또는 직원의 자격증명을 보호하는 것만으로는 충분하지 않습니다. 귀하의 브랜드의 위협 지평선에는 이제 고객이 상호작용하는 모든 광고 네트워크, 검색 플랫폼, 및 제3자 도구가 포함됩니다.

너무 늦기 전에 행동하세요

우리는 인간과 에이전트가 점점 더模糊해지는 세계로 진입하고 있습니다. 위협은 더 이상 사람을 사칭하는 것이 아닙니다. 그것은 디지털 인물을 사칭하는 것입니다.

그렇다면 기업은 어떻게 준비할 수 있을까요?

1. 브랜드의 디지털 존재를 매핑하세요: 고객이 귀하의 회사와 에이전트와 상호작용하는 모든 곳을 알고, 그 진입점을 사칭 시도에 대해 주시하세요.
2. 새로운 에이전트 생태계를 모니터링하세요: 공개 에이전트 마켓플레이스 및 플랫폼(예: Hugging Face Spaces)이 인기를 얻으면서, 귀하의 도구의 유사품 또는 포크가 다른 곳에 나타나는지 주시하세요.
3. 탐지 시간과 조치 시간을 단축하세요: 유료 광고 또는 소셜 플랫폼을 악용하는 사칭자를 신속하게 식별하고 제거할 수 있는 솔루션을 사용하세요.
4. 사용자를 교육하세요: 에이전트 경험에 투명성을 구축하세요. 사용자는 어디서, 어떻게 귀하의 도구와 상호작용해야 하는지, 그리고 적신호를 어떻게 식별하는지 이해해야 합니다.
5. 에이전트 인증 프로토콜을 설정하세요: 에이전트의 출처와 정통성을 확인할 수 있는 암호화 또는 메타데이터 기반 확인을 작업하세요.

해결책은 AI 에이전트 생태계를 보호하는 것입니다. 과거에 우리는 도메인, 이메일, 모바일 앱을 검증하는 방법을 배웠습니다. 이제 우리는 AI 에이전트 세계에 대한 동일한 주의를 기울여야 합니다. 에이전트 사칭에 앞서지 않으면, 우리는 곧 친숙한 에이전트와 대화하게 될 수 있지만, 그 에이전트는 반대편에서 일할 것입니다.