์ฌ์ด๋ฒ ๋ณด์
์์ฑ์ AI์ ์ฌ์ด๋ฒ ๋ณด์: ์ ์ฅ, ์ํ, ๊ทธ๋ฆฌ๊ณ ์ง๊ธ ๋ฐฉ์ด
전장
생성적 AI의 능력에 대한 흥분이 빠르게 우려로 변하고 있다. ChatGPT, Google Bard, Dall-E 등과 같은 생성적 AI 도구는 보안과 개인 정보 보호 문제로 인해 계속해서 헤드라인을 장식하고 있다. 이것은 무엇이 실제이고 무엇이 아닌지에 대한 질문으로까지 이어지고 있다. 생성적 AI는 매우 설득력 있고 실제적인 콘텐츠를 생성할 수 있다. 최근 60 Minutes의 AI 관련 세그먼트의 끝에서 호스트 Scott Pelley는 다음과 같은 발언을 남겼다. “우리는 100% 인간 콘텐츠로 생성된 내용임을 알리는 메모로 끝낼 것이다. 이것은 60 Minutes에서 처음 등장하는 내용이지만 AI 혁명에서 자주 듣게 될 것이다.”
생성적 AI 사이버 전쟁은 이러한 설득력 있고 실제적인 콘텐츠와 시작되며, 전장은 해커들이 생성적 AI를 활용하여 ChatGPT와 같은 도구를 사용하는 곳이다. 특히 제한된 자원과 기술 지식이 없는 사이버 범죄자들에게 사회 공학, 피싱, 및 위장 공격을 통해 범죄를 저지를 수 있게 하는 것이 매우 쉽다.
위협
생성적 AI는 점점 더 복잡한 사이버 공격을 부추길 수 있는 능력을 가지고 있다.
이 기술이 매우 설득력 있고 인간 같은 콘텐츠를 쉽게 생성할 수 있기 때문에, AI를 활용한 새로운 사이버 스캠은 보안 팀이 쉽게 phát각하기 어렵다. AI 생성 스캠은 이메일과 메신저 앱을 통해 수행되는 다중 채널 피싱 공격과 같은 사회 공학 공격의 형태를 취할 수 있다. 실제 예로는 제3자 벤더가 아웃룩(이메일) 또는 슬랙(메신저 앱)을 통해 기업 임원에게 문서가 포함된 이메일 또는 메시지를 보내는 경우이다. 이메일 또는 메시지는 그들을 클릭하여 청구서를 보도록 지시한다. 생성적 AI를 사용하면 가짜와 실제 이메일 또는 메시지를 구별하는 것이 거의 불가능하다. 이것이 왜如此 위험한지 이유이다.
가장 경계해야 할 예 중 하나는 생성적 AI를 사용하여 사이버 범죄자들이 여러 언어로 공격을 수행할 수 있다는 것이다. 목표는 넓은 네트워크를 구축하는 것이며, 사이버 범죄자들은 언어에 따라 피해자를 차별하지 않는다.
생성적 AI의 발전은 이러한 공격의 규모와 효율성이 계속 증가할 것을 시사한다.
방어
생성적 AI에 대한 사이버 방어는 오랜 시간 동안 퍼즐의缺失한 조각이었다. 하지만 이제는 그렇지 않다. 기계 대 기계 전투, 또는 AI 대 AI를 사용하여 우리는 이 새로운 및 증가하는 위협에 대항할 수 있다. 하지만 이 전략은 어떻게 정의되고 어떻게 보이는가?
첫째, 산업은 인간 대 컴퓨터 대신 컴퓨터 대 컴퓨터로 대결해야 한다. 이 노력을 수행하기 위해, 우리는 AI 생성 위협을检测할 수 있는 고급 탐지 플랫폼을 고려해야 하며, 사회 공학 공격을 플래그하고 해결하는 시간을 줄여야 한다. 이것은 인간이 할 수 없는 일이다.
우리는 최근에 이게 어떤 모습일 수 있는지 테스트를 수행했다. 우리는 ChatGPT가 여러 언어로 언어 기반 콜백 피싱 이메일을 생성하도록 시켰고, 자연어 이해 플랫폼 또는 고급 탐지 플랫폼이 이를 감지할 수 있는지 확인했다. 우리는 ChatGPT에게 “소프트웨어 라이센스 계약에 대한 최종 통지에 대해 호출하도록 긴급한 이메일을 작성하라”는 프롬프트를 주었고, 영어와 일본어로 작성하도록 지시했다.
고급 탐지 플랫폼은 즉시 이 이메일을 사회 공학 공격으로 플래그했다. 하지만 아웃룩의 피싱 탐지 플랫폼과 같은 네이티브 이메일 컨트롤은 그러지 못했다. 심지어 ChatGPT가 출시되기 전에, 대화형 언어 기반 공격을 통해 수행된 사회 공학은 전통적인 컨트롤을 피할 수 있었기 때문에 성공적이었다. 따라서 기계 대 기계 전투가 방어에 필요하지만, 우리는 또한 효과적인 포화를 사용하고 있는지 확인해야 한다. 이러한 도구를 사용할 수 있는 사람은 생성적 AI에 대한 싸움에서 우위를 점할 수 있다.
ChatGPT와 다른 형태의 생성적 AI가 제공하는 사회 공학 공격의 규모와 설득력에 대해, 기계 대 기계 방어는 또한 세부적으로 조정될 수 있다. 예를 들어, 이 방어는 여러 언어로 배포될 수 있다. 또한 이메일 보안에만 국한되지 않고, 슬랙, 왓츠앱, 팀즈 등과 같은 다른 통신 채널에 사용될 수 있다.
경계하라
링크드인에서 스크롤링하는 동안, 우리의 한 직원이 생성적 AI 사회 공학 시도를 발견했다. 이상한 “화이트페이퍼” 다운로드 광고가 나타났고, 다만 “비자로”라고 할 수 있는 광고 크리에이티브가 있었다. 더 가까이 살펴보면, Dall-E가 생성한 이미지에 하단 오른쪽에 색상 패턴이 표시된 것이 보였다. 이 이미지는 텍스트 기반 프롬프트에서 생성된 이미지이다.
이 가짜 링크드인 광고를遭遇하는 것은 생성적 AI와 결합된 새로운 사회 공학적 위험을 상기시키는 중요한 경고였다. 더욱 경계하고 의심하는 것이 중요하다.
생성적 AI를 사용한 사이버 범죄의 시대가 도착했으며, 우리는 모든 도구를 사용하여 싸워야 한다.
