AI 전문가, 딥페이크와 19가지 다른 AI 기반 범죄에 대한 위험 수준 평가

런던 대학교에서 발표한 새로운 보고서는 향후 15년 동안 범죄자들이 AI를 사용할 수 있는 다양한 방법을 식별하기 위해 작성되었습니다. 이 보고서에는 31명의 다른 AI 전문가가 20가지의 AI를 사용하여 범죄를 저지를 수 있는 방법을 평가하고, 여러 가지 요인에 따라 순위를 매겼습니다. AI 전문가들은 범죄의 위험 수준을 평가할 때, 범죄를 저지르기 쉬운지, 범죄의 잠재적인 사회적 피해가 클지, 범죄자들이 얼마나 많은 돈을 벌 수 있는지, 그리고 범죄를 저지르기 어렵게 할 수 있는지 등 다양한 변수를 고려했습니다. 보고서의 결과에 따르면, 딥페이크는 법을 지키는 시민과 사회 전체에 가장 큰 위협을 가하는 것으로 나타났습니다. 딥페이크는 범죄자와 테러주의자들이 이용할 수 있는 잠재력이 매우 높기 때문입니다.

AI 전문가들은 딥페이크를 잠재적인 AI 위협 목록의 최상단에 올린 이유는, 딥페이크를 식별하고 대처하기가 매우 어렵기 때문입니다. 딥페이크는 점점 더 발전하여, 심지어 딥페이크 전문가들의 눈에도 속일 수 있는 수준에 이르렀습니다. 또한, 딥페이크를 감지하는 다른 AI 기반 방법도 종종 신뢰할 수 없습니다. 딥페이크의 잠재적인 피해는, 악의적인 행위자들이 신뢰할 수 있는 전문가나 신뢰할 수 있는 개인을冒牌하여 사람들을 속이거나, 사기를 치는 데 사용할 수 있습니다. 딥페이크가 널리 퍼진다면, 사람들은 오디오 또는 비디오 미디어를 신뢰하지 않게 될 수 있으며, 이는 실제 사건과 사실의 유효성을 의심하게 만들 수 있습니다.

UCL 컴퓨터 과학부의 매튜 캘드웰 박사는 이 논문의 첫 저자입니다. 캘드웰은 온라인 활동이 증가함에 따라 딥페이크의 위험성이 점점 더 커지고 있음을 강조합니다. UCL 뉴스에서 인용한 캘드웰의 말에 따르면,

“전통적인 범죄와는 달리, 디지털 범죄는 쉽게 공유되고, 반복되고, 심지어 판매될 수 있습니다. 이는 범죄자들이 범죄의 어려운 부분을 아웃소싱할 수 있으며, 범죄를 서비스로 제공할 수 있음을 의미합니다.”

전문가 팀은 5가지의 새로운 AI 기술을 매우 우려되는 잠재적인 범죄의 촉매제로 평가했습니다. 즉, 무인 자동차를 무기로 사용하는 것, AI 제어 시스템과 장치에 대한 해킹 공격, 사기目的의 온라인 데이터 수집, 맞춤형 메시지를 특징으로 하는 AI 기반 피싱, 그리고 일반적인 가짜 뉴스/허위 정보입니다.

UCL의 데니스 존슨은, 이 연구의 목적은 새로운 기술과 관련된 잠재적인 위협을 식별하고, 이러한 위협에 대처하는 방법을 가정하는 것이었다고 말합니다. 존슨은 기술의 발전 속도가 증가함에 따라, “미래의 범죄 위협을 예측하여, 정책 입안자와 다른 이해관계자들이 새로운 ‘범죄 수확’이 발생하기 전에 행동할 수 있도록 하는 것이 중요하다”고 말합니다.

나머지 14가지의 가능한 범죄는 두 가지 범주로 분류되었습니다. 즉, 중간 정도의 우려와 낮은 우려입니다.

중간 정도의 우려를 가진 AI 범죄에는 군사 로봇의 남용, 데이터 중독, 자동 공격 드론, 학습 기반 사이버 공격, 서비스 거부 공격, 금융/주식 시장 조작, 사기적인 서비스 판매, 그리고 얼굴 인식 시스템을 속이는 것이 포함됩니다.

낮은 우려를 가진 AI 기반 범죄에는 미술 또는 음악의 위조, AI 지원 스토킹, AI 작성 가짜 리뷰, AI 탐지 방법을 회피하는 것, 그리고 “도둑 로봇”(집에 침입하여 물건을 훔치는 로봇)이 포함됩니다.

물론, AI 모델 자체도 이러한 범죄를 방지하는 데 도움이 될 수 있습니다. 최근에, AI 모델은 금융 사기 방지를 위해 사용되었습니다. 결과는 인간 운영자가 분석하고, 경고를 승인하거나 거부하며, 피드백은 모델을 더 잘 훈련시키는 데 사용됩니다. 미래에는, 악의적인 행위자들이 자신의 최고의 AI 지원 도구를 설계하고, 보안, 법 집행, 그리고 다른 윤리적인 AI 설계자들이 자신의 최고의 AI 시스템을 설계하는 경쟁이 발생할 가능성이 있습니다.