불법 아편류 판매와 사이버 범죄에 대처하는 새로운 방법을 열어주는 AI

미국 보건복지부(HHS)와 국립마약남용연구소(NIDA)는 아편류의 불법 판매를 막고 약물 남용을 줄이기 위해 인공지능(AI)을 사용하기 위해 투자하고 있다. Vox의 보도에 따르면, NIDA의 AI 도구는 불법 인터넷 약국 시장을 추적하려고 시도할 것이지만, AI가 사용하는 접근 방식은 다른 유형의 사이버 범죄에도 쉽게 적용될 수 있다.

도구 개발을 담당한 연구원 중 한 명인 Timothy Mackey는 Vox와의 인터뷰에서, 아편류의 불법 판매를 추적하는 데 사용되는 AI 알고리즘은 또한 가짜 제품이나 야생 동물 밀매와 같은 다른 유형의 불법 판매를 감지하는 데 사용될 수 있다고 설명했다.

NIDA의 AI 도구는 일반적인 아편류에 대한 토론과 아편류 판매를 협상하려는 시도를 구별할 수 있어야 한다. Mackey에 따르면, 아편류를 언급하는 트윗 중에서 실제로 아편류를 불법으로 판매하는 것은 매우 적다. Mackey는 약 600,000개의 트윗 중에서 아편류를 언급하는 트윗이 약 2,000개 정도밖에 없다고 설명했다. AI 도구는 또한 불법으로 아편류를 판매하는 사람들이 사용하는 언어의 변화에 따라 대응할 수 있어야 한다. 불법 약물 판매자들은 종종 암호화된 언어와 명백하지 않은 키워드를 사용하여 약물을 판매하며, 전략을 빠르게 변경한다. Mackey는 약물 이름의 잘못된 별칭이 일반적으로 사용되고, Instagram과 같은 웹사이트에서 약물이 아닌 다른 이미지로 목록을 생성하는 경우가 많다고 설명했다.

Instagram과 Facebook는 약물의 판매를 금지하고 사용자에게 남용 사례를 보고하도록鼓励하지만, 불법 콘텐츠는 매우 어려운 경우가 많다. Mackey는 이러한 암호화된 게시물과 해시태그가 일반적으로 판매자와의 연락처 및 약물 구매 정보를 포함하고 있다고 설명했다. Mackey는 또한 일부 불법 판매자가 합법적인 제약 회사로 자신을 나타내고 전자상거래 플랫폼에 연결한다고 설명했다. FDA는 이러한 사이트를 단속하려고 시도했지만, 여전히 문제가 있다.

불법 약물 마케팅을 감지하는 AI 도구를 설계할 때, Mackey와 연구 팀은 심층 학습과 주제 모델링의 조합을 사용했다. 연구 팀은 Instagram 게시물의 텍스트에 훈련된 Long Short-Term Memory 네트워크를 사용하여 자동으로 불법 약물 판매와 관련된 게시물로 표시할 수 있는 텍스트 분류기를 생성하는 심층 학습 모델을 설계했다. 연구 팀은 또한 주제 모델링을 사용하여, 펜타닐과 페르코세트와 같은 아편류와 관련된 키워드를 AI 모델이 파악하도록 했다. 이것은 모델을 더 강력하고 정교하게 만들 수 있으며, 주제와 대화를 일치시킬 수 있다. 주제 모델링은 연구 팀이 펜타닐에 대한 약 30,000개의 트윗을 몇 개의 트윗으로 줄이는 데 도움이 되었다.

Markey와 연구 팀은 NIDA를 위해 AI 애플리케이션을 개발했지만, 페이스북, 트위터, 레딧, 유튜브와 같은 소셜 미디어 회사들도 자신의 정책을 위반하는 콘텐츠를 표시하기 위해 AI를 사용하기 위해大量 투자하고 있다. Markey는 페이스북과 트위터와의 대화에서 이러한 애플리케이션에 대해 논의했지만, 현재는 NIDA를 위한 연구에 기반한 상업용 애플리케이션을 개발하는 데 중점을 두고 있으며, 이 도구가 소셜 미디어 플랫폼, 규제 기관 및 기타 기관에서 사용될 수 있기를 희망한다.

Markey는 NIDA 연구를 위해 개발된 접근 방식이 동물 밀매 또는 불법 총기 판매와 같은 다른 유형의 사이버 범죄와 싸우는 데 일반화될 수 있다고 설명했다. Instagram은 이전에 불법 동물 거래와 관련된 문제를 가지고 있었으며, 2017년에 모든 동물 판매 광고를 금지했다. 회사는 또한 동물 밀매와 관련된 게시물이 나타나면 즉시 삭제하려고 시도하지만,尽管如此에도 불구하고, 여전히 미래의 동물 시장과 광고가 나타난다.

도구가 구현되기 전에 해결해야 할 몇 가지 윤리적 문제가 있다. 약물 정책 전문가들은 이것이 낮은 수준의 약물 판매자에 대한 과도한 범죄화를 가능하게 할 수 있으며, 실제로 물질의 수요를 줄이지 않는 경우에도 문제가 해결되고 있는 것처럼 거짓된 인상을 줄 수 있다고 경고한다. 그러나 적절하게 사용되는 경우, AI 도구는 법 집행 기관이 온라인 판매자와 오프라인 공급망 사이의 연결을 설정하는 데 도움이 될 수 있으며, 문제의 범위를 정량화하는 데 도움이 될 수 있다. 또한, NIDA가 사용하는 기술과 유사한 기술이 아편류 중독과 싸우는 데 사용될 수 있으며, 검색이 수행될 때 재활 소스를 사용자에게 направ하는 데 도움이 될 수 있다. 모든 혁신과 마찬가지로, рис크와 기회가 모두 있다.