์ธ๊ณต์ง๋ฅ
AI Opens Up New Ways To Fight Illegal Opiod Sales And Other Cybercrime
미국 보건 복지부(US HHS)와 약물 남용 국립 연구소(National Institute on Drug Abuse, NIDA)는 마약 남용을 줄이기 위해 아편類 불법 판매를 막기 위한 인공지능(AI)의 사용에 투자하고 있다. Vox의 보도에 따르면, NIDA의 AI 도구는 불법 인터넷 약국 시장을 추적하려고 시도할 것이지만, AI가 사용하는 접근 방식은 쉽게 다른 형태의 사이버 범죄에 적용될 수 있다.
도구 개발을 담당한 연구자 중 한 명인 Timothy Mackey는 최근 Vox와 인터뷰에서, 아편類 불법 판매를 추적하는 데 사용되는 AI 알고리즘은 가짜 제품이나 야생 동물 밀매와 같은 다른 형태의 불법 판매도 감지할 수 있을 것이라고 설명했다.
NIDA의 AI 도구는 일반적인 아편類 논의와 아편類 판매를 협상하려는 시도를 구별할 수 있어야 한다. Mackey에 따르면, 아편類를 언급하는 트윗 중에는 실제로 아편類 불법 판매와 관련된 것이 매우 적다. Mackey는 약 600,000개의 트윗 중에서 약 2,000개만이 실제로 약물을 판매하는 것으로 나타났다고 설명했다. AI 도구는 또한 아편類를 불법적으로 판매하는 데 사용되는 언어의 변경에 따라가기 위해 충분히 강력해야 한다. 마약을 불법으로 판매하는 사람들은 종종 암호화된 언어와 명백하지 않은 키워드를 사용하여 마약을 판매하며, 전략을 빠르게 변경한다. Mackey는 약물 이름의 철자 오류가 자주 사용되고, 인스타그램과 같은 웹사이트에서 약물과 관련된 목록을 생성할 때 다른 물건의 이미지를 사용하는 경우가 많다고 설명했다.
인스타그램과 페이스북은 마약 판매를 금지하고 사용자에게 남용 사례를 보고하도록 권장하지만, 불법 콘텐츠는 실제로 잡기 어렵다. 이는 마약 판매자가 전략과 코드 단어를 빠르게 변경하기 때문이다. Mackey는 인스타그램의 암호화된 게시물과 해시태그에는 대리와의 연락처와 불법 마약을 구매하는 방법에 대한 정보가 포함되어 있다고 설명했다. Mackey는 또한 일부 불법 판매자가 합법적인 제약 회사로 자신을 소개하고 전자 상거래 플랫폼에 연결한다고 설명했다. 미국 식품의약국(FDA)은 이러한 사이트를 단속하려고 시도했지만, 여전히 문제가 남아 있다.
불법 마약 판매를 감지하는 AI 도구를 설계할 때, Mackey와 연구 팀은 딥 러닝과 토픽 모델링의 조합을 사용했다. 연구 팀은 인스타그램 게시물의 텍스트에 훈련된 롱 쇼트 텀 메모리(LSTM) 네트워크를 사용하는 딥 러닝 모델을 설계하여 자동으로 불법 마약 판매와 관련된 게시물을 표시할 수 있는 텍스트 분류기를 생성하려고 했다. 연구 팀은 또한 토픽 모델링을 사용하여, 페نت아닐과 페르코セット과 같은 아편類와 관련된 키워드를 AI 모델이 파악하도록 했다. 이는 모델을 더 강력하고 정교하게 만들 수 있으며, 단어뿐만 아니라 주제와 대화도 일치시킬 수 있다. 토픽 모델링을 통해 연구 팀은 페нт아닐과 관련된 약 30,000개의 트윗을 단 몇 개의 마케팅 트윗으로 줄일 수 있었다.
Markey와 연구 팀은 NIDA를 위해 AI 애플리케이션을 개발했지만, 페이스북, 트위터, 레딧, 유튜브와 같은 소셜 미디어 회사도 정책을 위반하는 콘텐츠를 표시하기 위한 AI 사용에大量 투자하고 있다. Markey에 따르면, 그는 이전에 페이스북과 트위터와 같은 애플리케이션에 대해 논의했지만, 현재는 NIDA를 위한 연구에 기반한 상업적으로 이용 가능한 애플리케이션을 생성하는 데 중점을 두고 있으며, 툴이 소셜 미디어 플랫폼, 규제 기관, 기타 기관에서 사용될 수 있기를 희망한다.
Markey는 NIDA 연구를 위해 개발된 접근 방식이 동물 밀매 또는 불법 총기 판매와 같은 다른 형태의 사이버 범죄와 싸우는 데 일반화될 수 있다고 설명했다. 인스타그램은 이전에 불법 동물 밀매와 관련된 문제를 겪었으며, 2017年に 모든 동물 판매 광고를 금지했다. 회사는 또한 동물 밀매와 관련된 게시물이 나타나면 즉시 삭제하려고 하지만, 여전히 인스타그램 검색에서 엑조틱한 애완동물과 관련된 광고가 나타난다.
NIDA 툴을 구현할 때 협상해야 할 몇 가지 윤리적 문제가 있다. 마약 정책 전문가들은 그것이 저수준 마약 판매자의 과도한 범죄화를 가능하게 할 수 있으며, 실제로 물질에 대한 수요를 줄이지 않는 경우에도 문제가 해결되고 있는 것처럼 잘못된 인상을 줄 수 있다고 경고한다. 그러나 적절하게 사용되는 경우, AI 툴은 법 집행 기관이 온라인 판매자와 오프라인 공급망 사이의 연결을 설정하는 데 도움이 될 수 있으며, 문제의 범위를 정량화하는 데 도움이 될 수 있다. 또한 NIDA가 사용하는 기술과 유사한 기술을 사용하여 아편類 중독과 싸울 수 있으며, 검색이 수행될 때 재활 소스를 사용자에게 направ일 수 있다. 모든 혁신과 마찬가지로, рис크와 기회가 모두 존재한다.
