Искусственный интеллект открывает новые возможности для борьбы с незаконной продажей опиоидов и других киберпреступлений

Министерство здравоохранения и социальных служб США (HHS) и Национальный институт по злоупотреблению наркотиками (NIDA) инвестируют в использование искусственного интеллекта для борьбы с незаконной продажей опиоидов и снижения уровня злоупотребления наркотиками. Как сообщает Vox, инструмент NIDA на основе ИИ будет стремиться отслеживать незаконные интернет-аптеки, но подходы, используемые ИИ, могут быть легко применены к другим формам киберпреступности.

Один из исследователей, ответственных за разработку инструмента, Тимоти Макки, недавно говорил с Vox, где было объяснено, что алгоритмы ИИ, используемые для отслеживания незаконной продажи опиоидов, также могут быть использованы для обнаружения других форм незаконных продаж, таких как поддельные продукты и незаконная торговля дикой природой.

Инструмент NIDA на основе ИИ должен уметь различать общую дискуссию об опиоидах и попытки договориться о продаже опиоидов. Согласно Макки, только относительно небольшой процент твитов, ссылающихся на опиоиды, на самом деле связан с незаконной продажей опиоидов. Макки объяснил, что из примерно 600 000 твитов, ссылающихся на один из нескольких разных опиоидов, только около 2 000 действительно рекламировали эти препараты каким-либо образом. Инструмент ИИ также должен быть достаточно прочным, чтобы идти в ногу с изменениями в языке, используемом для незаконного маркетинга опиоидов. Люди, которые незаконно продают наркотики, часто используют кодированный язык и неочевидные ключевые слова для продажи их, и они быстро меняют стратегии. Макки объяснил, что часто используются ошибки в именах препаратов и изображения вещей, не связанных с препаратами, для создания списков на сайтах như Instagram.

Хотя Instagram и Facebook (META ) запрещают маркетинг наркотиков и поощряют пользователей сообщать о случаях злоупотребления, незаконный контент может быть очень трудно обнаружить, именно потому, что продавцы наркотиков часто меняют стратегии и кодовые слова быстро. Макки объяснил, что эти кодированные посты и хэштеги на Instagram обычно содержат информацию о том, как связаться с дилером и купить незаконные наркотики у них. Макки также объяснил, что некоторые незаконные продавцы представляют себя как легитимные фармацевтические компании и ссылаются на электронные коммерческие платформы. Хотя FDA часто пыталась разобраться с этими сайтами, они остаются проблемой.

При разработке инструментов ИИ для обнаружения незаконного маркетинга наркотиков Макки и остальная часть исследовательской команды использовали комбинацию глубокого обучения и моделирования тем. Исследовательская команда разработала модель глубокого обучения, которая использовала сеть Long Short-Term Memory, обученную на тексте постов Instagram, с целью создания текстового классификатора, который мог автоматически помечать посты, которые могли быть связаны с незаконной продажей наркотиков. Исследовательская команда также использовала моделирование тем, позволяя их модели ИИ определять ключевые слова, связанные с опиоидами, такими как Фентанил и Перкоцет. Это может сделать модель более прочной и сложной, и она способна сопоставлять темы и разговоры, а не только отдельные слова. Моделирование тем помогло исследовательской команде сократить набор данных из примерно 30 000 твитов о фентаниле до нескольких твитов, которые, казалось, рекламировали его.

Марки и остальная часть исследовательской команды, возможно, разработали свое приложение ИИ для использования NIDA, но социальные медиа-компании, такие как Facebook, Twitter, Reddit и YouTube, также инвестируют значительные средства в использование ИИ для пометки контента, который нарушает их политику. Согласно Марки, он вел переговоры с Twitter и Facebook о таком применении ранее, но сейчас внимание сосредоточено на создании коммерчески доступного приложения на основе его исследований для NIDA, и он надеется, что инструмент может быть использован социальными медиа-платформами, регулирующими органами и другими.

Марки объяснил, что подход, разработанный для исследований NIDA, может быть обобщен для борьбы с другими формами киберпреступности, такими как торговля животными или незаконная продажа огнестрельного оружия. Instagram ранее имел проблемы с незаконной торговлей животными, запретив рекламу всех продаж животных в 2017 году в качестве ответа. Компания также пытается удалить любые посты, связанные с торговлей животными, как только они появляются, но, несмотря на это, существует продолжающийся черный рынок экзотических питомцев, и объявления о них все еще появляются в поисках Instagram.

Существуют некоторые этические проблемы, которые необходимо решить, если инструмент NIDA будет реализован. Эксперты по наркотической политике предупреждают, что он может привести к чрезмерной криминализации продаж низкоуровневых продавцов наркотиков и что он также может создать ложное впечатление, что проблема решена, хотя такие инструменты ИИ могут не уменьшить общий спрос на вещество. Тем не менее, если использовать их правильно, инструменты ИИ могут помочь правоохранительным органам установить связи между онлайн-продавцами и офлайн-цепочками поставок, помогая им количественно оценить масштаб проблемы. Кроме того, подобные методы, используемые NIDA, могут быть использованы для борьбы с зависимостью от опиоидов, направляя людей к реабилитационным источникам, когда они проводят поиск. Как и в случае с любой инновацией, существуют как риски, так и возможности.