Эксперты в области ИИ оценивают глубокие фейки и 19 других преступлений на основе ИИ по уровню опасности

Недавно опубликованный отчет Университета Колледжа Лондона направлен на выявление различных способов, которыми ИИ потенциально может помочь преступникам в течение следующих 15 лет. В отчете 31 эксперт в области ИИ оценил 20 различных методов использования ИИ для совершения преступлений и ранжировал их по различным факторам. Эксперты в области ИИ оценивали преступления по переменным, таким как легкость совершения преступления, потенциальный вред обществу, сумма денег, которую преступник может получить, и сложность предотвращения преступления. Согласно результатам отчета, глубокие фейки представляют наибольшую угрозу для законопослушных граждан и общества в целом, поскольку их потенциал для эксплуатации преступниками и террористами высок.

Эксперты в области ИИ поставили глубокие фейки на первое место в списке потенциальных угроз ИИ, поскольку они трудно выявляются и противодействуются. Глубокие фейки постоянно улучшаются в обмане даже глаз экспертов по глубоким фейкам, и другие методы ИИ для обнаружения глубоких фейков часто ненадежны. В плане их потенциала для вреда глубокие фейки легко могут быть использованы злоумышленниками для дискредитации доверенных экспертов или для попытки обмануть людей, выдавая себя за близких или других доверенных лиц. Если глубокие фейки будут распространены, люди могут начать терять доверие к любым аудио- или видеоматериалам, что может привести к потере веры в действительность реальных событий и фактов.

Доктор Мэтью Кэлдвелл из УCL Computer Science был первым автором статьи. Кэлдвелл подчеркивает растущую опасность глубоких фейков, поскольку все больше нашей деятельности перемещается в Интернет. Как цитируется Кэлдвелл в UCL News:

«В отличие от многих традиционных преступлений, преступления в цифровой сфере могут быть легко共享ены, повторены и даже проданы, что позволяет преступникам продавать и предоставлять преступления как услугу. Это означает, что преступники могут иметь возможность передать более сложные аспекты своих преступлений на основе ИИ».

Команда экспертов оценила пять других появляющихся технологий ИИ как высоко тревожные потенциальные катализаторы новых видов преступлений: использование беспилотных транспортных средств в качестве оружия, хакерские атаки на системы и устройства, управляемые ИИ, сбор данных в Интернете для целей шантажа, фишинг на основе ИИ с индивидуальными сообщениями и фейковые новости/дезинформация в целом.

По словам Шейна Джонсона, директора Центра будущих преступлений в УCL, целью исследования было выявление возможных угроз, связанных с новыми появляющимися технологиями, и гипотеза о способах опережать эти угрозы. Джонсон говорит, что по мере увеличения скорости технологических изменений важно «предвидеть будущие угрозы преступности, чтобы политики и другие заинтересованные стороны могли действовать до возникновения новых «урожаев преступности»».

Что касается четырнадцати других возможных преступлений в списке, они были разделены на две категории: умеренная обеспокоенность и низкая обеспокоенность.

Преступления на основе ИИ, вызывающие умеренную обеспокоенность, включают неправильное использование военных роботов, отравление данных, атакующие беспилотники, обучающие кибератаки, атаки на отказ в обслуживании для онлайн-активностей, манипулирование финансовыми/фондовыми рынками, «змеиное масло» (продажа мошеннических услуг под видом ИИ/МЛ-терминологии) и обман распознавания лиц.

Преступления на основе ИИ, вызывающие низкую обеспокоенность, включают подделку искусства или музыки, преследование с помощью ИИ, фейковые отзывы, написанные ИИ, уклонение от методов обнаружения ИИ и «воровские боты» (боты, которые проникают в дома людей, чтобы украсть вещи).

Конечно, сами модели ИИ могут быть использованы для борьбы с некоторыми из этих преступлений. Недавно модели ИИ были развернуты для помощи в обнаружении схем отмывания денег, обнаружении подозрительных финансовых транзакций. Результаты анализируются человеческими операторами, которые затем подтверждают или отклоняют предупреждение, и обратная связь используется для лучшей тренировки модели. Вероятно, что будущее будет включать в себя противостояние ИИ друг другу, когда преступники будут пытаться разработать лучшие инструменты, основанные на ИИ, а безопасность, правоохранительные органы и другие этические разработчики ИИ будут пытаться разработать свои лучшие системы ИИ.