Как хакеры используют искусственный интеллект

Искусственный интеллект доказал себя как технология, добавляющая ценность во всей мировой экономике.

Когда компании были вынуждены адаптироваться к текущим событиям за последние несколько лет, некоторые из них нашли способы сжать полдесятилетия цифровых трансформаций в гораздо более короткий период. В случае Frito-Lay, например, это произошло за 18 месяцев. Harris Poll и Appen обнаружили, что бюджеты на искусственный интеллект увеличились на 55% во время глобальной пандемии.

Как и любой инструмент, искусственный интеллект не имеет внутренней моральной ценности. Полезность или потенциальная вредность искусственного интеллекта зависит от того, как система “учится” и что люди в конечном итоге делают с ним.

Некоторые попытки использовать искусственный интеллект, такие как “предсказание” преступлений до их совершения, показывают, что модели, обученные на предвзятых данных, склонны повторять человеческие недостатки. На данный момент обучение искусственного интеллекта с использованием данных из системы правосудия США привело к трагически предвзятым рассуждениям искусственного интеллекта.

В других примерах люди выбирают более намеренные способы использования разрушительного потенциала искусственного интеллекта. Хакеры демонстрируют свою инновационную направленность снова, используя искусственный интеллект для улучшения эффективности и прибыльности своих атак. И поскольку кибервойна становится все более распространенной во всем мире, мы обязательно увидим дальнейшее развитие применения искусственного интеллекта в хакерстве.

Искусственный интеллект – возможность и риск

Искусственный интеллект предлагает мир возможностей для бизнеса, желающего улучшить прогнозирование, оптимизацию бизнеса и стратегии удержания клиентов. Это также является благом для тех, кто намерен компрометировать цифровую суверенность других.

Вот несколько способов, которыми искусственный интеллект может быть подвержен скрытому вмешательству и более открытым попыткам использовать его для агрессивных действий.

1. Компрометация логики машины

Основное преимущество искусственного интеллекта для потребителей и коммерческих предприятий заключается в том, что он выполняет предсказуемые и повторяющиеся действия логики без вмешательства человека. Это также является его главной слабостью.

Как и любой другой цифровой конструкт, искусственный интеллект может быть подвержен проникновению извне. Хакеры, которые получают доступ и компрометируют логику машины, управляющую искусственным интеллектом, могут заставить его выполнять непредсказуемые или вредные действия. Например, искусственный интеллект, задача которого состоит в мониторинге состояния промышленного оборудования, может предоставить ложные показания или не передать сигналы технического обслуживания.

Поскольку основная цель инвестиций в искусственный интеллект заключается в исключении человеческого вмешательства и сомнений в результатах, вред, причиненный инфраструктуре или качеству продукции в результате атаки такого рода, может не быть обнаружен до катастрофического сбоя.

2. Использование алгоритмов обратного проектирования

Другой потенциальный путь для вреда – особенно когда речь идет об интеллектуальной собственности (ИС) и данных потребителей или коммерции – это понятие обратного проектирования. Хакеры могут даже украсть код искусственного интеллекта. Получив достаточно времени для изучения того, как он работает, они в конечном итоге могут раскрыть наборы данных, использованные для обучения искусственного интеллекта в первую очередь.

Это может привести к нескольким результатам, первый из которых – отравление искусственного интеллекта. Другие примеры могут включать использование хакерами данных обучения искусственного интеллекта для получения компрометирующей информации о рынках, конкурентах, правительствах, поставщиках или обычных потребителях.

3. Изучение намеченных целей

Наблюдение за целями, вероятно, является одним из наиболее тревожных последствий попадания искусственного интеллекта в руки хакеров. Способность искусственного интеллекта делать выводы о способностях человека, знаниях, темпераменте и вероятности подвергнуться нацеливанию, мошенничеству или злоупотреблению вызывает беспокойство у некоторых экспертов по кибербезопасности.

Искусственный интеллект может потреблять и достичь удивительно подробных выводов о людях, командах и группах на основе некоторых из наиболее неожиданных данных. “Занятый” или “отвлеченный” человек может набирать текст быстро, делать движения мышью или переключаться между вкладками браузера быстро. Пользователь, который “замешан” или “колеблется”, может паузу перед кликом на элементы страницы или повторно посетить несколько сайтов.

В правильных руках такие сигналы помогают департаментам кадров повысить вовлеченность сотрудников или помогают маркетинговым командам улучшить свои веб-сайты и продажи.

Для хакеров такие сигналы могут привести к удивительно тонкой психологической картине намеченной цели. Киберпреступники могут определить, какие люди могут быть уязвимы для фишинга, смишинга, программ-вымогателей, финансового мошенничества и других типов вреда. Это также может помочь злоумышленникам узнать, как лучше всего убедить своих целей, что их попытки мошенничества исходят из легитимных источников.

4. Исследование уязвимостей сети

Профессионалы кибербезопасности опубликовали данные о 20 175 известных уязвимостях безопасности в 2021 году. Это было увеличением по сравнению с 2020 годом, когда было 17 049 таких уязвимостей.

Мир становится все более цифровым и взаимосвязанным – некоторые бы сказали, что он становится взаимозависимым – с каждым часом. Сейчас в мире существует огромное количество небольших и промышленных сетей, с миллиардами подключенных устройств в Интернете и еще больше на подходе. Все подключено к Интернету, от датчиков мониторинга состояния до программного обеспечения для планирования предприятия.

Искусственный интеллект показывает перспективы в помощи командам кибербезопасности быстро выявлять уязвимости сети, программного обеспечения и аппаратного обеспечения быстрее, чем люди могли бы сделать это в одиночку. Скорость и масштаб роста цифровой инфраструктуры Земли означают, что почти невозможно найти триллионы строк кода для поиска эксплойтов для патчей. Все это должно происходить, пока эти системы находятся в Интернете из-за стоимости простоя.

Если искусственный интеллект является инструментом кибербезопасности здесь, он также является двузначным мечом. Хакеры могут использовать те же механизмы, что и “белые” ИТ-специалисты, для выполнения той же работы: исследования сетей, программного обеспечения и прошивки на предмет уязвимостей более эффективно, чем ИТ-специалисты могут сделать это.

Цифровая гонка вооружений

Существует слишком много приложений искусственного интеллекта в киберпреступности, чтобы их все перечислить, но вот несколько примеров:

• Хакеры могут скрыть код искусственного интеллекта внутри в целом безобидного приложения, которое выполняет вредоносное поведение, когда обнаруживает предопределенный триггер или порог.
• Зловредные модели искусственного интеллекта могут быть использованы для определения учетных данных или функций управления ИТ отслеживая биометрические данные, такие как отпечатки пальцев и распознавание голоса.
• Даже если попытка кибератаки в конечном итоге терпит неудачу, хакеры, оснащенные искусственным интеллектом, могут использовать машинное обучение для определения того, что пошло не так и что они могли бы сделать по-другому в следующий раз.

Казалось, что достаточно одной хорошо размещенной истории о хакерстве джипа во время его движения, чтобы замедлить развитие автономных транспортных средств до ползания. Одна высокопрофильная хакерская атака, в которой искусственный интеллект выступает в качестве ключевого элемента, может привести к аналогичной эрозии общественного мнения. Некоторые опросы показывают, что средний американец уже очень скептически относится к преимуществам искусственного интеллекта.

Омнипрезентная вычислительная техника несет в себе риски кибербезопасности – и как “белые”, так и “черные” хакеры знают об этом. Искусственный интеллект может помочь сохранить нашу онлайн-жизнь в безопасности, но он также является эпицентром новой цифровой гонки вооружений.