Как хакеры используют искусственный интеллект

Искусственный интеллект доказал себя как технология, добавляющая ценность во всей глобальной экономике.

Когда бизнесы оказались в ситуации, когда им пришлось адаптироваться к текущим событиям за последние несколько лет, некоторые из них нашли способы втиснуть половину десятилетия цифровых преобразований в гораздо более короткий период времени. В случае Frito-Lay – цифровые преобразования за гораздо более короткий период времени. Harris Poll и Appen обнаружили, что бюджеты на искусственный интеллект увеличились на 55% во время глобальной пандемии.

Как и любой инструмент, искусственный интеллект не имеет врожденной моральной ценности. Полезность или потенциальная вредность искусственного интеллекта зависит от того, как система “учится” и что люди в конечном итоге делают с ним.

Некоторые попытки использовать искусственный интеллект – такие как “предсказание” преступлений до их совершения – показывают, что модели, обученные на предвзятых данных, склонны повторять человеческие недостатки. До сих пор обучение искусственного интеллекта с использованием данных из системы правосудия США привело к трагически предвзятым рассуждениям искусственного интеллекта.

В других примерах люди выбирают более намеренные способы использования разрушительного потенциала искусственного интеллекта. Хакеры снова демонстрируют свою инновационную тенденцию, используя искусственный интеллект для улучшения их атак по охвату, эффективности и прибыльности. И посколькукибервойна становится все более распространенной по всему миру, мы обязательно увидим дальнейшее развитие применения искусственного интеллекта в хакерстве.

Искусственный интеллект – это возможность и риск

Искусственный интеллект предоставляет мир возможностей для бизнеса, желающего улучшить прогнозирование, оптимизацию бизнеса и стратегии удержания клиентов. Это также является благом для тех, кто намерен компрометировать цифровую суверенность других.

Вот несколько способов, которыми искусственный интеллект может быть уязвим для скрытного вмешательства и более открытых усилий по его использованию для агрессивных действий.

1. Компрометация логики машины

Основное преимущество искусственного интеллекта для потребителей и коммерческих предприятий заключается в том, что он выполняет предсказуемые и повторяющиеся акты логики без человеческого вмешательства. Это также является его главной слабостью.

Как и любой другой цифровой конструкт, искусственный интеллект может быть уязвим для проникновения извне. Хакеры, которые получают доступ и компрометируют логику машины, обеспечивающую работу искусственного интеллекта, могут вызвать его выполнение непредсказуемых или вредных действий. Например, искусственный интеллект, задача которого состоит в контроле состояния промышленного оборудования, может предоставить ложные показания или не передать сигналы технического обслуживания.

Поскольку вся суть инвестиций в искусственный интеллект заключается в исключении человеческого вмешательства и сомнений в результатах, вред, причиненный инфраструктуре или качеству продукции в результате атаки такого рода, может не быть замечен до катастрофического сбоя.

2. Использование алгоритмов обратного проектирования

Другой потенциальный путь для вреда – особенно когда речь идет об интеллектуальной собственности (ИС) и данных потребителей или коммерческих данных – является понятие обратного проектирования. Хакеры могут даже украсть сам код искусственного интеллекта. С достаточным временем для изучения того, как он работает, они в конечном итоге могут обнаружить наборы данных, использованные для обучения искусственного интеллекта в первую очередь.

Это может привести к нескольким результатам, первый из которых – отравление искусственного интеллекта. Другие примеры могут включать использование хакерами данных обучения искусственного интеллекта для получения компрометирующей информации о рынках, конкурентах, правительствах, поставщиках или обычных потребителях.

3. Изучение намеченных целей

Наблюдение за целями, вероятно, является одним из наиболее тревожных последствий попадания искусственного интеллекта в руки хакеров. Способность искусственного интеллекта делать выводы о способностях человека, знаниях, темпераменте и вероятности стать жертвой нацеливания, мошенничества или злоупотребления вызывает беспокойство у некоторых экспертов по кибербезопасности.

Искусственный интеллект может принять и достичь удивительно подробных выводов о людях, командах и группах на основе некоторых из самых невероятных точек данных. “Занятый” или “отвлеченный” человек может быстро набирать текст, шевелить мышкой или быстро переключаться между вкладками браузера. Пользователь, который “запутался” или “колеблется”, может паузу перед нажатием на элементы страницы или повторно посетить несколько сайтов.

В правильных руках такие сигналы помогают отделам кадров повысить вовлеченность сотрудников или помогают маркетинговым командам отполировать свои веб-сайты и продажные воронки.

Для хакеров такие сигналы могут привести к удивительно нюансированному психологическому профилю намеченной цели. Киберпреступники могут определить, какие люди могут быть уязвимы для фишинга, смишинга, программ-вымогателей, финансового мошенничества и других типов вреда. Это также может помочь злоумышленникам узнать, как лучше всего убедить своих целей, что их попытки мошенничества исходят из легитимных источников.

4. Исследование уязвимостей сети

Профессионалы по кибербезопасности опубликовали данные о 20 175 известных уязвимостях безопасности в 2021 году. Это было увеличением по сравнению с 2020 годом, когда было 17 049 таких уязвимостей.

Мир становится все более цифровым – некоторые бы сказали, что он становится все более взаимозависимым – с каждым часом. Мир теперь содержит ошеломляющее количество небольших и промышленных сетей, с миллиардами подключенных устройств в сети и еще больше на подходе. Все находится в сети, от датчиков контроля состояния до программного обеспечения для планирования предприятия.

Искусственный интеллект показывает перспективы в помощи командам по кибербезопасности быстро исследовать уязвимости сети, программного обеспечения и аппаратного обеспечения быстрее, чем люди могли бы в одиночку. Скорость и масштаб роста цифровой инфраструктуры Земли означают, что практически невозможно искать триллионы строк кода для поиска уязвимостей безопасности для исправления. Все это должно происходить, пока эти системы находятся в сети из-за стоимости простоя.

Если искусственный интеллект является инструментом кибербезопасности здесь, он также является двузначным мечом. Хакеры могут использовать те же механизмы, что и “белые шляпы” из ИТ-кругов, для выполнения той же работы: исследования уязвимостей сети, программного обеспечения и прошивки более эффективно, чем могут человеческие ИТ-специалисты.

Цифровые войны

Существует слишком много приложений искусственного интеллекта в киберпреступности, чтобы назвать их все, но вот несколько больше:

• Хакеры могут скрыть код искусственного интеллекта внутри в целом безобидного приложения, которое выполняет вредоносное поведение, когда обнаруживает предварительно определенный триггер или порог.
• Злонамеренные модели искусственного интеллекта могут быть использованы для определения учетных данных или функций управления ИТ мониторинг биометрических данных, таких как отпечатки пальцев и распознавание голоса.
• Даже если попытка кибератаки в конечном итоге терпит неудачу, хакеры, оснащенные искусственным интеллектом, могут использовать машинное обучение для определения того, что пошло не так и что они могли бы сделать по-другому в следующий раз.

Казалось, что достаточно было одной хорошо размещенной истории о хакерстве джипа во время его движения, чтобы замедлить развитие автономных транспортных средств до минимума. Одна высокопрофильная хакерская атака, в которой искусственный интеллект выступает в качестве ключевого элемента, может привести к аналогичной эрозии общественного мнения. Некоторые опросы показывают, что средний американец очень сомнительно относится к преимуществам искусственного интеллекта уже.

Всепроникающая вычислительная техника несет в себе риски кибербезопасности – и как белые, так и черные шляпы знают об этом. Искусственный интеллект может помочь сохранить нашу онлайн-жизнь в безопасности, но он также является эпицентром новой цифровой войны.