Почему поисковые запросы Google, работающие на ИИ, продвигают вредоносное ПО?

Что вы делаете, когда у вас есть вопрос, на который никто не может ответить уверенно? Используйте Google.

На протяжении многих лет Google был основным поисковым движком для бесчисленных пользователей во всем мире, обрабатывая миллиарды поисковых запросов каждый день. Однако поиск в Google наиболее эффективен, когда запросы просты и конкретны, а не открытые. И пользователям Google все равно необходимо самостоятельно ориентироваться в результатах поиска и анализировать информацию.

До тех пор, пока генеративный ИИ не вошел в нашу жизнь.

В мае прошлого года Google выпустил Поисковый опыт с генеративным ИИ, или SGE, функцию, которая использует генеративный ИИ для дополнения, оптимизации и персонализации традиционного онлайн-опыта поиска. Вместо того, чтобы разбивать многослойные вопросы на более мелкие и организовывать информацию вручную, пользователи могут задавать более сложные вопросы и получать полные, краткие результаты вместе со снимками соответствующих ссылок и предложениями для дальнейшего изучения.

Несмотря на свой потенциал, однако, это улучшение поискового движка открывает новые векторы для киберпреступников, чтобы использовать их. По мере того, как люди и бизнес все больше полагаются на поисковые системы, работающие на ИИ, такие как SGE Google, хакеры находят способы манипулировать этими системами для своей выгоды, подвергая пользователей и компании риску.

Эксплуатация поисковых систем

Когда речь идет о добавлении безопасности в платформы поисковых систем, репутация может мешать реальности. Это означает, что содержимое, размещенное на хорошо известных и высоко доверенных сайтах, часто проверяется менее тщательно активными веб-решениями безопасности, чем те, которые получают меньше трафика пользователей.

Одним из способов, которыми киберпреступники пользуются этим, является запуск кампаний по отравлению SEO. В этих случаях злоумышленники создают сайты, зараженные вредоносным ПО, и используют техники оптимизации для поисковых систем, чтобы отображать эти токсичные ссылки среди лучших результатов поиска, увеличивая вероятность того, что пользователи кликнут на них.

Microsoft обнаружил такое использование в 2021 году, когда хакеры наводнили результаты поиска тысячами веб-страниц, зараженных троянским конем SolarMarker, который предлагал различные формы офисных шаблонов в качестве приманки для офисных работников. Хакеры использовали функции ИИ, управляемые SEO, чтобы поднять эти зараженные веб-страницы в верхнюю часть списка результатов поиска, чтобы обмануть неосведомленных пользователей и заставить их скачать полезную нагрузку SolarMarker, которая затем украдет учетные данные и установит скрытые бэкдоры в системах пользователей.

Функция SGE Google запускает последние итерации уязвимостей поисковых систем. Только в прошлом месяце новый отчет показал, что алгоритм SGE рекомендует вредоносные веб-сайты, предназначенные для того, чтобы заманить пользователей в фишинговые аферы, среди других зловещих действий.

Небезопасность браузера

Вместе с недостаточной безопасностью инструменты, такие как SGE, предоставляют хакерам настроение, которое они могут использовать: доверие пользователей. Люди и предприятия часто недооценивают веб-браузеры как точку входа для вредоносных атак, и репутационные веб-ориентированные поисковые системы культивировали значительное количество доверия, поэтому многие пользователи не задумываются дважды, прежде чем открывать результаты поиска, которые они получают.

В результате хакеры нацеливаются на веб-браузеры – и внутри них, поисковые системы – более последовательно, чтобы получить доступ к конфиденциальной, личной или корпоративной информации все более сложными способами, что делает трудным для конечных пользователей и платформ обнаружения угроз идти в ногу. Базовые меры безопасности браузера могут быть обмануты, чтобы считать вредоносные веб-сайты безобидными, что позволяет таким сайтам избежать активного обнаружения и устроиться в “безопасный список” до того, как защиты могут заблокировать сайт. Но к тому времени пользователи могли уже стать жертвами аферы.

Хотя поисковым системам необходимо обеспечить безопасность своих платформ и гарантировать безопасные и аутентичные результаты для своих пользователей, организации и люди должны проявлять осторожность. Хотя текущие решения безопасности становятся лучше в обнаружении вредоносного контента, хакеры быстро адаптируются, часто делая “новые” подходы к обнаружению угроз неэффективными быстро.

Например, хакеры начали использовать самоперестраиваемый полиморфный код, чтобы скрыть свои ловушки с вредоносным ПО от последних методов обнаружения браузера. Это представляет собой грозную преграду для традиционных протоколов безопасности, как и фишинговые атаки следующего поколения, которые используют сложные социальные инженерные техники, чтобы обмануть пользователей и заставить их раскрыть конфиденциальную информацию.

Модернизация мер безопасности

Генеративные поисковые системы – это благо для сегодняшних пользователей Интернета, но они также открывают банку червей, которую традиционные решения веб-безопасности еще не готовы решить. Ясно, что даже очень репутационные поисковые платформы, такие как Google, нуждаются в более динамичном решении. К счастью, решения безопасности на основе расширений для браузера поднялись на эту задачу.

Эти решения предлагают динамичный подход к безопасности браузера, способный проверять почти каждый аспект содержимого веб-сайта, отображаемого直接 в интерфейсе браузера. Текст, изображения и скрипты – это лишь некоторые из элементов, которые эти решения проверяют.

Решения на основе расширений также используют алгоритмы машинного обучения и компьютерного зрения для анализа кода веб-сайта, сетевых подключений и узнаваемых закономерностей, связанных с попытками фишинга и вредоносным ПО. Одним из ключевых преимуществ обнаружения на основе расширений является возможность наблюдать вредоносные веб-сайты и загрузки с точки зрения пользователя, ожидая терпеливо, пока вредоносный контент не будет раскрыт. С такими мощными возможностями эти решения могут обнаружить и предотвратить даже самые сложные и уклончивые тактики, включая отравление SEO, перенаправления, фальшивые капчи, разработанные для обмана пользователей, и вредоносную рекламу.

Благодаря непрерывному мониторингу и активной идентификации тактик и уязвимостей угроз современные решения безопасности на основе расширений делают то, чего не делают предыдущие решения: блокируют вредоносные сайты в реальном времени. Это защищает пользователей от того, чтобы стать жертвами онлайн-афер и компьютерных вирусов, создавая более безопасную среду для просмотра и поиска для всех.

Безопасный просмотр веб-страниц

Для каждого нового случая использования ИИ новые уязвимости напоминают нам о прочной кибербезопасности, которая необходима для безопасного использования этой трансформирующей технологии.

Поисковые системы не являются исключением.

Компаниям необходимо обеспечить, чтобы функции, работающие на ИИ, которые они развертывают, не могли быть использованы против людей, которым они должны приносить пользу. Ведь поисковые системы являются среди наиболее посещаемых сайтов в Интернете, и традиционные решения веб-безопасности, предназначенные для их защиты, все еще страдают от пробелов в безопасности.

Хотя нет идеальной системы безопасности, операторы поисковых систем, которые развертывают передовые технологии обнаружения и тщательные механизмы сканирования контента в момент клика браузера, дают пользователям лучший шанс безопасно просматривать веб-страницы, избегая вредоносного ПО и кампаний социальной инженерии, усиленных ИИ.