Dlaczego wyszukiwarki Google zasilane przez sztuczną inteligencję promują oprogramowanie szkodliwe?

Czym jest pierwsza rzecz, którą robisz, gdy masz pytanie, na które nikt nie może odpowiedzieć z pewnością? Wyszukujesz to w Google.

Przez lata Google była najczęściej używaną wyszukiwarką na świecie, obsługującą miliardy wyszukiwań każdego dnia. Jednak wyszukiwanie w Google jest najbardziej efektywne, gdy wyszukiwania są proste i konkretnie sformułowane – nie otwarte. Ponadto użytkownicy Google muszą sami nawigować po wynikach wyszukiwania i analizować informacje.

To jest tak, dopóki sztuczna inteligencja generatywna nie weszła w nasze życie.

W maju ubiegłego roku Google wydało Search Generative Experience, lub SGE, funkcję, która wykorzystuje sztuczną inteligencję generatywną, aby uzupełnić, usprawnić i spersonalizować tradycyjne doświadczenie wyszukiwania w sieci. Zamiast musieć rozbić wielowarstwowe pytania na mniejsze i organizować informacje wyjściowe ręcznie, użytkownicy mogą zadawać bardziej złożone pytania i otrzymywać wyczerpujące, zwięzłe wyniki wraz z migawkami odpowiednich linków i sugestiami do dalszego eksplorowania.

Pomimo swojego potencjału, jednak ten dodatek do wyszukiwarki otwiera nowe wektory dla cyberprzestępców do wykorzystania. Ponieważ ludzie i firmy coraz bardziej polegają na wyszukiwarkach zasilanych przez sztuczną inteligencję, takich jak SGE Google, hakierzy znaleźli sposoby na manipulowanie tymi systemami dla własnej korzyści, narażając użytkowników i firmy na ryzyko.

Wykorzystywanie wyszukiwarek

Jeśli chodzi o warstwowanie zabezpieczeń w platformach wyszukiwarki, reputacja może stać na przeszkodzie rzeczywistości. Oznacza to, że zawartość hostowana na szanowanych i bardzo zaufanych stronach jest często analizowana mniej dokładnie przez aktywne rozwiązania bezpieczeństwa sieci niż te, które otrzymują mniej ruchu użytkowników.

Jednym ze sposobów, w jaki cyberprzestępcy wykorzystują tę sytuację, jest uruchamianie kampanii zatruwania wyników wyszukiwania. W takich przypadkach aktorzy zagrożenia tworzą strony zainfekowane oprogramowaniem szkodliwym i wykorzystują techniki optymalizacji wyników wyszukiwania, które wyświetlają te toksyczne linki wśród najlepszych wyników wyszukiwania, zwiększając szansę, że użytkownicy klikną na nie.

Microsoft odkryło takie wykorzystywanie w 2021 roku, gdy hakierzy zalały wyniki wyszukiwania tysiącami stron internetowych zainfekowanych oprogramowaniem szkodliwym SolarMarker, które oferowało różne formularze biurowe jako przynętę dla pracowników biurowych. Hakierzy wykorzystali funkcje SEO napędzane przez sztuczną inteligencję, aby podnieść te zainfekowane strony internetowe na szczyt listy wyników wyszukiwania, aby oszukać nieświadomych użytkowników i nakłonić ich do pobrania ładunku SolarMarker, który następnie ukradłby poświadczenia i utworzyłby ukryte backdoory w systemach użytkowników.

Funkcja SGE Google wyzwala najnowsze wersje podatności wyszukiwarki. Już w zeszłym miesiącu nowy raport wykazał, że algorytm SGE zalecał strony internetowe o charakterze malwersacyjnym, przeznaczone do wyłudzania oszustw phishingowych, wśród innych niecnych działań.

Niebezpieczeństwo przeglądarki

Obok niewystarczających zabezpieczeń, narzędzia takie jak SGE dostarczają hakerom sentymentu, który mogą wykorzystać: zaufanie użytkowników. Osoby i przedsiębiorstwa często zaniżają znaczenie przeglądarek internetowych jako punktu wejścia dla ataków malwersacyjnych, a renomowane wyszukiwarki internetowe wypracowały znaczną ilość zaufania, w wyniku czego wiele użytkowników nie myśli dwa razy, zanim otworzy wyniki wyszukiwania, które otrzymują.

W efekcie hakierzy coraz częściej atakują przeglądarki internetowe – a wraz z nimi wyszukiwarki – aby uzyskać dostęp do wrażliwych, osobistych lub firmowych informacji w coraz bardziej wyrafinowanych sposobach, co utrudnia użytkownikom i platformom wykrywania zagrożeń. Podstawowe środki bezpieczeństwa przeglądarki mogą być mylone i uznawać strony internetowe o charakterze malwersacyjnym za nieszkodliwe, umożliwiając tym stronom uniknięcie proaktywnego wykrywania i umieszczenie w „bezpiecznej liście” rozwiązania zabezpieczeń przed blokadą strony. Ale do tego czasu użytkownicy mogli już paść ofiarą oszustwa.

Chociaż leży to w gestii wyszukiwarek, aby zabezpieczyć swoje platformy i zapewnić bezpieczne i autentyczne wyniki dla swoich użytkowników, organizacje i osoby fizyczne muszą również zachować ostrożność. Chociaż obecne rozwiązania zabezpieczeń są coraz lepsze w wykrywaniu treści malwersacyjnych, hakierzy szybko się adaptują, często renderując nowe podejścia do wykrywania zagrożeń nieskutecznymi.

Na przykład hakierzy zaczęli wykorzystywać samozmieniający się kod polimorficzny, aby ukryć swoje pułapki malwersacyjne przed najnowszymi metodami wykrywania przeglądarki. To stanowi poważne przeszkody dla tradycyjnych protokołów zabezpieczeń, podobnie jak ataki phishingowe nowej generacji, które wykorzystują wyrafinowane techniki inżynierii społecznej, aby oszukać użytkowników i wyłudzić od nich wrażliwe informacje.

Zmodernizuj środki bezpieczeństwa

Wyszukiwarki generatywne są błogosławieństwem dla dzisiejszych użytkowników internetu, ale otwierają także puszkę Pandory, której tradycyjne rozwiązania zabezpieczeń sieci jeszcze nie są w stanie rozwiązać. Jest jasne, że nawet bardzo renomowane platformy wyszukiwarki, takie jak Google, potrzebują bardziej dynamicznego rozwiązania. Na szczęście rozwiązania zabezpieczeń oparte na rozszerzeniach przeglądarki wzniosły się na tę okazję.

Te rozwiązania oferują dynamiczne podejście do zabezpieczeń przeglądarki, które mogą sprawdzić niemal każdy aspekt zawartości strony internetowej wyświetlanej bezpośrednio w interfejsie przeglądarki. Tekst, obrazy i skrypty są jednymi z wielu elementów, które te rozwiązania analizują.

Rozwiązania oparte na rozszerzeniach wykorzystują również algorytmy uczenia maszynowego i widzenia komputerowego do analizy kodu strony internetowej, połączeń sieciowych i rozpoznawalnych wzorców związanych z próbami phishingu i pułapkami malwersacyjnymi. Jednym z kluczowych zalet wykrywania opartego na rozszerzeniach jest możliwość obserwowania malwersacyjnych stron internetowych i pobierania zawartości z perspektywy użytkownika, czekając cierpliwie, aż zawartość malwersacyjna zostanie ujawniona. Z takimi zaawansowanymi możliwościami te rozwiązania mogą wykryć i powstrzymać nawet najbardziej wyrafinowane i uchylnе taktyki, w tym zatruwanie wyników wyszukiwania, przekierowania, fałszywe captchy zaprojektowane do oszukania użytkowników i malvertising.

Przez ciągłe monitorowanie i proaktywne identyfikowanie taktyk zagrożeń i podatności, nowoczesne rozwiązania zabezpieczeń oparte na rozszerzeniach robią to, czego nie robią poprzednie rozwiązania: blokują malwersacyjne strony w czasie rzeczywistym. To zabezpiecza użytkowników przed padnięciem ofiarą oszustw internetowych i wirusów komputerowych, tworząc bezpieczniejsze środowisko przeglądania i wyszukiwania dla wszystkich.

Bezpieczne surfowanie po sieci

Dla każdego nowego przypadku użycia sztucznej inteligencji nowe podatności przypominają nam o solidnym zabezpieczeniu, które jest wymagane, aby bezpiecznie korzystać z tej przełomowej technologii.

Wyszukiwarki nie są wyjątkiem.

Firmy muszą upewnić się, że funkcje napędzane przez sztuczną inteligencję generatywną, które wdrożono, nie mogą być używane przeciwko ludziom, których mają wspomagać. Przecież wyszukiwarki są jednymi z najczęściej odwiedzanych stron w Internecie, a tradycyjne rozwiązania zabezpieczeń sieci, które mają je chronić, nadal cierpią na luki zabezpieczeń.

Chociaż żaden system zabezpieczeń nie jest idealny, operatorzy wyszukiwarek, którzy wdrożą zaawansowane technologie wykrywania i staranne mechanizmy skanowania zawartości w punkcie kliknięcia przeglądarki, dają użytkownikom najlepszą szansę na bezpieczne surfowanie po sieci, unikając oprogramowania szkodliwego i kampanii inżynierii społecznej wspomaganych przez sztuczną inteligencję.