Dlaczego wyszukiwarki Google zasilane przez sztuczną inteligencję promują oprogramowanie szkodliwe?

Co robisz jako pierwsze, gdy masz pytanie, na które nikt nie może odpowiedzieć z pewnością? Wyszukaj to w Google.

Przez lata Google był najczęściej używaną wyszukiwarką przez niezliczoną ilość użytkowników na całym świecie, obsługując miliardy wyszukiwań każdego dnia. Jednak wyszukiwanie w Google jest najbardziej efektywne, gdy wyszukiwania są proste i szczegółowe – a nie otwarte. Użytkownicy Google nadal muszą nawigować po wynikach wyszukiwania i analizować informacje samodzielnie.

To jest, dopóki Generative AI nie wszedł w nasze życie.

W maju ubiegłego roku Google wydał swoje Search Generative Experience, lub SGE, funkcję, która wykorzystuje generatywną sztuczną inteligencję do uzupełnienia, uproszczenia i personalizacji tradycyjnego doświadczenia wyszukiwania online. Zamiast musieć rozbić wielowarstwowe pytania na mniejsze i organizować informacje wyjściowe ręcznie, użytkownicy mogą zadawać bardziej złożone pytania i otrzymywać wyczerpujące, zwięzłe wyniki wraz z migawkami istotnych linków i sugestiami do dalszego eksplorowania.

Pomimo swojego potencjału, jednak ten dodatek do wyszukiwarki otwiera nowe wektory dla cyberprzestępców do wykorzystania. W miarę jak ludzie i firmy coraz bardziej polegają na wyszukiwarkach zasilanych przez sztuczną inteligencję, takich jak SGE Google, hakierzy znaleźli sposoby na manipulowanie tymi systemami dla własnej korzyści, narażając użytkowników i firmy na ryzyko.

Wykorzystywanie wyszukiwarki

Jeśli chodzi o warstwowanie zabezpieczeń w platformach wyszukiwarki, reputacja może stać na przeszkodzie rzeczywistości. Oznacza to, że zawartość hostowana na szanowanych i bardzo zaufanych stronach jest często analizowana mniej dokładnie przez aktywne rozwiązania bezpieczeństwa sieci niż te, które otrzymują mniej ruchu użytkowników.

Jednym ze sposobów, w jaki cyberprzestępcy wykorzystują to, jest uruchamianie kampanii zatruwania SEO. W tych przypadkach, aktorzy zagrożeń tworzą strony zainfekowane oprogramowaniem szkodliwym i wykorzystują techniki optymalizacji wyszukiwarki, które wyświetlają te toksyczne linki wśród najlepszych wyników wyszukiwania, zwiększając szansę, że użytkownicy klikną na nie.

Microsoft odkrył takie wykorzystanie w 2021 roku, gdy hakierzy zalały wyniki wyszukiwania tysiącami stron internetowych zainfekowanych oprogramowaniem szkodliwym SolarMarker remote access trojan (RAT), które oferowało różne formularze szablonów biurowych jako przynętę dla pracowników biurowych. Hakierzy wykorzystali funkcje SEO napędzane przez sztuczną inteligencję, aby podnieść te zainfekowane strony internetowe na szczyt listy wyników wyszukiwania, aby oszukać nieświadomych użytkowników i nakłonić ich do pobrania ładunku SolarMarker, który następnie ukradłby poświadczenia i utworzyłby ukryte backdoory w systemach użytkowników.

Funkcja SGE Google wyzwala najnowsze wersje podatności wyszukiwarki. W zeszłym miesiącu nowy raport wykazał, że algorytm SGE rekomendował strony internetowe o charakterze szkodliwym, przeznaczone do uwięzienia użytkowników w oszustwach phishingowych, wśród innych niecnych działań.

Niebezpieczeństwo przeglądarki

Oprócz niewystarczającego zabezpieczenia, narzędzia takie jak SGE zapewniają hakierom sentyment, który mogą wykorzystać: zaufanie użytkownika. Osoby i przedsiębiorstwa często zaniżają przeglądarki internetowe jako punkt wejścia dla ataków szkodliwych, a renomowane wyszukiwarki internetowe wypracowały znaczną ilość zaufania, dzięki czemu wiele użytkowników nie myśli dwa razy, zanim otworzy wyniki wyszukiwania, które otrzymują.

W wyniku tego hakierzy atakują przeglądarki internetowe – a wraz z nimi wyszukiwarki – w sposób coraz bardziej wyrafinowany, aby uzyskać dostęp do wrażliwych, osobistych lub firmowych informacji, co utrudnia użytkownikom i platformom wykrywania zagrożeń nadążanie. Podstawowe środki bezpieczeństwa przeglądarki mogą być mylone i uznawać szkodliwe strony internetowe za nieszkodliwe, umożliwiając tym stronom uniknięcie proaktywnego wykrycia i znalezienie się na liście „bezpiecznych” przed blokadą przez zabezpieczenia. Ale do tego czasu użytkownicy mogli już paść ofiarą oszustwa.

Chociaż jest to obowiązek wyszukiwarek, aby zabezpieczyć swoje platformy i zapewnić bezpieczne i autentyczne wyniki dla swoich użytkowników, organizacje i osoby fizyczne muszą również zachować ostrożność. Chociaż obecne rozwiązania bezpieczeństwa są coraz lepsze w wykrywaniu szkodliwej zawartości, hakierzy są szybcy w adaptacji, często czyniąc „nowe” podejścia do wykrywania zagrożeń nieskutecznymi w krótkim czasie.

Na przykład, hakierzy zaczęli wykorzystywać samozmieniający się kod polymorphic, aby ukryć swoje pułapki oprogramowania szkodliwego przed najnowszymi metodami wykrywania przeglądarki. To stanowi ogromne przeszkody dla tradycyjnych protokołów bezpieczeństwa, podobnie jak ataki phishingowe następnej generacji, które wykorzystują wyrafinowane techniki inżynierii społecznej, aby oszukać użytkowników i nakłonić ich do ujawnienia wrażliwych informacji.

Zmodernizuj środki bezpieczeństwa

Wyszukiwarki generatywne są błogosławieństwem dla dzisiejszych użytkowników internetu, ale również otwierają puszkę Pandory, której tradycyjne rozwiązania bezpieczeństwa sieci nie są jeszcze w stanie rozwiązać. Jest jasne, że nawet bardzo renomowane platformy wyszukiwarki, takie jak Google, potrzebują bardziej dynamicznego rozwiązania. Na szczęście, rozwiązania bezpieczeństwa oparte na rozszerzeniach przeglądarki wyrównały się z okazją.

Te rozwiązania oferują dynamiczne podejście do bezpieczeństwa przeglądarki, które może sprawdzić niemal każdy aspekt zawartości strony internetowej wyświetlanej bezpośrednio w interfejsie przeglądarki. Tekst, obrazy i skrypty są jednymi z wielu elementów, które te rozwiązania analizują.

Rozwiązania oparte na rozszerzeniach wykorzystują również algorytmy uczenia maszynowego i komputerowego widzenia, aby analizować kod strony internetowej, połączenia sieciowe i rozpoznawalne wzorce związane z próbami phishingowych i pułapkami oprogramowania szkodliwego. Jedną z głównych zalet wykrywania opartego na rozszerzeniach jest możliwość obserwowania szkodliwych stron internetowych i pobierania plików z perspektywy użytkownika, czekając cierpliwie, aż szkodliwa zawartość zostanie ujawniona. Dzięki takim zaawansowanym możliwościom, te rozwiązania mogą wykryć i powstrzymać nawet najbardziej wyrafinowane i uciekające taktyki, w tym zatruwanie SEO, przekierowania, fałszywe captchy zaprojektowane w celu oszukania użytkowników oraz malvertising.

Przez ciągłe monitorowanie i proaktywne identyfikowanie taktyk zagrożeń i podatności, nowoczesne rozwiązania bezpieczeństwa oparte na rozszerzeniach robią to, czego nie robią poprzednie rozwiązania: blokują szkodliwe strony w czasie rzeczywistym. To zabezpiecza użytkowników przed padnięciem ofiarą oszustw internetowych i wirusów komputerowych, tworząc bezpieczniejsze środowisko przeglądania i wyszukiwania dla wszystkich.

Bezpiecznie przeglądaj sieć

Dla każdego nowego przypadku użycia sztucznej inteligencji, nowe podatności przypominają nam o solidnym bezpieczeństwie, które jest wymagane, aby korzystać z tej przełomowej technologii w sposób bezpieczny.

Wyszukiwarki nie są wyjątkiem.

Firmy muszą zapewnić, że funkcje zasilane przez generatywną sztuczną inteligencję, które wdrożą, nie mogą być użyte przeciwko ludziom, których mają wspomagać. W końcu wyszukiwarki są jednymi z najczęściej odwiedzanych stron w Internecie, a tradycyjne rozwiązania bezpieczeństwa sieci, które mają je chronić, nadal cierpią na luki w zabezpieczeniach.

Chociaż żaden system zabezpieczeń nie jest idealny, operatorzy wyszukiwarki, którzy wdrożą zaawansowane technologie wykrywania i staranne mechanizmy skanowania zawartości w punkcie kliknięcia przeglądarki, dają użytkownikom najlepszą szansę na bezpieczne przeglądanie sieci, unikając oprogramowania szkodliwego i kampanii inżynierii społecznej wspomaganych przez sztuczną inteligencję.