Jak hakery wykorzystują sztuczną inteligencję

Sztuczna inteligencja okazała się technologią dodającą wartość w całej globalnej gospodarce.

Podczas gdy firmy starały się dostosować do bieżących wydarzeń w ciągu ostatnich kilku lat, niektóre z nich znalazły sposoby, aby wcisnąć pięcioletnią transformację cyfrową w znacznie krótszy okres. W przypadku Frito-Lay, na przykład, wzrosły budżety na AI o 55% podczas pandemii.

Jak każdy narzędzie, sztuczna inteligencja nie ma wrodzonej wartości moralnej. Przydatność lub potencjał szkodliwości AI zależy od tego, jak system “uczy się” i co ludzie ostatecznie z nim robią.

Niektóre próby wykorzystania AI, takie jak “przewidywanie” przestępstw przed ich wystąpieniem, pokazują, że modele szkoleniowe na tendencyjnych danych mają tendencję do powielania ludzkich słabości. Do tej pory szkolenie AI przy użyciu danych z amerykańskiego systemu sprawiedliwości skutkowało tragicznie uprzedzonymi wnioskowaniami AI.

W innych przypadkach ludzie wybierają bardziej celowe sposoby wykorzystania destrukcyjnego potencjału AI. Hakierzy pokazują swoje innowacyjne tendencje, używając sztucznej inteligencji do poprawy zasięgu, skuteczności i opłacalności swoich ataków. A gdy wojna cybernetyczna staje się coraz bardziej powszechna na całym świecie, z pewnością zobaczymy dalszy rozwój zastosowań AI w hakowaniu.

AI to szansa i ryzyko

Sztuczna inteligencja oferuje świat możliwości dla firm, które chcą poprawić prognozowanie, optymalizację biznesu i strategie retencji klientów. Jest to również źródło dochodu dla tych, którzy chcą naruszyć suwerenność cyfrową innych.

Oto kilka sposobów, w jakie sztuczna inteligencja może być podatna na dyskretną ingerencję i bardziej jawne próby wykorzystania jej do agresywnych działań.

1. Naruszanie logiki maszynowej

Główną zaletą AI dla konsumentów i przedsiębiorstw jest to, że wykonuje przewidywalne i powtarzalne akty logiki bez ingerencji ludzkiej. To jest również jej największa słabość.

Jak każda inna konstrukcja cyfrowa, AI może być podatna na penetrację przez zewnętrzne siły. Hakierzy, którzy uzyskają dostęp i naruszą logikę maszynową napędzającą AI, mogą spowodować, że będzie ona wykonywać nieprzewidywalne lub szkodliwe działania. Na przykład, AI odpowiedzialna za monitorowanie stanu technicznego maszyn przemysłowych może dostarczyć fałszywe odczyty lub nieprzekazać sygnałów konserwacyjnych.

Ponieważ cały cel inwestycji w AI polega na wyeliminowaniu ingerencji ludzkiej i wątpienia w wyniki, szkody spowodowane przez atak tego rodzaju mogą nie być zauważone aż do katastrofalnego awarii.

2. Wykorzystanie algorytmów inżynierii wstecznej

Innym potencjalnym kanałem szkodliwości – zwłaszcza w przypadku własności intelektualnej (IP) i danych konsumentów lub firm – jest pojęcie inżynierii wstecznej. Hakierzy mogą nawet ukraść sam kod AI. Po dostatecznie długim czasie studiowania, jak działa, mogliby ostatecznie odkryć zestawy danych użyte do szkolenia AI.

Mogłoby to spowodować kilka rezultatów, z których pierwszym jest zatrucie AI. Inne przykłady mogą obejmować hakowanie danych szkoleniowych AI w celu uzyskania kompromitujących informacji o rynkach, konkurentach, rządach, dostawcach lub ogólnych konsumentach.

3. Poznanie celów

Inwigilacja celów jest prawdopodobnie jednym z bardziej niepokojących implikacji AI wpadającej w ręce hakierów. Możliwość AI do dochodzenia do wniosków o umiejętnościach, obszarach wiedzy, temperamencie i prawdopodobieństwie padnięcia ofiarą celowania, oszustwa lub nadużyć jest szczególnie niepokojąca dla niektórych ekspertów ds. bezpieczeństwa cybernetycznego.

Sztuczna inteligencja może spożywać i dochodzić do szczegółowych wniosków o ludziach, zespołach i grupach na podstawie niektórych z najmniej prawdopodobnych punktów danych. Osoba “zaangażowana” lub “roztargniona” może pisać szybko, manipulować myszą lub przechodzić między kartami przeglądarki szybko. Użytkownik, który jest “zdezorientowany” lub “niepewny”, może zawiesić się przed kliknięciem elementów strony lub odwiedzić wiele stron.

W odpowiednich rękach, sygnały takie mogą pomóc działom HR w zwiększeniu zaangażowania pracowników lub pomóc zespołom marketingowym w udoskonaleniu swoich stron internetowych i kanałów sprzedaży.

Dla hakierów, sygnały takie mogą skutkować zaskakująco nuansowanym profilem psychologicznym zamierzonego celu. Cyberprzestępcy mogą być w stanie stwierdzić, które osoby mogą być podatne na phishing, smishing, oprogramowanie ransomware, oszustwa finansowe i inne rodzaje szkód. Mogą również pomóc złym aktorom dowiedzieć się, jak najlepiej przekonać swoje cele, że ich próby oszustwa pochodzą z legalnych źródeł.

4. Sondowanie luk w zabezpieczeniach sieci

Specjaliści ds. bezpieczeństwa cybernetycznego opublikowali dane na temat 20 175 znanych luk w zabezpieczeniach w 2021 roku. Był to wzrost w porównaniu z 2020 rokiem, kiedy odnotowano 17 049 takich luk.

Świat staje się coraz bardziej połączony cyfrowo – niektórzy by powiedzieli, że jest wzajemnie zależny – z każdą godziną. Świat jest teraz gospodarzem olbrzymiej liczby małych i przemysłowych sieci, z miliardami połączonych urządzeń online i coraz więcej na horyzoncie. Wszystko jest online, od czujników monitorujących stan techniczny po oprogramowanie do planowania przedsiębiorstw.

Sztuczna inteligencja pokazuje obietnice w pomocy zespołom ds. bezpieczeństwa cybernetycznego w szybkim sondowaniu luk w zabezpieczeniach sieci, oprogramowania i sprzętu szybciej niż ludzie mogliby to zrobić sami. Szybkość i skala wzrostu infrastruktury cyfrowej Ziemi sprawiają, że jest to prawie niemożliwe do przeszukania bilionów linii kodu w celu znalezienia luk w zabezpieczeniach do łatania. To wszystko musi się odbywać, podczas gdy systemy są online ze względu na koszty przestojów.

Jeśli AI jest tu narzędziem bezpieczeństwa, to jest również obosiecznym mieczem. Hakierzy mogą wykorzystywać te same mechanizmy, co “biały kapelusz” społeczność IT, aby wykonać tę samą pracę: sondowanie sieci, oprogramowania i sprzętu w celu znalezienia luk w zabezpieczeniach bardziej efektywnie niż specjaliści ds. bezpieczeństwa cybernetycznego.

Cyfrowa wojna

Istnieje zbyt wiele zastosowań AI w cyberprzestępczości, aby je wszystkie wymienić, ale oto kilka więcej:

• Hakierzy mogą ukryć kod AI w aplikacji, która wykona szkodliwe zachowanie, gdy wykryje określony sygnał lub próg.
• Złe modele AI mogą być używane do ustalenia poświadczeń lub funkcji zarządzania IT poprzez monitorowanie danych biometrycznych, takich jak odciski palców i rozpoznawanie głosu.
• Nawet jeśli próba ataku cybernetycznego ostatecznie nie powiedzie się, hakierzy wyposażeni w AI mogą być w stanie użyć uczenia maszynowego, aby dowiedzieć się, co poszło nie tak i co mogliby zrobić inaczej następnym razem.

Wydawało się, że wystarczył tylko jeden dobrze umiejscowiony artykuł o hakowaniu jeepa podczas jazdy, aby spowolnić rozwój pojazdów autonomicznych. Jeden atak, w którym AI działa jako kluczowy element, mógłby spowodować podobną erozję w opinii publicznej. Niektóre sondaże pokazują, że przeciętny Amerykanin jest bardzo wątpiący w korzyści AI już teraz.

Omnipresentne komputery są związane z ryzykiem bezpieczeństwa – i zarówno “biały”, jak i “czarny” hakierzy o tym wiedzą. AI może pomóc utrzymać nasze życie online w bezpieczeństwie, ale jest również epicentrum nowej cyfrowej wojny.