Jak hackeři využívají umělou inteligenci

Umělá inteligence se prokázala jako technologická novinka, která přináší hodnotu napříč globální ekonomikou.

Jak se firmy snažily přizpůsobit současným událostem v posledních letech, některé z nich našly způsoby, jak zařadit půl desetiletí digitální transformace do mnohem kratšího časového rámce. V případě Frito-Lay se ukázalo, že rozpočet na umělou inteligenci se během globální pandemie zvýšil o 55%.

Jakýkoli nástroj, umělá inteligence nemá žádnou vnitřní morální hodnotu. Její užitečnost nebo potenciál pro škodu závisí na tom, jak systém “učí” a co s ní nakonec lidé udělají.

Některé pokusy využít umělou inteligenci – jako například “předpovídání” zločinu, než k němu dojde – ukazují, že modely školené na předpojatých datech tendují k replikaci lidských nedostatků. Dosud se ukázalo, že školení umělých inteligencí pomocí dat z amerického soudního systému vedlo k tragicky předpojatému umělému inteligentnímu uvažování.

V jiných případech lidé volí úmyslnější způsoby, jak využít destruktivní potenciál umělých inteligencí. Hackeři opět ukazují svou inovační tendenci, když využívají umělou inteligenci ke zlepšení dosahu, účinnosti a ziskovosti svých útoků. A protože kybernetická válka se stává stále častější po celém světě, jistě uvidíme, jak se aplikace umělých inteligencí v hackingu dále rozvíjí.

Umělá inteligence je příležitostí i rizikem

Umělá inteligence nabízí svět možností pro firmy, které chtějí zlepšit své předpovědi, obchodní optimalizaci a strategie zákaznické retence. Je to také dar pro ty, kteří se snaží ohrozit digitální suverenitu ostatních.

Zde jsou beberapa způsobů, jak může být umělá inteligence náchylná k diskrétnímu zasahování a otevřenějším pokusům o její využití pro agresivní akce.

1. Ohrožení logiky strojů

Hlavní výhodou umělých inteligencí pro spotřebitele a komerční podniky je, že provádějí předpověditelné a opakované logické úkony bez lidského zásahu. To je také jejich největší slabina.

Stejně jako jakýkoli jiný digitální konstrukt, může být umělá inteligence náchylná k proniknutí z vnější strany. Hackeři, kteří získají přístup a ohrozí logiku strojů, které pohání umělou inteligenci, mohou způsobit, že budou provádět nepředvídatelné nebo škodlivé akce. Například umělá inteligence, která má na starosti monitorování stavu průmyslových zařízení, může poskytnout falešné údaje nebo nechat bez povšimnutí signály pro údržbu.

Jelikož celý účel investic do umělých inteligencí spočívá v eliminaci lidského zásahu a pochybností o výsledcích, škoda na infrastruktuře nebo kvalitě produktu způsobená takovým útokem nemusí být zřejmá, dokud nedojde ke katastrofálnímu selhání.

2. Využití algoritmů pro reverzní inženýrství

Další potenciální cesta ke škodě – zejména tam, kde se jedná o duševní vlastnictví (IP) a spotřebitelská nebo komerční data – spočívá v pojmu reverzního inženýrství. Hackeři mohou dokonce ukrást samotný kód umělých inteligencí. S dostatečným časem na studium, jak funguje, mohli by nakonec odhalit datové sady, které byly použity k školení umělých inteligencí.

To by mohlo mít několik důsledků, z nichž první je otrava umělých inteligencí. Další příklady by mohly zahrnovat hackery, kteří využívají data pro školení umělých inteligencí k získání kompromitujících informací o trzích, konkurentech, vládách, dodavatelích nebo spotřebitelích.

3. Získání informací o cílech

Sledování cílů je pravděpodobně jednou z nejvíce znepokojivých implikací umělých inteligencí, které padly do rukou hackerů. Schopnost umělých inteligencí dospět k závěrům o schopnostech, znalostních oblastech, povaze a pravděpodobnosti, že se stanou oběťmi cílených útoků, podvodů nebo zneužití, je pro některé odborníky na kybernetickou bezpečnost zvláště znepokojivá.

Umělá inteligence může přijímat a dospět k překvapivě podrobným závěrům o lidech, týmech a skupinách na základě některých z nejnepravděpodobnějších datových bodů. “Zapojený” nebo “roztěkaný” jedinec může psát rychle, hrát si s myší nebo přecházet mezi záložkami prohlížeče rychle. Uživatel, který je “zmatený” nebo “váhavý”, může pozastavit před kliknutím na prvky stránky nebo opakovaně navštívit více stránek.

V rukou správných lidí mohou tyto signály pomoci personálním oddělením zvýšit angažovanost zaměstnanců nebo marketingovým týmům vylepšit jejich webové stránky a prodejní kanály.

Pro hackery by tyto signály mohly vést k překvapivě nuancovanému psychologickému profilu cíle. Kybernetičtí zločinci by mohli určit, kteří lidé by mohli být zranitelní vůči phishingovým útokům, smishingu, ransomwaru, finančním podvodům a jiným typům škod. Mohli by také zjistit, jak nejlépe přesvědčit své cíle, že jejich pokusy o podvod pocházejí z legálních zdrojů.

4. Testování síťových zranitelností

Odborníci na kybernetickou bezpečnost zveřejnili data o 20 175 známých bezpečnostních zranitelnostech v roce 2021. To bylo zvýšení oproti roku 2020, kdy jich bylo 17 049.

Svět se stává stále více digitálně propojeným – někteří by řekli, že závislým – každou hodinou. Svět nyní hostí ohromné množství malých a průmyslových sítí, s miliardami připojených zařízení online a dalšími na cestě. Vše je online, od senzorů pro monitorování stavu až po software pro podnikové plánování.

Umělá inteligence ukazuje slib v pomoci týmům kybernetické bezpečnosti rychle testovat síťové, softwarové a hardwarové zranitelnosti rychleji, než by to mohli udělat lidé sami. Rychlost a rozsah růstu digitální infrastruktury planety znamená, že je téměř nemožné prohledat trillions řádků kódu pro bezpečnostní exploity, které je třeba opravit. To vše se musí stát, zatímco tyto systémy jsou online, kvůli nákladům na odstávky.

Pokud je umělá inteligence zde nástrojem kybernetické bezpečnosti, je také dvojí meč. Hackeři mohou použít stejné mechanismy jako “bílí klobouky” IT, aby provedli stejnou práci: testování sítí, softwaru a firmwaru na zranitelnosti efektivněji, než by to mohli udělat lidské IT specialisté.

Digitální závod ve zbrojení

Existuje příliš mnoho aplikací umělých inteligencí v kybernetických zločinech, aby je všechny jmenovat, ale zde jsou beberapa dalších:

• Hackeři by mohli skrýt kód umělých inteligencí v jinak neškodné aplikaci, která provede škodlivou akci, když detekuje předem stanovený spouštěč nebo práh.
• Škodlivé modely umělých inteligencí by mohly být použity k určení přihlašovacích údajů nebo funkcí IT správy monitorováním biometrických vstupů, jako jsou otisky prstů a rozpoznávání hlasu.
• I když se pokus o kybernetický útok nakonec nezdaří, hackeři vybavení umělou inteligencí by mohli použít strojové učení k určení, co se pokusu nepodařilo, a co by mohli udělat jinak příště.

Zdá se, že stačilo pouze jednu dobře umístěnou zprávu o hackingu džípu, zatímco jede, aby zpomalila vývoj autonomních vozidel. Jeden high-profile hack, kde umělá inteligence funguje jako klíčový prvek, by mohl způsobit podobnou erozi veřejného mínění. Některé průzkumy ukazují, že průměrný Američan je velmi pochybovačný o výhodách umělých inteligencí již nyní.

Omnipresentní výpočetní technika přichází s riziky kybernetické bezpečnosti – a obě “bílé” i “černé” klobouky to vědí. Umělá inteligence může pomoci udržet naše online životy v bezpečí, ale je také epicentrem nového digitálního závodu ve zbrojení.