Miten hakkerit käyttävät tekoälyä

Tekoäly on osoittautunut arvokkaaksi teknologiaksi koko maailmanlaajuisessa taloudessa.

Kun yritykset joutuivat sopeutumaan viime vuosien tapahtumiin, jotkut heistä löysivät tavoja pakkaa puolen vuosikymmenen verran – Frito-Layn tapauksessa – digitaalisiin muutoksiin lyhyempään aikaan. Harris Poll ja Appen löysivät, että tekoälyn budjetit kasvoivat 55%:lla maailmanlaajuisen pandemian aikana.

Kuten mikä tahansa työkalu, tekoälyllä ei ole sisäistä moraalista arvoa. Tekoälyn hyödyllisyys tai haitallisuus riippuu siitä, miten järjestelmä “oppii” ja mitä ihmiset lopulta tekevät siitä.

Jotkut tekoälyn hyödyntämiseen liittyvät yritykset – kuten “ennustaminen” rikoksia ennen kuin ne tapahtuvat – osoittavat, että harhaisiin tietoihin perustuvat mallit toistavat ihmisten puutteita. Toistaiseksi tekoälyn kouluttaminen Yhdysvaltain oikeusjärjestelmän tietojen avulla on johtanut traagisiin harhaisiin tekoäly-päätelmiin.

Muissa tapauksissa ihmiset valitsevat tietoisesti tekoälyn tuhoisia mahdollisuuksia. Hakkerit osoittavat jälleen kerran innovatiivisia taipumuksiaan käyttämällä tekoälyä parantamaan hyökkäystensä ulottuvuutta, tehokkuutta ja tuottavuutta. Ja koska kyber sodankäynti yleistyy yhä enemmän maailmanlaajuisesti, varmasti näemme tekoälyn soveltamisen kehittyvän entisestään.

Tekoäly on mahdollisuus ja riski

Tekoäly tarjoaa maailman mahdollisuuksia liiketoiminnalle, joka haluaa parantaa ennustamista, liiketoimintaa ja asiakasuskollisuutta. Se on myös tuulahdus niille, jotka aikovat muiden digitaalista suvereniteettia.

Tässä on muutamia tapoja, joilla tekoäly voi olla altis häikäilemättömälle manipuloinnille ja avoimille pyrkimyksille.

1. Kompromissi koneen logiikkaa

Kuluttajien ja kaupallisten yritysten kannalta tekoälyn etu on, että se suorittaa ennustettavia ja toistuvia loogisia tekoja ilman ihmisen väliintuloa. Tämä on myös sen suurin heikkous.

Kuten mikä tahansa digitaalinen konstruktio, tekoäly voi olla altis ulkoisten voimien tunkeutumiselle. Hakkerit, jotka pääsevät tekoälyn koneen logiikkaan, voivat aiheuttaa sen suorittavan ennustamattomia tai haitallisia tekoja. Esimerkiksi tekoäly, joka on tehtävänään teollinen kunnonvalvonta, voi antaa virheellisiä lukemia tai jättää huoltoilmoitukset toimittamatta.

Koska tekoälyn sijoitusten tarkoituksena on poistaa ihmisen väliintulo ja epäillä tuloksia, infrastruktuurin tai tuotteen laadun vahingoittuminen tällaisen hyökkäyksen seurauksena ei välttämättä huomata ennen katastrofaalista vikaa.

2. Käänteisen suunnittelun algoritmit

Toinen potentiaalinen reitti vahingolle – erityisesti älyomaisuuden ja kuluttaja- tai kaupallisen tietojen osalta – on käänteisen suunnittelun käsite. Hakkerit voivat jopa varastaa tekoälykoodin itsessään. Ajan myötä he voivat tutkia, miten se toimii, ja lopulta paljastaa koulutusaineistot, joita käytettiin tekoälyn kouluttamiseen alun perin.

Tämä voi johtaa useisiin tuloksiin, joista ensimmäinen on tekoälyn myrkyttäminen. Muita esimerkkejä voivat olla hakkerit, jotka hyödyntävät tekoälyn koulutusaineistoa saadakseen komprometoivan tiedon markkinoista, kilpailijoista, hallituksista, toimittajista tai yleisistä kuluttajista.

3. Kohdentamisen opettelu

Kohdennettujen kohteiden valvonta on yksi tekoälyn käytön vaikutuksista, joka on herättänyt joitakin tietoturva-asiantuntijoita. Tekoälyn kyky tehdä johtopäätöksiä henkilön kyvyistä, tietämyksestä, luonteesta ja siitä, kuinka todennäköisesti hän joutuu uhriksi kohdistetuille hyökkäyksille, petoksille tai väärinkäytöille, on osoittautunut erittäin huolestuttavaksi.

Tekoäly voi sulauttaa ja tulla yllättävän yksityiskohtaisiin johtopäätöksiin ihmisistä, ryhmistä ja joukoista perustuen johtui epätodennäköisistä tietopisteistä. “Osallistunut” tai “hämmästynyt” henkilö voi kirjoittaa nopeasti, leikkiä hiirellä tai siirtyä välilehdillä nopeasti. Käyttäjä, joka on “hämmästynyt” tai “epäröivä”, voi pysähtyä ennen kuin klikkaa sivun elementtejä tai käydä useita sivuja uudelleen.

Oikeissa käsissä nämä vihjeet voivat auttaa HR-osastoja parantamaan työntekijöiden sitoutumista tai markkinointitiimejä kiillottamaan verkkosivujaan ja myyntikanavia.

Hakkerien kohdalla nämä signaalit voivat johtaa yllättävän nuanssiin psykologiseen profiiliin kohdennettavasta kohteesta. Kybersyntikkaat voivat pystyä kertomaan, kuka voi olla altis vihapostille, smishingille, ransomwarelle, taloudelliselle petokselle ja muiden tyyppien vahingoille. Se voi myös auttaa pahantahtoisia toimijoita oppimaan, miten vakuuttaa kohteensa, että heidän petosyrityksensä tulevat legitiimeistä lähteistä.

4. Verkkovulnerabiliteettien tutkiminen

Tietoturva-asiantuntijat julkaisivat tiedot 20 175:stä tunnetusta tietoturvaongelmasta vuonna 2021. Se oli kasvu vuodesta 2020, jolloin oli 17 049 tällaista haavoittuvuutta.

Maailma kasvaa yhä enemmän digitaalisesti yhteenkytkettyä – jotkut sanovat riippuvaiseksi – tuntia tunnilta. Maailmassa on hämmästyttävä määrä pieniä ja teollisia verkkoja, joissa on miljardit yhteyksiä verkossa ja lisää tulossa. Kaikki on verkossa, aina kunnonvalvontasensoreista yrityksen suunnittelusoftaan.

Tekoäly näyttää lupaavaa apua tietoturva-asiantuntijoille nopeasti etsimään verkon, ohjelmistojen ja laitteiden haavoittuvuuksia nopeammin kuin ihmiset yksin. Digitaalisen infrastruktuurin kasvun nopeus ja laajuus tekevät siitä lähes mahdotonta etsiä turvallisuusongelmia ja korjata niitä, kun järjestelmät ovat verkossa, koska sammuttamisen kustannukset ovat suuret.

Jos tekoäly on tietoturva-työkalu tässä, se on myös kaksiteräinen miekka. Hakkerit voivat käyttää samoja mekanismeja kuin “valkoinen hattu” -IT-joukko etsimään verkon, ohjelmistojen ja laitteiden haavoittuvuuksia tehokkaammin kuin IT-asiantuntijat.

Digitaalinen asekilpailu

On liian monia tekoälyn sovelluksia kybersyntiksessä mainittavaksi, mutta tässä on muutamia:

• Hakkerit voivat piilottaa tekoälykoodin muuten viattomaan sovellukseen, joka suorittaa haitallisen toiminnan, kun se havaitsee ennalta määritetyn kynnyksen tai raja-arvon.
• Väärinkäytöksiin tarkoitettuja tekoälymalleja voidaan käyttää määrittämään tunnistetietoja tai IT-hallintotoimintoja seuraamalla biometrisiä syötekohtia, kuten sormenjälkiä ja äänentunnistusta.
• Vaikka yritetty kybersyntikka lopulta epäonnistuu, hakkerit, jotka käyttävät tekoälyä, voivat käyttää koneoppimista määrittämään, mitä meni pieleen ja mitä he voivat tehdä toisin seuraavalla kerralla.

Näytti siltä, että yksi hyvin sijoitettu tarina hakkeroiden jeepistä tiellä hidasti itseohjautuvan ajoneuvon kehitystä. Yksi korkean profiilin haku, jossa tekoäly toimii avainroolissa, voi aiheuttaa samanlaisen murtuman julkisessa mielipiteessä. Jotkut mielipidemittaukset osoittavat, että keskivertoihminen on hyvin epäilevä tekoälyn hyödyistä jo nyt.

Läsnäoleva laskenta tulee kyberturvallisuusriskejä – ja sekä valkoinen että musta hattu tietää sen. Tekoäly voi auttaa pitämään verkkomaailmamme turvallisena, mutta se on myös uuden digitaalisen asekilpailun keskipiste.