Dataforgiftning: Er der en løsning?

Datasæt er grundlaget for AI. Data giver AI mulighed for at træffe beslutninger og analysere tendenser, fordi de har adskillige datapunkter at referere til for deduktive ræsonnementer. Dataforgiftning er dog kommet ind på cybersikkerhedsscenen for at ødelægge AI-algoritmer i et forsøg på at sabotere det arbejde, mennesker har gjort for at perfektionere deres nøjagtighed.

Da dataforgiftning er et relativt nyt fænomen, er der nogen der har opfundet en løsning til at bekæmpe det endnu? Kan traditionelle cybersikkerhedsmetoder bruges til at skabe forsvar, mens analytikere tilpasser sig?

Hvad er dataforgiftning?

Dataforgiftning er, når hackere med succes leverer data til AI for at skabe sårbarheder. AI kan ikke præcist forudsige, om datasættene er beskadigede – det er sådan, spam-e-mails bliver markeret som værd at læse, og dit Netflix-anbefalingsfeed bliver forvirret, efter at du giver venner lov til at bruge din konto.

Nogle gange skyldes det, at AI og maskinlæring ikke har haft tid nok til at udvikle sig. Nogle gange, i tilfælde af dataforgiftning, er det fordi hackere fodrer AI-modeller med kurateret information, der gavner deres sag og fordrejer logikken i din trænede AI.

AI-modeller til virksomheder kan alt fra at analysere rapporter til automatisk at svare på levende kunder. Mest AI engagerer sig i aktiv læring for at få flere data, mens menneskelige arbejdere udfører almindelige opgaver. På dette stadium ville det ikke være udfordrende at udnytte nye systemer, mens de stadig mangler information.

Hvor effektiv er dataforgiftning?

Hvis farlige e-mails, der indeholder phishing-svindel, dukker op i din indbakke med pålideligt sprog og en overbevisende signatur, er det nemt ved et uheld at give dine oplysninger væk.

Nogle tyder på, at dataforgiftning kunne have været inspireret af, hvordan hackere traditionelt drager fordel af en manglende medarbejderuddannelse i cybersikkerhedspraksis. Hvis en virksomheds AI er i sin vorden eller utrænet, så er det lige så nemt at udnytte, som hvis det var en medarbejder, der ubevidst svarede på en phishing-e-mail.

Grunden til, at dataforgiftning er effektiv, er, at den udnytter den manglende bevidsthed. Det bliver alsidig i udseende og udførelse ved:

• Omskrivning af en chatbots sprogtendenser til at tale anderledes eller bruge stødende sprog
• Overbevisende algoritmer til at tro, at visse virksomheder klarer sig dårligt
• Sampling af vira mod malware og antiviralt forsvar for at overbevise det om det sikre filer er skadelige

Dette er kun nogle få eksempler på brug af kunstig intelligens, og hvordan forgiftning kan forstyrre driften. Fordi AI-modeller lærer forskellige færdighedssæt til forskellige former for implementeringer, er måderne, hvorpå hacker AI kan forgifte dem, lige så omfattende som deres anvendelser. Det betyder, at løsningerne til at helbrede dem kan være lige så omfattende.

Hvor stor en trussel er det?

Virksomheder fra Fortnite til WhatsApp har fik brugeroplysninger kompromitteret på grund af mangelfulde sikkerhedssystemer. AI kunne være den manglende ingrediens, der er nødvendig for at styrke sikkerheden, men den kan også invitere hackere til at forgifte data, mens den lærer, hvilket fører til yderligere og værre brud.

Virkningerne af forgiftet AI er alvorlige. Forestil dig at være i stand til at omgå et netværks sikkerhedsforanstaltninger ved at inficere det med et simpelt input. En forgiftet AI undergraver en virksomheds AI-forsvar og giver hackere chancer for at slå til. Når først hackerens AI kontrollerer forsvar nok, er det lige så nemt at udføre et angreb som at gå gennem hoveddøren.

Da dette er en relativt ny trussel i cybersikkerhedsverdenen, skaber analytikere flere løsninger, efterhånden som truslen forstærkes.

Det mest afgørende skjold mod dataforgiftning er en solid cybersikkerhedsinfrastruktur. At uddanne dig selv, uanset om du er ansat i en virksomhed eller driver din egen virksomhed som iværksætter, er vores bedste forsvar.

Der er flere muligheder for at beskytte din AI mod forgiftningsangreb, mens nye løsninger fortsætter med at komme:

• Hold dig opdateret med regelmæssig vedligeholdelse: Kør kontrol af dataene i de modeller, du bruger. Sørg for, at den information, der med vilje bliver tilført AI'en, stadig er der, uafbrudt af tilfældige indsættelser der ellers ville forgifte den.
• Vælg data med omhu: Vær forsigtig fra det øjeblik, du opretter din AI-model. Sørg for, at alt, der er gemt i det, er relevant og ikke så kompromitterende, at det ville gøre hackerens job let at fjerne dine filer med roden.
• Udfør aggressive tests: Penetrationstest på AI-modeller – at udføre simulerede cyberangreb – kunne fange huller i dit cyberforsvar.

På trods af nye trusler, der tilsyneladende dukker op hver uge, er det vigtigt ikke at glemme sikkerhedsforanstaltningerne – såsom god kryptering og nul-tillidsrammer – der kom før for at beskytte aktiver, efterhånden som nye og nye trusler dukker op. Implementering af disse strategier vil stadig være nyttig, selvom en ny trussel kommer ind i et netværk.

Er der en løsning på dataforgiftning?

Hver ny type cyberkriminel aktivitet giver både analytikere, arbejdsgivere og entusiaster mulighed for at spekulere i tendenser. Selvom der måske ikke findes en ensartet løsning på den stigende trussel om dataforgiftning nu, er hvert nyligt angreb et indblik i cyberkriminelles taktik, hvilket giver forsvarere en fordel.

Ved at bruge disse øjeblikke til at forberede sig i stedet for at bekymre os, vil vi give os mulighed for at skabe mere effektive løsninger og produktivt bruge ressourcer til at sikre så mange data som muligt.