Dataforgiftning: Findes der en løsning?

Datasæt er grundlaget for AI. Data giver AI mulighed for at træffe beslutninger og analysere tendenser, fordi de har mange datapunkter at referere til for deduktivt resonement. Men dataforgiftning er kommet ind på cybersikkerhedsscenen for at ødelægge AI-algoritmer i et forsøg på at sabotere det arbejde, mennesker har lavet for at perfektionere deres nøjagtighed.

Da dataforgiftning er et relativt nyt fænomen, har nogen så opfundet en løsning endnu for at bekæmpe det? Kan traditionelle cybersikkerhedsmetoder bruges til at skabe forsvar, mens analytikere tilpasser sig?

Hvad er dataforgiftning?

Dataforgiftning er, når hackere med held giver data til AI for at skabe sårbarheder. AI kan ikke forudsige nøjagtigt, hvis datasættene er korrupte – det er, hvordan spam-emails bliver markeret som værd at læse, og din Netflix-anbefalingsfeed bliver forvirret efter, at du har lånt din konto til venner.

Nogle gange skyldes dette, at AI og maskinlæring endnu ikke har haft nok tid til at udvikle sig. Nogle gange, i tilfælde af dataforgiftning, skyldes det, at hackere giver AI-modellerne kurateret information, der gavner deres sag og forvrænger logikken i din trænede AI.

AI-modeller for virksomheder kan gøre alt fra at analysere rapporter til at besvare levende kunder automatisk. De fleste AI engagerer sig i aktiv læring for at få mere data, mens menneskelige medarbejdere udfører normale opgaver. På dette stadie ville det ikke være svært at udnytte begyndende systemer, mens de stadig mangler information.

Hvor effektivt er dataforgiftning?

Hvis farlige emails med phishing-svindel dukker op i din indbakke med pålidelig sprog og en overbevisende signatur, er det let at ufrivilligt afsløre din information.

Nogle mener, at dataforgiftning kunne være inspireret af, hvordan hackere traditionelt udnytter en mangel på medarbejdertræning i cybersikkerhedspraksis. Hvis et firma’s AI er i sin barndom eller uuddannet, er det lige så let at udnytte, som hvis det var en medarbejder, der uvidende besvarer en phishing-email.

Grunden til, at dataforgiftning er effektiv, er, at det udnytter manglen på opmærksomhed. Det bliver flereformigt i udseende og udførelse ved:

• At omskrive en chatbots sprogtilbøjeligheder til at tale anderledes eller bruge krænkeligt sprog
• At overbevise algoritmer om, at visse virksomheder udfører dårligt
• At teste virus mod malware og antivirale forsvar for at overbevise det om, at sikre filer er skadelige

Disse er kun få eksempler på AI-brug og, hvordan forgiftning kan forstyrre operationer. Fordi AI-modeller lærer forskellige færdighedsniveauer til forskellige former for implementering, er måderne, hvorpå hacker-AI kan forgifte dem, lige så omfattende som deres brug. Dette betyder, at løsningerne til at helbrede dem kan være lige så omfattende.

Hvor stort er truslen?

Virksomheder fra Fortnite til WhatsApp har haft brugerinformationer kompromitteret på grund af mangelfulde sikkerhedssystemer. AI kunne være den manglende ingrediens, der er nødvendig for at forstærke sikkerheden, men det kunne også invitere hackere til at forgifte data, mens det lærer, og føre til yderligere og værre brud.

Virksomhederne af forgiftet AI er alvorlige. Forestil dig, at du kan omgå en netværks sikkerhedsforanstaltninger ved at inficere det med en simpel indtastning. En forgiftet AI undergraver et firma’s AI-forsvar, og giver hackere chancer til at slå til. Når hackerens AI kontrollerer forsvaret tilstrækkeligt, er det lige så let at udføre et angreb, som at gå gennem frontdøren.

Da dette er en relativt ny trussel i cybersikkerhedsverdenen, skaber analytikere flere løsninger, efterhånden som truslen styrkes.

Det mest kritiske skjold mod dataforgiftning er en solid cybersikkerhedsinfrastruktur. At uddanne sig selv, enten du er en medarbejder i et firma eller driver din egen virksomhed som iværksætter, er vores bedste forsvar.

Der er flere muligheder for at beskytte din AI mod forgiftningangreb, mens nye løsninger fortsætter med at ankomme:

• Hold dig ajour med regelmæssig vedligeholdelse: Kør checks på data i de modeller, du bruger. Sørg for, at informationen, der bevidst er givet til AI, stadig er der, ubrudt af tilfældige indsættelser, der ellers ville forgifte det.
• Vælg data omhyggeligt: Vær omhyggelig fra det øjeblik, du opretter din AI-model. Sørg for, at alt, der er gemt i den, er relevant og ikke så kompromitterende, at det ville gøre hackerens job let at rodske dine filer.
• Udfør aggressive tests: Penetrationstest af AI-modeller – udførelse af simulerede cyberangreb – kunne fange huller i dine cybersikkerhedsforsvar.

Trods nye trusler, der dukker op synligt hver uge, er det vigtigt ikke at glemme de sikkerhedsforanstaltninger – såsom god kryptering og zero-trust-rammer – der kom før for at beskytte aktiver, mens nye og fremvoksende trusler dukker op. Implementering af disse strategier vil stadig være nyttigt, selv hvis en ny trussel kommer ind i et netværk.

Findes der en løsning for dataforgiftning?

Hver ny stamme af cyberkriminel aktivitet giver en mulighed for analytikere, arbejdsgivere og entusiaster til at spekulere over tendenser. Selv om der måske ikke er en løsning, der passer alle, til den stigende trussel af dataforgiftning nu, giver hver ny angreb indsigt i cyberkriminelle taktikker, hvilket giver forsvarerne en fordel.

At bruge disse øjeblikke til at forberede sig i stedet for at bekymre sig vil give os mulighed for at skabe mere effektive løsninger og produktivt udnytte ressourcer til at sikre så meget data som muligt.