Dataförgiftning: Finns det en lösning?

Datamängder är grunden för AI. Data gör att AI kan fatta beslut och analysera trender eftersom de har många datapunkter att referera till för deduktivt resonemang. Men dataförgiftning har kommit in på cybersäkerhetsscenen för att förstöra AI-algoritmer i ett försök att sabotera det arbete som människor har gjort för att förbättra deras noggrannhet.

Eftersom dataförgiftning är ett relativt nytt fenomen, har någon då uppfunnit en lösning för att bekämpa det? Kan traditionella cybersäkerhetsmetoder användas för att skapa försvar medan analytiker anpassar sig?

Vad är dataförgiftning?

Dataförgiftning är när hackare lyckas mata AI med data för att skapa sårbarheter. AI kan inte förutsäga med tillräcklig noggrannhet om datamängderna är korrupta – detta är hur skräppostmarkeringar markeras som värda att läsa och din Netflix-rekommendationsflöde förvirras efter att du har låtit vänner använda ditt konto.

Ibland beror detta på att AI och maskinlärning inte har haft tillräckligt med tid att utvecklas. Ibland, i fallet med dataförgiftning, är det för att hackare matar AI-modeller med kuraterad information som gynnar deras sak och förvränger logiken i din tränade AI.

AI-modeller för företag kan göra allt från att analysera rapporter till att svara på levande kunder automatiskt. De flesta AI engagerar sig i aktivt lärande för att hämta mer data medan mänskliga arbetare utför vanliga uppgifter. På detta stadium vore det inte svårt att dra nytta av växande system medan de fortfarande saknar information.

Hur effektiv är dataförgiftning?

Om farliga e-postmeddelanden som innehåller phishing-attacker dyker upp i din inkorg med tillförlitlig språk och en övertygande signatur, är det lätt att oavsiktligt avslöja din information.

Vissa föreslår att dataförgiftning kunde ha inspirerats av hur hackare traditionellt utnyttjar en brist på anställdas utbildning i cybersäkerhetspraxis. Om ett företags AI är i sin linda eller outbildad, är det lika lätt att utnyttja som om det vore en anställd som omedvetet svarar på en phishing-e-post.

Anledningen till att dataförgiftning är effektiv är att den utnyttjar den bristen på medvetenhet. Det blir varierat i utseende och utförande genom:

• Att skriva om en chattbots språkvanor för att tala annorlunda eller använda stötande språk
• Att övertyga algoritmer om att vissa företag presterar dåligt
• Att testa virus mot malware och antivirala försvar för att övertyga dem om att säkra filer är skadliga

Detta är bara några exempel på AI-användningar och hur förgiftning kan störa verksamheten. Eftersom AI-modeller lär sig olika färdigheter för olika typer av implementationer, är sätten hackare kan förgifta dem lika omfattande som deras användningar. Detta innebär att lösningarna för att bota dem kan vara lika omfattande.

Hur stor är hotet?

Företag från Fortnite till WhatsApp har haft användarinformation komprometterad på grund av bristfälliga säkerhetssystem. AI kunde vara den saknade ingrediensen för att förstärka säkerheten, men det kunde också inbjuda hackare att förgifta data medan det lär sig, vilket leder till ytterligare och värre brott.

Effekterna av förgiftad AI är allvarliga. Tänk dig att kunna kringgå ett nätverks säkerhetsåtgärder genom att infektera det med en enkel inmatning. En förgiftad AI undergräver ett företags AI-försvar, vilket ger hackare möjlighet att slå till. När hackarens AI kontrollerar försvar tillräckligt, är det lika lätt att utföra ett angrepp som att gå genom främre dörren.

Eftersom detta är ett relativt nytt hot i cybersäkerhetsvärlden, skapar analytiker fler lösningar allteftersom hotet växer.

Det viktigaste skyddet mot dataförgiftning är en solid cybersäkerhetsinfrastruktur. Att utbilda sig, antingen som anställd eller som företagare, är vårt bästa försvar.

Det finns flera alternativ för att skydda din AI mot förgiftning medan nya lösningar anländer:

• Håll jämna steg med regelbunden underhåll: Kör kontroller på data i modellerna du använder. Se till att informationen som medvetet matas till AI fortfarande finns där, ostörd av slumpmässiga införanden som annars skulle förgifta den.
• Välj data noggrant: Var försiktig från och med det ögonblick du skapar din AI-modell. Se till att allt som lagras i den är relevant och inte så komprometterande att det skulle göra hackarens jobb lätt att upprycka dina filer.
• Utför aggressiva tester: Penetreringstestning på AI-modeller – genomförda simulerade cyberattacker – kunde upptäcka luckor i ditt cybersäkerhetsförsvar.

Trots att nya hot dyker upp tycks varje vecka, är det viktigt att inte glömma de säkerhetsåtgärder som kom före – som bra kryptering och noll-tillit-ramverk – för att skydda tillgångar när nya och framväxande hot dyker upp. Att implementera dessa strategier kommer fortfarande att vara användbart, även om ett nytt hot kommer in i nätverket.

Finns det en lösning för dataförgiftning?

Varje ny stam av cyberkriminell aktivitet ger en möjlighet för analytiker, arbetsgivare och entusiaster att spekulera om trender. Även om det kanske inte finns en universallösning för det växande hotet om dataförgiftning just nu, ger varje nylig attack en inblick i cyberkriminellas taktik, vilket ger försvararna en fördel.

Att använda dessa ögonblick för att förbereda sig istället för att oroa sig kommer att tillåta oss att skapa mer effektiva lösningar och produktivt utnyttja resurser för att säkra så mycket data som möjligt.