Cyberkriminella använder falsk AI-mjukvara för att distribuera skadlig kod

Artificiell intelligens (AI) ökar i popularitet, och cyberkriminella har tagit notis. Allt eftersom fler människor söker efter de senaste och bästa AI-verktygen för att förbättra sin produktivitet, har vissa kriminella börjat smyga in falsk AI-mjukvara på marknaden. Dessa program ser ut som legitima AI-lösningar, men att installera dem lämnar användarna med en skadlig kodinfektion.

Hur fungerar AI-skadlig kod-bedrägerier?

Under de senaste månaderna har flera säkerhetsforskare upptäckt skadlig kod som utger sig för att vara AI på sociala medier. Cyberkriminella har använt sig av till synes riktiga AI-verktyg för att sprida ransomware, spionprogram och annan skadlig kod sedan minst mitten av 2024, och dessa hot är fortfarande aktiva trots sociala plattformars ansträngningar.

Dessa bedrägerier kommer i många former, men de följer alla samma princip. Cyberkriminella publicerar annonser för AI-verktyg på sociala platser — ibland utger de sig för att vara existerande appar som ChatGPT och ibland låtsas de vara en ny lösning. I alla fall installerar klickande på länken för att prova mjukvaran skadlig kod på användarens enhet.

Många ser ut som generativa AI-plattformar och fungerar till och med som en tills det sista steget. Användare anger en prompt eller laddar upp filer, men filen som programmet erbjuder i gengäld är skadlig kod istället för faktisk AI-genererad utdata.

Exempel på falsk AI-skadlig kod-bedrägerier

Anpassningsförmåga är en av de sätt som dessa scheman har lyckats förbli aktiva trots att företag som Meta letar efter och tar bort dem. De kriminella bakom dem kommer att upprepa sig och ändra vilka AI-verktyg de utger sig för att vara och använda olika domäner. Trots denna variation använder många en av några populära skadlig kodstammar och följer liknande mönster.

Noodlophile Stealer

En av de mest framträdande är en stam Morphisec-forskare upptäckte som kallas Noodlophile Stealer. Den börjar med en annons för en generativ AI-tjänst, ibland sogar med ett verifierat konto. När du klickar på annonsen, som ofta lovar en kostnadsfri provperiod, tas du till en legitimt utseende AI-genereringsida. 

Efter att ha “bearbetat” din begäran ger webbplatsen dig en fil att ladda ner, som installerar Noodlophile-malware. Noodlophile stjäl sedan dina webbläsarcookies, sparade autentiseringsuppgifter och annan information innan den skickar dem via krypterad meddelande till angriparen. Ibland installerar den ytterligare skadlig kod eller skapar en bakdörr för angriparen att göra det senare.

CyberLock

CyberLock-ransomware är ett annat vanligt inslag i dessa falska AI-bedrägerier. Det är en av tre hot som Talos-forskare upptäckte som följer samma schemaläggning. I detta fall utger angriparna en existerande, legitim webbplats, som den AI-drivna moneteringsplattformen NovaLeads.

De falska webbplatserna ser mycket lika ut som de riktiga versionerna, men att klicka på knappen för att ladda ner installerar CyberLock-ransomware. När du klickar på den nerladdade filen aktiveras CyberLock och kräver 50 000 dollar i utbyte mot att inte exponera känsliga, krypterade filer. Talos-forskare noterade dock att de inte såg någon funktionalitet som skulle låta CyberLock göra det. 

Lucky_Gh0$t

En annan ransomware-stam, Lucky_Gh0$t, utger sig för att vara ChatGPT. Eftersom ChatGPT är världens mest nedladdade app, är det ganska lätt att övertyga människor om att installera något som påstår sig vara den populära AI-chattroboten, även om det inte är från en legitim källa. Liksom CyberLock sätter klickande på den körbara filen som utger sig för att vara AI-programmet ransomware i rörelse.

Lucky_Gh0$t genomsöker din enhet efter filer som är mindre än 1,2 gigabyte i storlek och krypterar dem, och kräver en lösensumma för att få tillbaka dem. I vissa fall raderar den större filer, vilket förstör data för förstöringens skull.

Numero

Medan säkerhetsproffs kände till Lucky_Gh0$t och CyberLock innan de dök upp i falska AI-verktygsbedrägerier, använder vissa av dessa scheman en ny skadlig kodstam — Numero. Numero utger sig för att vara InVideo AI, en riktig video-genererande AI-app. Det är inte ransomware som CyberLock eller Lucky_Gh0$t, men det är destruktivt.

Numero manipulerar dina öppna fönster i en oändlig loop, vilket till slut gör din enhet oanvändbar. Det använder också flera smarta tricks för att undvika upptäckt, så det kanske inte är märkbart förrän det är för sent.

Hur man håller sig säker från falska AI-bedrägerier

Över alla dessa exempel förblir sättet att hålla sig säker från falsk AI-mjukvarubedrägerier detsamma. Håll dessa fem tips i åtanke innan du klickar på några länkar eller annonser om ett nytt AI-verktyg.

1. Ladda bara ner AI-verktyg från betrodda källor

Det mest grundläggande steget i att undvika falska AI-bedrägerier är att använda endast kända, betrodda källor för att ladda ner någon mjukvara. Ladda aldrig ner något direkt från en annons, och använd aldrig en appbutik eller programdistributör utanför första parts, verifierade alternativ. 

Medan säkerhetsproffs tidigare har funnit skadlig kod på Google Play Store, går första parts appbutiker vanligtvis till stor längd för att hålla sina listor säkra. De är säkerligen säkrare än okända webbplatser. När du är osäker på en webbplats, gå till apputvecklarens officiella webbplats för att ladda ner mjukvaran från källan, och se till att undvika alla genvägar via annonser eller externa länkar.

2. Kontrollera alltid URL:er och filändelser

Kom ihåg att inspektera alla URL:er noggrant innan du klickar på dem. Att efterlikna legitima adresser är en klassisk fiske-teknik, men misstänkta URL:er innehåller små variationer eller stavfel. Till exempel använde vissa versioner av CyberLock-bedrägeriet domänen “novaleadsai” istället för den riktiga webbplatsen “novaleads.app.”

Du bör också uppmärksamma filändelser. Många skadlig kodstammar kommer som .exe-filer men kan ha vilseledande namn som “dokument.pdf.exe” för att göra dem se ut som något annat. Det är viktigt att titta noga på dessa namn, eftersom de kan vara den enda märkbara skillnaden mellan något misstänkt och riktigt.

3. Var försiktig med allt som verkar för bra för att vara sant

Var försiktig med alla löften som verkar som ovanligt bra erbjudanden. En kostnadsfri app som erbjuder branschledande AI-prestanda eller en ettårs kostnadsfri provperiod för något som vanligtvis kostar mycket pengar är vanliga exempel. Cyberkriminella använder ofta dessa tekniker för att locka offer.

På samma sätt, se upp för meddelanden med ovanlig brådska. Du kan få ett e-postmeddelande som påstår sig vara från en AI-tjänst som du faktiskt använder, och som ber dig att följa en länk för att återställa ditt lösenord eller ändra dina betalningsuppgifter. Dubbelkontrollera e-postadressen och logga in på ditt konto via den officiella webbplatsen — inte den tillhandahållna länken — för att verifiera dessa meddelanden innan du går vidare med något.

4. Undvik nerladdningar från sociala medie-annonser

Med tanke på antalet bedrägerier och hur ofta de ändras, undvik att följa sociala medie-annonser. När du ser något som intresserar dig, sök efter företaget och hitta dess legitima webbplats för att lära dig mer.

Medan många sociala medie-annonser är ofarliga, kan bedrägliga annonser ibland vara svåra att skilja från. Följaktligen är det bäst att vara säker och hålla klick till ett minimum.

5. Håll dig uppdaterad om cybersäkerhetsnyheter

Slutligen kan du hålla dig säker genom att hålla dig uppdaterad om cybersäkerhetsnyheter, särskilt när det gäller AI- och sociala medie-bedrägerier. Cyberkriminella ändrar ofta taktik, så att hålla sig informerad hjälper dig att veta vilka varningstecken att leta efter.

Scheman som falska AI-annonser kommer inte att försvinna när som helst. Bedragare stal eller utpressade 1,03 biljoner dollar under 2024 alone. Cyberbrott är alltför lukrativt för att överge, så användare måste hålla sig på tå och se upp för misstänkta tecken.

AI:s popularitet har stora cybersäkerhetsimplikationer

AI har ett ovanligt förhållande till cybersäkerhet. Å ena sidan kan det göra saker mer säkra genom att förbättra säkerhetsmjukvara och agera snabbare än vad som är mänskligt möjligt. Å andra sidan kan cyberkriminella använda det, även om dess popularitet är vad som lockar klick.

Att känna igen dessa taktiker är det första steget till att hålla sig säker. Följ dessa steg för att undvika att bli offer för falska AI-annonser och hålla din enhet fri från skadlig kod.