Cyberkriminella använder falsk AI-mjukvara för att distribuera malware

Artificiell intelligens (AI) ökar i popularitet, och cyberkriminella har tagit notis. När allt fler människor söker efter de senaste och bästa AI-verktygen för att öka sin produktivitet, har vissa kriminella börjat smyga in falsk AI-mjukvara på marknaden. Dessa program ser ut som legitima AI-lösningar, men att installera dem lämnar användarna med en malware-infektion.

Hur fungerar AI-malware-bedrägerier?

Under de senaste månaderna har flera säkerhetsforskare upptäckt malware som utger sig för att vara AI på sociala medier. Cyberkriminella har använt sig av verkliga AI-verktyg för att sprida ransomware, spionprogram och annan malware sedan minst mitten av 2024, och dessa hot är fortfarande aktiva trots sociala plattformars ansträngningar.

Dessa bedrägerier kommer i många former, men de följer alla samma princip. Cyberkriminella publicerar annonser för AI-verktyg på sociala medier — ibland utger de sig för att vara befintliga appar som ChatGPT och ibland utger de sig för att vara en ny lösning. I alla fall installerar klicken på länken för att prova mjukvaran malware på användarens enhet.

Många ser ut som generativa AI-plattformar och fungerar till och med som en tills det sista steget. Användare anger en prompt eller laddar upp filer, men filen som programmet erbjuder i retur är skadlig programvara istället för faktisk AI-genererad utdata.

Falska AI-malware-bedrägeri-exempel

Anpassningsförmåga är en av de sätt som dessa scheman har lyckats förbli aktiva trots att företag som Meta letar efter och tar bort dem. De kriminella bakom dem kommer att upprepa sig och ändra vilka AI-verktyg de imiterar och använda olika domäner. Trots denna variation använder många en av de vanligaste malware-stammarna och följer liknande mönster.

Noodlophile Stealer

En av de mest framträdande är en stam som Morphisec-forskare upptäckte som kallas Noodlophile Stealer. Den börjar med en annons för en generativ AI-tjänst, ibland till och med med ett verifierat konto. När du klickar på annonsen, som ofta lovar en kostnadsfri testversion, tas du till en legitim AI-genereringsida.

Efter att ha “bearbetat” din begäran ger webbplatsen dig en fil att ladda ner, som installerar Noodlophile-malware. Noodlophile stjäl sedan dina webbläsarcookies, sparade autentiseringsuppgifter och annan information innan den skickar dem via krypterad meddelande till angriparen. Ibland installerar den ytterligare malware eller skapar en bakdörr för angriparna att göra så senare.

CyberLock

CyberLock-ransomware är ett annat vanligt inslag i dessa falska AI-bedrägerier. Det är en av tre hot som Talos-forskare upptäckte som följer samma schemaläggning. I det här fallet imiterar angriparna en befintlig, legitim webbplats, som den AI-drivna moneteringsplattformen NovaLeads.

De falska webbplatserna ser mycket lika ut som de riktiga versionerna, men att klicka på nedladdningsknappen installerar CyberLock-ransomware. När du klickar på den nedladdade filen aktiveras CyberLock och kräver 50 000 dollar i utbyte mot att inte exponera känsliga, krypterade filer. Talos-forskare noterade att de inte såg någon funktionalitet som skulle låta CyberLock göra så.

Lucky_Gh0$t

En annan ransomware-stam, Lucky_Gh0$t, utger sig för att vara ChatGPT. Eftersom ChatGPT är världens mest nedladdade app, är det ganska lätt att övertyga människor om att installera något som påstår sig vara den populära AI-chattroboten, även om det inte är från en legitim källa. Som med CyberLock aktiverar klicken på den verkställande filen som utger sig för att vara AI-programmet ransomware.

Lucky_Gh0$t genomsöker din enhet efter filer som är mindre än 1,2 gigabyte i storlek och krypterar dem, och kräver en lösensumma för att få tillbaka dem. I vissa fall raderar den större filer, vilket förstör data för förstöringens skull.

Numero

Medan säkerhetsproffs kände till Lucky_Gh0$t och CyberLock innan de dök upp i falska AI-verktygsbedrägerier, använder vissa av dessa scheman en ny malware-stam — Numero. Numero utger sig för att vara InVideo AI, en riktig video-genererande AI-app. Det är inte ransomware som CyberLock eller Lucky_Gh0$t, men det är destruktivt.

Numero manipulerar dina öppna fönster i en oändlig loop, vilket till slut gör din enhet oanvändbar. Det använder också flera smarta knep för att undvika upptäckt, så det kanske inte är märkbart förrän det är för sent.

Hur man skyddar sig mot falska AI-bedrägerier

Över alla dessa exempel förblir sättet att skydda sig mot falska AI-mjukvarubedrägerier detsamma. Tänk på dessa fem tips innan du klickar på några länkar eller annonser om ett nytt AI-verktyg.

1. Ladda bara ner AI-verktyg från betrodda källor

Det mest grundläggande steget för att undvika falska AI-bedrägerier är att använda endast kända, betrodda källor för att ladda ner någon programvara. Ladda aldrig ner något direkt från en annons, och använd aldrig en appbutik eller programdistributör utanför första parts, verifierade alternativ.

Medan säkerhetsproffs tidigare har funnit malware på Google Play Store (GOOGL ) , går första parts appbutiker i allmänhet till stora ansträngningar för att hålla sina listor säkra. De är säkerligen säkrare än okända webbplatser. När du är osäker på en webbplats, gå till apputvecklarens officiella webbplats för att ladda ner programvaran från källan, och undvik genvägar via annonser eller externa länkar.

2. Dubbelkolla alltid URL:er och filändelser

Kom ihåg att inspektera alla URL:er noga innan du klickar på dem. Att imitera legitima adresser är en klassisk phishing-teknik, men misstänkta URL:er innehåller små variationer eller stavfel. Till exempel använde vissa versioner av CyberLock-bedrägeriet domänen “novaleadsai” istället för den riktiga webbplatsen “novaleads.app”.

Du bör också uppmärksamma filändelser. Många malware-stammar kommer som .exe-filer men kan ha vilseledande namn som “document.pdf.exe” för att göra dem lika något annat. Det är viktigt att titta noga på dessa namn, eftersom de kan vara den enda märkbara skillnaden mellan något misstänkt och riktigt.

3. Var försiktig med allt som verkar för bra för att vara sant

Var försiktig med alla löften som verkar som ovanligt bra erbjudanden. En kostnadsfri app som erbjuder branschledande AI-prestanda eller en ettårig kostnadsfri testversion för något som vanligtvis kostar mycket pengar är vanliga exempel. Cyberkriminella använder ofta dessa tekniker för att locka offer.

På samma sätt, var försiktig med meddelanden med ovanlig brådska. Du kan få ett e-postmeddelande som påstår sig vara från en AI-tjänst som du faktiskt använder, och som ber dig att följa en länk för att återställa ditt lösenord eller ändra dina betalningsuppgifter. Dubbelkolla e-postadressen och logga in på ditt konto via den officiella webbplatsen — inte den tillhandahållna länken — för att verifiera dessa meddelanden innan du går vidare med något.

4. Undvik nedladdningar från sociala medie-annonser

Med tanke på antalet bedrägerier och hur ofta de ändras, undvik att följa sociala medie-annonslänkar. När du ser något som intresserar dig, leta reda på företaget och hitta dess legitima webbplats för att lära dig mer.

Medan många sociala medie-annonser är ofarliga, kan bedrägliga annonser ibland vara svåra att skilja från. Följaktligen är det bäst att vara säker och hålla klick till ett minimum.

5. Håll dig uppdaterad om cybersäkerhetsnyheter

Slutligen kan du skydda dig genom att hålla dig uppdaterad om säkerhetsnyheter, särskilt när det gäller AI- och sociala medie-bedrägerier. Cyberkriminella ändrar ofta sina taktiker, så att hålla sig informerad hjälper dig att veta vilka varningstecken att leta efter.

Scheman som falska AI-annonser kommer inte att försvinna inom kort. Bedragare stulit eller utpressat 1,03 biljoner dollar under 2024 alone. Cyberbrott är alldeles för lukrativt för att överge, så användare måste vara på sina tår och se upp för misstänkta tecken.

AI:s popularitet har stora cybersäkerhetsimplikationer

AI har ett ovanligt förhållande till cybersäkerhet. Å ena sidan kan den göra saker mer säkra genom att förbättra säkerhetsprogramvara och agera snabbare än vad som är mänskligt möjligt. Å andra sidan kan cyberkriminella använda den också, även om dess popularitet är vad som lockar klick.

Att känna igen dessa taktiker är det första steget till att hålla sig säker. Följ dessa steg för att undvika att bli offer för falska AI-annonser och hålla din enhet fri från malware.