Din bedrägeristack byggdes för mänskliga motståndare

Under de senaste 30 åren har CAPTCHA haft ett enda uppdrag: få en maskin att misslyckas med ett test som en person klarar utan att tänka. Det uppdraget är nu över. Forskare, som testade automatiserade lösare mot Googles reCAPTCHA v2‑bildutmaningar, rapporterade en 100 % framgångsfrekvens, upp från cirka 68 % till 71 % i tidigare studier, och fann ingen betydande skillnad mellan antalet utmaningar en bot behövde klara och antalet en människa klarade.

Om vi betraktar CAPTCHA som en ersättare för en hel kategori av kontroll som bygger på samma premiss – att vissa uppgifter är triviala för en människa och svåra för en maskin, och att klara uppgiften bevisar att du är mänsklig – är det dags att ompröva kontrollparametrarna. AI‑agenter har tyst raderat premissen inom bildigenkänning, ifyllning av formulär och flerstegs‑navigering, och de flesta riskteam har ännu inte byggt om sin stack som svar.

Kalibrerad mot fel fiende

Varje regel i en mogen bedrägeristack var justerad mot en specifik motståndare, vare sig det är en människa som utger sig för att vara en annan människa eller en botfarm som efterliknar många människor samtidigt. Hastighetskontroller fångar någon som öppnar konton snabbare än en person rimligtvis kan. Regler för återanvändning av enheter fångar någon som återvinner hårdvara över identiteter. Båda byggdes kring mänskliga begränsningar, den fysiska tid det tar att fylla i ett formulär och den praktiska kostnaden för att köpa nya enheter.
Samma begränsningar begränsar inte en AI‑agent på samma sätt som oss människor. Den kan fylla i ett formulär på den tid det tar för en människa att läsa det första fältet, och den kan provisioneras, användas en gång och kastas bort till en kostnad nära noll. Automatiserad trafik står nu för mer än 53 % av all webbtrafik, upp från 51 % ett år tidigare, medan mänsklig aktivitet har sjunkit till 47 % och fortsätter minska. Mer än en fjärdedel av botattackerna (27 %) riktar sig nu direkt mot API:er, kringgår helt användargränssnittet för att operera i maskinhastighet, och finansiella tjänster ensam absorberade 24 % av alla botattacker och 46 % av kontoövertagandeincidenter 2025. Regler byggda kring mänsklig takt var aldrig avsedda att fånga en trafikklass som saknar någon takt alls.

Där sprickorna syns

Branschens tidiga instinkt har varit att bekämpa AI med mer AI, och behandla en svartlådemodell som en silverkula mot en svartlådeadversär. Den instinkten förvärrar problemet i sig. En bedrägerimodell som inte kan förklara sitt eget beslut är i praktiken omöjlig att försvara inför en regulator, en kund eller en intern revisor när beslutet ifrågasätts, och en ogenomskinlig modell tränad för att fånga ett ogenomskinligt hot förvärrar opaciteten snarare än att lösa den.

Ett annat försvar som krävs för att skilja det goda från det elaka är lagerad intelligens: signaldjup över tillräckligt många oberoende dimensioner så att en fabricerad identitet, ett kapat konto eller en penningmule får slut på gömställen. Varje extra dimension är ett separat tillfälle att fånga en inkonsekvens, en del av gemensam bedrägeriinfrastruktur eller ett beteende som inte stämmer med den registrerade personen. Ingen enskild signal behöver bära hela beslutets vikt. Ju bredare kontexten är, desto mer blir en isolerad, tvetydig ledtråd något som ett bedrägeriteam faktiskt kan stå bakom.

Samma princip gäller oavsett om beslutet fattas av en person eller en modell. En AI‑riskmotor är inte smartare än de data den får. Ta bort hälften av dimensionerna så får du ett system som resonerar med total säkerhet från halva bilden, och det gäller lika mycket för en maskininlärningsmodell som poängsätter en transaktion på millisekunder som för en analytiker som arbetar med ett ärende för hand. Det blir mer sant, inte mindre, när mer av beslutsfattandet övergår till agentiska system som fattar beslut utan någon människa i loopen. Djupet i kontexten är inte bara hur du fångar en agent som begår bedrägeri. Det är förutsättningen för att lita på en agents beslut i alla sammanhang.

Mata den kontexten i en modell vars resonemang förblir läsbart, snarare än ett enda svartlådesystem som gissar avsikt från en enskild signal, och beslutet blir mer än bara korrekt. Det blir försvarbart. Den distinktionen betyder mer mot AI‑agenter än mot mänskliga bedrägeriringar, eftersom en agent lämnar ett annat slags spår. Den rycker inte, tvekar inte eller gör de små fel som beteendebiometri byggt för att upptäcka. Den lämnar istället ett fotavtryck; i den tid då de referenser den använder och enhetshistorikens sammanhang antingen sträcker sig tillbaka längre än transaktionen framför dig eller inte. Den kör ett fjärråtkomstverktyg tyst i bakgrunden medan någon annans referenser förbrukas. Inget av detta kräver att läsa ett ansikte. Det kräver bara förmågan att läsa hela sessionens detaljer mot ett brett signalset.

Den mänskliga ledtråden som inte längre finns

Ingenstans är omkalibreringen mer akut än vid identitetsverifiering, där bedrägeriteam har byggt en hel disciplin kring att fånga mänskliga ledtrådar, såsom onaturlig blinkningsfrekvens, felaktig läpsynkronisering eller ett strukturerat artefakt i ett foto. Deepfake‑verktyg har stängt de flesta av dessa luckor, och kriminella behöver inte längre bygga sådana verktyg själva.

Interpol’s Global Financial Fraud Threat Assessment, publicerad i mars, fann att finansiellt bedrägeri tömde mer än $442 miljarder från den globala ekonomin 2025, med AI‑förstärkt bedrägeri nu ungefär 4,5 gånger mer lönsamt än traditionella metoder. Rapporten identifierar ”deepfake‑as‑a‑service”-verksamheter på mörka webbmarknader som säljer syntetiska identitetskitt, kompletta med AI‑genererade videoavatarer, röstkloner och biometriska data, som låter en angripare bygga en övertygande digital klon från bara 10 sekunders ljud som hämtats från ett inlägg på sociala medier.

Den pålitliga signalen var aldrig ID‑dokumentet. Det är kontinuitet: det digitala förflutna som en verklig identitet samlar på sig under år av vanlig kontaktivitet och beteendemönster, den typ av historik som en syntetisk identitet, eller en agent som står för en sådan, inte hinner bygga. Ett system som bara letar efter ett fabricerat ID‑dokument kommer fortsätta misslyckas. Ett system som söker efter en saknad historik har ett svårare mål att förfalska.

Ombyggnad för en annan motståndare

Det är ingen uppmaning till panik, och det är inte ett påstående om att mänskligt bedrägeri har försvunnit. Det har det inte. Det är ett argument för att en stack som är helt justerad efter mänskliga begränsningar, takt och ledtrådar har ett strukturellt blint område exakt där AI‑agenter verkar, och det blinda området kommer inte att försvinna av sig själv. Varje enskild kontroll, testad isolerat, kan fortfarande gå igenom utan anmärkning. Det är först när dessa kontroller läses tillsammans, över tillräckligt många oberoende dimensioner, som mönstret som en isolerad kontroll var byggd för att missa blir synligt.

Agentiska AI‑system kan nu autonomt planera och genomföra en komplett bedrägerikampanj, från spaning till lösenkrav, i stort sett utan någon mänsklig operatör i loopen. Lösningen är inte en regel som fästs på den gamla stacken. Det är en ombyggd premiss. Testet är inte längre om något ser ut som en mänsklig bedragare — det är om det någonsin har funnits en genuin människa bakom det alls.