Varför AI-driven fakturabedrägeri blir allt svårare att upptäcka

Fakturabedrägeri är ingenting nytt. Det är något som alltid har varit på radar för finansteam över hela världen. Men den ökade användningen av artificiell intelligens förhöjer risken, särskilt för organisationer som fortsätter att förlita sig på kontroller som byggdes för en annan tid.

Ironiskt nog är AI till stor del ansvarig för den ökade risken för fakturabedrägeri, men det är också på väg att bli ett av de kraftfullaste verktygen för att försvara sig mot det.

Fakturabedrägeri är på uppgång

En nylig undersökning av mer än 250 finanstjänstemän fann att 41% har upplevt fakturabedrägeri eller överbetalning under de senaste 12 månaderna. Medan risken är hög över hela världen, är den särskilt vanlig för hälso- och sjukvård samt detaljhandelsfinansieringsteam.

Det faktum att mer än fyra av tio organisationer har upplevt nyliga fall av fakturabedrägeri är chockerande nog. Men vad som är ännu mer oroande är att den verkliga siffran troligen är ännu högre, med tanke på att bedrägeri ofta inte upptäcks förrän långt efter att skadan är skedd. I vissa fall upptäcks det aldrig alls.

Varje fall av fakturabedrägeri kan orsaka betydande ekonomisk skada för företaget. Detta är inte att tala om de regulatoriska konsekvenserna och påverkan det kan ha på interna och externa intressenters förtroende.

Men varför är fakturabedrägeri så vanligt och skadligt? Medan det finns många faktorer, är den snabba utvecklingen och den breda tillgängligheten av AI till stor del ansvarig.

Bedrägeritaktik är snabbt utvecklande

I det förflutna krävde fakturabedrägeri en viss grad av teknisk kunskap. Men även de mest avancerade bedragarna tenderade att förlita sig på enkla scheman och förutsägbara mönster. Som ett resultat var bedrägeri ofta lätt för finanstjänstemän att upptäcka och stoppa. Till exempel kunde en bedragare skapa och skicka in en falsk faktura, men i en rad var det ganska uppenbart att den inte var äkta.

I dag förändras allt detta snabbt. Vem som helst med rätt verktyg och information kan utföra fakturabedrägeritaktik som är subtila, sofistikerade och svåra att upptäcka.

AI, som tidigare var ett verktyg förbehållet de mest tekniskt kunniga användarna, är nu allmänt tillgängligt. Och antalet användare ökar, eftersom konsumenter hittar många användningsområden i sina dagliga liv. Faktum är att en nylig undersökning från Federal Reserve Bank of St. Louis fann att 54,6% av vuxna i USA i åldern 18-64 använder generativ AI i sina personliga eller professionella liv (eller båda). Detta är en ökning med hela 10 procentenheter från föregående år.

Samtidigt har bedragare lätt tillgång till mer information än någonsin tidigare. En snabb sökning kan enkelt hitta allmän information som företagsdata, leverantörspartnerskap och anställdas detaljer.

Bedragare kan mata in den informationen i generativa AI-verktyg för att skapa fakturor och kvitton som nästan exakt liknar äkta affärsdokument. Leverantörsvarumärken, formatering, fakturahistorik och betalningsmönster kan alla replikeras med anmärkningsvärd precision. Bedragare kan också kombinera dessa dokument med AI-genererade eller förfalskade kommunikationer som verkar komma från företagsledare, som uppmanar personalen att skynda på betalningarna.

AI har höjt ribban för fakturabedrägeri. Det faktum att taktikerna blir svårare att upptäcka skapar en verklig risk, särskilt för organisationer som hanterar en stor mängd fakturor. Men många finanstjänstemän förlitar sig fortfarande på förebyggande åtgärder som byggdes för en annan riskmiljö.

Manuella kontroller räcker inte för att bekämpa moderna fakturabedrägerier

Finanstjänstemän sitter inte overksamma medan risken för fakturabedrägeri hotar. De flesta har redan etablerat kontroller för att minska risken, såsom att manuellt granska varje faktura, kräva flera godkännare innan betalning, och genomföra periodiska revisioner eller granskningar av AP-aktivitet.

Det som alla dessa kontroller har gemensamt är att de förlitar sig på mänsklig kapacitet och bedömning. De kan ha varit tillräckliga för att upptäcka traditionellt bedrägeri, som ofta presenterade sig som ett uppenbart problem, såsom en dubblettfaktura. Men de subtila avvikelserna i AI-drivet fakturabedrägeri är mycket mer subtila, och på egen hand är manuella kontroller inte längre tillräckliga.

Eftersom de är beroende av mänsklig kapacitet är traditionella kontroller felbenägna. I dag hanterar 50% av finanstjänstemän 5 000 eller fler fakturor per månad, och en fjärdedel hanterar över 10 000. Att granska tusentals fakturor varje månad är tråkigt, och när trötthet sätter in kan även de mest diligenta anställda missa subtila inkonsekvenser.

När volymen ökar kan organisationer vända sig till att lägga till personal, ett tillvägagångssätt som inte är hållbart. När personal inte är ett alternativ gör teamet sitt bästa för att göra mer med mindre. Men när team förväntas upprätthålla hastighet och kontroll när volymen ökar, ökar risken.

När traditionella kontroller är den primära försvarslinjen mot AI-drivet fakturabedrägeri är hastighet en annan stor utmaning. När en ACH-transaktion har initierats har organisationer ett mycket smalt fönster för att avbryta den eller begära en återbetalning. Om de inte har de verktyg som behövs för att upptäcka potentiellt bedrägeri och vidta omedelbara åtgärder, kan medlen gå förlorade för alltid.

Med alla dessa utmaningar är det verkligen inte konstigt att begränsad bedrägeridetektering är en toppfrustration för så många finanstjänstemän.

AI blir den kraftfullaste försvarslinjen

AI är till stor del ansvarig för den ökade förekomsten och sofistikeringen av fakturabedrägeri. Men det är också på väg att bli ett av de kraftfullaste verktygen för att förhindra det i stor skala.

Manuella granskningar fokuserar på en faktura i taget, vilket kan vara tillräckligt för att upptäcka uppenbara problem. Men utan fullständig kontext är det svårt att upptäcka subtila avvikelser som kan indikera AI-drivet fakturabedrägeri. Som ett resultat kan teamen inte märka ett problem förrän långt efter att det har skett. Men då är det för sent att åtgärda skadan.

AI, å andra sidan, kan effektivt analysera varje faktura i kontexten av allt som kom före den. Den lär sig vad “normalt” ser ut och kan upptäcka potentiella problem, såsom fakturamönster, tid och bankinformation som ligger utanför förväntade normer. Om något misstänkt upptäcks varnas teamen i realtid så att de kan granska och bestämma nästa steg.

AI kan också skalas för att stödja tillväxt. Till skillnad från människor möter den inte kognitiv trötthet. Den kan applicera en hög nivå av granskning på varje faktura, oavsett om ett företag hanterar 500 eller 5 000, utan att sakta ner betalningscyklerna.

Till skillnad från statiska regelbaserade kontroller kan AI kontinuerligt lära sig över tid. När den utvecklar en djupare förståelse för normalt beteende för varje leverantör blir den mer effektiv vid att upptäcka ovanligt beteende som kan tyda på fakturabedrägeri.

Mänsklig bedömning är fortfarande en kritisk del av pusslet.

Medan AI kan spela en viktig roll i att upptäcka AI-drivet fakturabedrägeri, kommer mänsklig bedömning alltid att vara avgörande. AI kan identifiera ovanliga mönster och flagga fakturor som behöver en närmare granskning. Men till slut är det människor som är ansvariga för att granska kontexten och fatta beslut.

I stället för att ersätta AP-proffs hjälper AI dem att fokusera sin uppmärksamhet där den verkligen behövs. Istället för att lägga tid på att granska varje enskild faktura kan teamen koncentrera sig på högrisktransaktioner och potentiella undantag. När organisationer tar detta tillvägagångssätt är de bättre rustade för att upprätthålla kontroll, hantera potentiella hot omedelbart och frigöra finanstjänstemän för att fokusera på strategiskt arbete och analys.

Sammanfattning

AI har höjt ribban för fakturabedrägeri, vilket gör det svårare att skilja mellan misstänkt aktivitet och legitima transaktioner. Organisationer som förlitar sig enbart på manuella kontroller byggda för en enklare tid kommer att ha svårt att förhindra risk utan att sakta ner verksamheten.

När AI-drivna bedrägeritaktik blir alltmer sofistikerade och fakturavolymen fortsätter att öka, behöver finanstjänstemän verktyg som kan upptäcka subtila avvikelser i stor skala. Genom att kombinera AI-driven detektering med mänsklig bedömning kan organisationer hålla jämna steg utan att offra kontroll.