Bygga förtroende för AI med ID-verifiering

Generativ AI har väckt intresse över hela världen. Faktum är att ​​60% av organisationer med rapporterad AI-användning använder nu generativ AI. Idag kämpar ledare för att bestämma hur de ska införliva AI-verktyg i sina tekniska stackar för att förbli konkurrenskraftiga och relevanta – och AI-utvecklare skapar fler verktyg än någonsin tidigare. Men med snabb anpassning och teknologins natur övervägs många säkerhets- och etiska problem inte fullständigt när företag skyndar sig att införliva den senaste och bästa tekniken. Som ett resultat minskar förtroendet.

En nylig undersökning fann att endast 48% av amerikanerna tror att AI är säkert och säkert, medan 78% säger att de är mycket eller ganska oroliga för att AI kan användas för illvilligt syfte. Medan AI har visat sig förbättra dagliga arbetsflöden är konsumenter oroliga för dåliga aktörer och deras förmåga att manipulera AI. Deepfake-förmågor, till exempel, blir allt mer hotfulla när teknologins tillgänglighet för massorna ökar.

Att ha ett AI-verktyg är inte längre tillräckligt. För att AI ska nå sin fulla, fördelaktiga potential behöver företag införliva AI i lösningar som visar ansvarsfull och livskraftig användning av tekniken för att öka förtroendet hos konsumenterna, särskilt inom cybersäkerhet där förtroende är nyckeln.

AI-säkerhetsutmaningar

Generativ AI-teknik utvecklas i snabb takt och utvecklare förstår nu betydelsen av att ta med denna teknik till företaget, som visas av den nyliga lanseringen av ChatGPT Enterprise.

Den nuvarande AI-tekniken kan uppnå saker som tidigare bara diskuterades inom science fiction för mindre än ett decennium sedan. Hur den fungerar är imponerande, men den relativt snabba expansionen i vilken allt detta sker är ännu mer imponerande. Det är vad som gör AI-tekniken så skalbar och tillgänglig för företag, individer och, naturligtvis, bedragare. Medan AI-teknikens förmågor har lett innovation, har dess omfattande användning också lett till utvecklingen av farlig teknik som deepfakes-as-a-service. Begreppet “deepfake” härrör från tekniken som skapar denna särskilda typ av manipulerat innehåll (eller “fake”) som kräver användning av djupinlärningstekniker.

Bedragare kommer alltid att följa pengarna som ger dem den största avkastningen – så något företag med hög potentialavkastning kommer att vara deras mål. Detta innebär fintech, företag som betalar fakturor, statliga tjänster och detaljhandlare med högvärdesvaror kommer alltid att vara högst upp på deras lista.

Vi befinner oss i en situation där förtroende står på spel, och konsumenter blir alltmer misstänksamma, vilket ger amatörbedragare fler möjligheter än någonsin att attackera. Med den nya tillgängligheten av AI-verktyg och den alltmer låga kostnaden är det lättare för dåliga aktörer av alla färdighetsnivåer att manipulera andras bilder och identiteter. Deepfake-förmågor blir alltmer tillgängliga för massorna genom deepfake-appar och webbplatser, och att skapa sofistikerade deepfakes kräver mycket lite tid och en relativt låg färdighetsnivå.

Med användningen av AI har vi också sett en ökning av kontohanteringar. AI-genererade deepfakes gör det lätt för vem som helst att skapa imitationer eller syntetiska identiteter, antingen det är kändisar eller till och med din chef. ​​

AI och stora språkmodeller (LLM) genererar språkapplikationer som kan användas för att skapa mer sofistikerad och undvikande bedrägeri som är svårt att upptäcka och ta bort. LLM:er i synnerhet har skapat en omfattande användning av phishingattacker som kan tala ditt modersmål perfekt. Dessa skapar också en risk för “romancebedrägeri” i stor skala, när en person etablerar en kontakt med någon genom en dejtingsajt eller app, men den person de kommunicerar med är en bedragare som använder ett falskt konto. Detta leder många sociala plattformar att överväga att distribuera “bevis på mänsklighet”-kontroller för att förbli livskraftiga i stor skala.

Men dessa nuvarande säkerhetslösningar som finns på plats, som använder metadataanalys, kan inte stoppa dåliga aktörer. Deepfake-detektion baseras på klassificerare som letar efter skillnader mellan riktiga och falska. Men denna detektion är inte längre tillräckligt kraftfull eftersom dessa avancerade hot kräver fler datapunkter för att upptäcka.

AI och identitetsverifiering: Samarbetar

AI-utvecklare behöver fokusera på att använda tekniken för att tillhandahålla förbättrade säkerhetsåtgärder för beprövade cybersäkerhetsåtgärder. Inte bara kommer detta att ge en mer tillförlitlig användningsfall för AI, utan det kan också ge en mer ansvarsfull användning – uppmuntrar bättre cybersäkerhetspraxis medan man utvecklar förmågan hos befintliga lösningar.

En huvudsaklig användning av denna teknik är inom identitetsverifiering. AI-hotlandskapet utvecklas ständigt och team behöver utrustas med tekniken som kan snabbt och enkelt anpassa och implementera nya tekniker.

Några möjligheter med att använda AI med identitetsverifieringsteknik inkluderar:

• Undersökning av viktiga enhetsattribut
• Användning av mot-AI för att identifiera manipulation: För att undvika bedrägeri och skydda viktig data kan mot-AI identifiera manipulationen av inkommande bilder.
• Behandling av “avsaknad av data” som en riskfaktor i vissa omständigheter
• Aktivt leta efter mönster över flera sessioner och kunder

Dessa lagerförsvar som tillhandahålls av både AI och identitetsverifieringsteknik undersöker personen, deras påstådda identitetshandling, nätverk och enhet, minimera risken för manipulation som ett resultat av deepfakes och säkerställer att endast betrodda, äkta personer får tillgång till era tjänster.

AI och identitetsverifiering behöver fortsätta att samarbeta. Ju mer robust och komplett utbildningsdata, desto bättre modellen blir och eftersom AI endast är så bra som de data den matas med, ju fler datapunkter vi har, desto mer exakt identitetsverifiering och AI kan vara.

Framtiden för AI och ID-verifiering

Det är svårt att lita på någonting online om det inte bevisas av en tillförlitlig källa. Idag ligger kärnan i onlineförtroende i beprövad identitet. Tillgängligheten till stora språkmodeller och deepfake-verktyg utgör en ökande onlinebedrägeririsk. Organiserade brottsgrupper är välfinansierade och kan nu utnyttja den senaste tekniken i stor skala.

Företag behöver utöka sitt försvarslandskap och kan inte vara rädda för att investera i teknik, även om det lägger till en viss friktion. Det kan inte längre finnas bara en försvarsposition – de behöver titta på alla datapunkter som är associerade med den person som försöker få tillgång till systemen, varor eller tjänster och fortsätta verifiera under hela deras resa.

Deepfakes kommer att fortsätta utvecklas och bli mer sofistikerade, företagsledare behöver kontinuerligt granska data från lösningssätt för att identifiera nya bedrägerimönster och arbeta för att utveckla sina cybersäkerhetsstrategier kontinuerligt bredvid hoten.