Opbygning af tillid til AI med ID-verificering

Generativ AI har fanget interesse over hele verden. I virkeligheden bruger ​​60% af organisationer med rapporteret AI-adopteringsgrad nu generativ AI. I dag konkurrerer ledere om at bestemme, hvordan de kan inkorporere AI-værktøjer i deres teknologistakke for at forblive konkurrencedygtige og relevante – og AI-udviklere skaber mere værktøj end nogensinde før. Men med den hurtige adoption og teknologiens natur bliver mange sikkerheds- og etiske bekymringer ikke fuldt ud overvejet, mens virksomheder skynder sig at inkorporere den seneste og bedste teknologi. Dette resulterer i, at tilliden svinder.

En ny undersøgelse fandt kun, at 48% af amerikanerne mener, at AI er sikkert og sikret, mens 78% siger, at de er meget eller delvist bekymrede for, at AI kan bruges til ondsindet formål. Selvom AI er blevet fundet til at forbedre daglige arbejdsprocesser, er forbrugerne bekymrede for dårlige aktører og deres evne til at manipulere AI. Deepfake-funktioner bliver f.eks. mere og mere en trussel, da teknologiens tilgængelighed for masserne øges.

At have et AI-værktøj er ikke længere nok. For at AI kan nå sin sande, positive potentiale, har virksomheder brug for at inkorporere AI i løsninger, der demonstrerer ansvarlig og troværdig brug af teknologien for at bringe højere tillid til forbrugerne, især på området for cybersikkerhed, hvor tillid er afgørende.

AI-sikkerhedsudfordringer

Generativ AI-teknologi udvikler sig i hurtigt tempo, og udviklere er lige nu begyndt at forstå betydningen af at bringe denne teknologi til virksomhederne, som vi har set med den seneste lancering af ChatGPT Enterprise.

Nuværende AI-teknologi er i stand til at opnå ting, der tidligere kun blev diskuteret i science fiction-genren for mindre end en årti siden. Hvordan det fungerer er imponerende, men den relativt hurtige udvikling, det sker med, er endnu mere imponerende. Det er det, der gør AI-teknologi så skalerbar og tilgængelig for virksomheder, personer og, naturligvis, svindlere. Mens AI-teknologiens evner har ført innovationen fremad, har dens omfattende brug også ført til udviklingen af farlig teknologi som deepfakes-as-a-service. Begrebet “deepfake” stammer fra teknologiens skabelse af denne bestemte type manipuleret indhold (eller “fake”), der kræver brug af dybe læringsteknikker.

Svindlere følger altid pengene, der giver dem den største avkastning – så enhver virksomhed med høj potentiel afkast vil være deres mål. Dette betyder, at fintech, virksomheder, der betaler regninger, offentlige tjenester og detailhandlere med højværdige varer altid vil være øverst på deres liste.

Vi befinder os i en situation, hvor tilliden er på spil, og forbrugerne er stadig mindre tillidsfulde, hvilket giver amatørsvindlere flere muligheder end nogensinde før for at angribe. Med den nye tilgængelighed af AI-værktøjer og den stigende lavere omkostning er det lettere for dårlige aktører af enhver færdighedsniveau at manipulere andres billeder og identiteter. Deepfake-funktioner bliver mere tilgængelige for masserne gennem deepfake-apps og -websteder, og skabelse af sofistikerede deepfakes kræver meget lidt tid og en relativt lav færdighedsniveau.

Med brugen af AI har vi også set en stigning i overtagelse af konti. AI-genererede deepfakes gør det let for enhver at skabe imitationer eller syntetiske identiteter, enten det er af berømtheder eller selv din chef. ​​

AI og Large Language Model (LLM) generative sprogapplikationer kan bruges til at skabe mere sofistikeret og undvigende svindel, der er svært at opdage og fjerne. LLM’er kan specifikt skabe en omfattende brug af phishing-angreb, der kan tale dit modersmål perfekt. Disse skaber også en risiko for “romance-svindel” i stor målestok, når en person etablerer en forbindelse med nogen gennem en dating-website eller -app, men den person, de kommunikerer med, er en svindler, der bruger en falsk profil. Dette fører til, at mange sociale platforme overvejer at implementere “bevis for menneskelighed”-kontroller for at forblive livskraftige i stor målestok.

Men disse nuværende sikkerheds løsninger, der er baseret på metadata-analyse, kan ikke stoppe dårlige aktører. Deepfake-detektion er baseret på klassificatorer, der søger efter forskelle mellem ægte og falske. Men denne detektion er ikke længere kraftfuld nok, da disse avancerede trusler kræver flere datapunkter for at detektere.

AI og ID-verificering: Samarbejde

AI-udviklere skal fokusere på at bruge teknologien til at give forbedrede sikkerhedsforanstaltninger for beprøvede cybersikkerhedsforanstaltninger. Dette vil ikke kun give en mere pålidelig brugssag for AI, men kan også give en mere ansvarlig brug – opmuntre bedre cybersikkerhedspraksis, samtidig med at det udvikler kapaciteten af eksisterende løsninger.

En hovedbrugsøjne for denne teknologi er inden for ID-verificering. AI-trusselslandskabet udvikler sig konstant, og holdene har brug for at være udstyret med teknologi, der kan hurtigt og let tilpasse og implementere nye teknikker.

Nogle muligheder for at bruge AI med ID-verificeringsteknologi omfatter:

• Undersøgelse af nøgleenhedsattributter
• Brug af mod-AI til at identificere manipulation: For at undgå at blive snydt og beskytte vigtige data kan mod-AI identificere manipulation af indgående billeder.
• Behandling af “manglende data” som en risikofaktor under visse omstændigheder
• Aktivt søge efter mønstre på tværs af multiple sessioner og kunder

Disse lagdelte forsvar, der leveres af både AI og ID-verificeringsteknologi, undersøger personen, deres påståede identitetsdokument, netværk og enhed, og minimiserer risikoen for manipulation som følge af deepfakes, og sikrer, at kun tillidsfulde, ægte personer får adgang til jeres tjenester.

AI og ID-verificering skal fortsætte med at samarbejde. Jo mere robust og komplet træningsdata, desto bedre bliver modellen, og da AI kun er så god som de data, den får, jo flere datapunkter, vi har, desto mere præcis kan ID-verificering og AI være.

Fremtiden for AI og ID-verificering

Det er svært at stole på noget online, medmindre det er beviset af en pålidelig kilde. I dag ligger kernen af online-tillid i beviset identitet. Adgangen til LLM’er og deepfake-værktøjer udgør en stigende online-svindelrisiko. Organiserede kriminelle grupper er vel-finansierede og kan nu udnytte den seneste teknologi i større målestok.

Virksomheder skal udvide deres forsvarslandskab og kan ikke være bange for at investere i teknologi, selvom det tilføjer en smule friktion. Der kan ikke længere kun være ét forsvars punkt – de skal se på alle datapunkter, der er forbundet med den person, der forsøger at få adgang til systemerne, varer eller tjenesteydelser, og fortsætte med at verificere under hele deres rejse.

Deepfakes vil fortsætte med at udvikle sig og blive mere sofistikerede, og virksomhedsledere skal kontinuerligt gennemgå data fra løsningsimplementeringer for at identificere nye svindelmønstre og arbejde på at udvikle deres cybersikkerhedsstrategier kontinuerligt sideløbende med truslerne.