Bygging av tillit til AI med ID-verifisering

Generativ AI har fanget interesse over hele verden. I virkeligheten har ​​60% av organisasjonene med rapportert AI-adoptsjon nå bruker generativ AI. I dag konkurrerer ledere om å bestemme hvordan de kan inkorporere AI-verktøy i sine teknologistaker for å forbli konkurransekyndige og relevante – og AI-utviklere skaper flere verktøy enn noen gang tidligere. Men med rask adopsjon og teknologiens natur, blir mange sikkerhets- og etiske bekymringer ikke fullstendig vurdert når bedrifter skynder seg å inkorporere den nyeste og beste teknologien. Som resultat avtar tilliten.

En nylig undersøkelse fant at bare 48% av amerikanerne tror AI er trygg og sikker, mens 78% sier de er svært eller delvis bekymret for at AI kan brukes til ondsinnet aktivitet. Mens AI er funnet å forbedre daglige arbeidsflyter, er forbrukerne bekymret for dårlige aktører og deres evne til å manipulere AI. Deepfake-egenskaper, for eksempel, blir mer og mer truende ettersom tilgangen til teknologien øker.

Å ha et AI-verktøy er ikke lenger nok. For AI å nå sin sanne, positive potensiale, må bedrifter inkorporere AI i løsninger som demonstrerer ansvarlig og levedyktig bruk av teknologien for å bringe høyere tillit til forbrukerne, spesielt i cybersikkerhet hvor tillit er nøkkel.

AI-sikkerhetsutfordringer

Generativ AI-teknologi utvikler seg i raskt tempo og utviklere begynner nå å forstå betydningen av å bringe denne teknologien til bedriftsverdenen, som vi har sett i den nylige lanseringen av ChatGPT Enterprise.

Den nåværende AI-teknologien er i stand til å oppnå ting som bare ble diskutert i vitenskapsfiksjon for mindre enn en tiår siden. Hvordan den fungerer er imponerende, men den relativt raske utviklingen er enda mer imponerende. Dette er det som gjør AI-teknologien så skalerbar og tilgjengelig for bedrifter, personer og, naturligvis, svindlere. Mens AI-teknologiens evner har ledet innovasjon, har dens omfattende bruk også ført til utvikling av farlig teknologi som deepfakes-as-a-service. Begrepet “deepfake” er avledet fra teknologiens evne til å skape denne spesielle typen manipulert innhold (eller “fake”) som krever bruk av dyptlæringsteknikker.

Svindlere vil alltid følge pengene som gir dem den største avkastningen – så ethvert bedrift med høy potensial avkastning vil være deres mål. Dette inkluderer finansteknologi, bedrifter som betaler fakturaer, statstjenester og detaljhandlere med høyverdige varer som alltid vil være på toppen av listen deres.

Vi er i en situasjon hvor tillit er på spill, og forbrukerne er stadig mindre tillitsfulle, og gir amatørsvindlere flere muligheter enn noen gang tidligere til å angripe. Med den nye tilgangen til AI-verktøy og stadig lavere kostnader, er det nå enklere for dårlige aktører av alle ferdighetsnivåer å manipulere andres bilder og identiteter. Deepfake-egenskaper blir mer tilgjengelige for massene gjennom deepfake-apper og nettsider, og å skape sofistikerte deepfakes krever svært lite tid og en relativt lav ferdighetsnivå.

Med bruk av AI har vi også sett en økning i overtakelse av kontoer. AI-genererte deepfakes gjør det enkelt for noen å skape forestillinger eller syntetiske identiteter, enten det er av kjendiser eller selv din sjef. ​​

AI og Large Language Model (LLM) generative språkapplikasjoner kan brukes til å skape mer sofistikert og unngåelig svindel som er vanskelig å oppdage og fjerne. LLM-er har spesielt skapt en omfattende bruk av phishing-angrep som kan snakke ditt morsmål perfekt. Disse skaper også en risiko for “romance-svindel” i stor skala, når en person etablerer en forbindelse med noen gjennom en dating-nettsted eller app, men personen de kommuniserer med er en svindler som bruker en falsk profil. Dette fører mange sosiale plattformer til å vurdere å deployere “bevis på menneskelighet”-sjekker for å forbli levedyktige i stor skala.

Men, disse nåværende sikkerhetsløsningene som er på plass, som bruker metadata-analyse, kan ikke stoppe dårlige aktører. Deepfake-oppdaging er basert på klassifisering som søker etter forskjeller mellom ekte og falske. Imidlertid er denne oppdagingen ikke lenger kraftig nok, da disse avanserte truslene krever flere datapunkter for å oppdage.

AI og identitetsverifisering: Samarbeid

AI-utviklere må fokusere på å bruke teknologien til å gi bedre sikkerhetstiltak for beviste cybersikkerhetsmessige tiltak. Ikke bare vil dette gi en mer pålitelig brukssak for AI, men det kan også gi en mer ansvarlig bruk – oppmuntre bedre cybersikkerhetspraksis samtidig som det utvikler evnene til eksisterende løsninger.

En hovedsak for denne teknologien er innen identitetsverifisering. AI-trusselslandskapet utvikler seg stadig og teamene må være utstyrt med teknologi som kan raskt og enkelt justere og implementere nye teknikker.

Noen muligheter i å bruke AI med identitetsverifiseringsteknologi inkluderer:

• Undersøke nøkkel-egenskaper ved enheten
• Bruke mot-AI for å identifisere manipulering: For å unngå å bli svindlet og beskytte viktig data, kan mot-AI identifisere manipulering av innkommende bilder.
• Behandle “fravær av data” som en risikofaktor i visse omstendigheter
• Søke aktivt etter mønster over flere sesjoner og kunder

Disse lagdelte forsvar som er gitt av både AI og identitetsverifiseringsteknologi, undersøker personen, deres hevdete identitetsdokument, nettverk og enhet, minimiserer risikoen for manipulering som et resultat av deepfakes og sikrer at bare pålitelige, ekte personer får tilgang til dine tjenester.

AI og identitetsverifisering må fortsette å samarbeide. Jo mer robust og fullstendig treningdata, jo bedre blir modellen, og siden AI bare er like god som dataene den får, jo flere datapunkter vi har, jo mer nøyaktig kan identitetsverifisering og AI være.

Fremtiden for AI og ID-verifisering

Det er vanskelig å stole på noe online med mindre det er bevist av en pålitelig kilde. I dag ligger kjernen av online-tillit i bevist identitet. Tilgangen til LLM-er og deepfake-verktøy stiller en økende risiko for online-svindel. Organiserte kriminelle grupper er godt finansierte og kan nå utnytte den nyeste teknologien i større skala.

Bedrifter må utvide sin forsvarslandskap og kan ikke være redd for å investere i teknologi, selv om det legger til litt friksjon. Det kan ikke lenger bare være ett forsvarspunkt – de må se på alle datapunkter som er assosiert med personen som prøver å få tilgang til systemene, varene eller tjenestene og fortsette å verifisere gjennom hele deres reise.

Deepfakes vil fortsette å utvikle seg og bli mer sofistikerte, og bedriftsledere må kontinuerlig gjennomgå data fra løsningsutviklinger for å identifisere nye svindel-mønster og arbeide for å utvikle sine cybersikkerhetsstrategier kontinuerlig sammen med truslene.