Vertrouwen opbouwen in AI met ID-verificatie

Generatieve AI heeft de aandacht getrokken van bedrijven over de hele wereld. In feite gebruiken ​​60% van de organisaties met gemelde AI-adoptie nu generatieve AI gebruiken. Vandaag de dag proberen leiders uit te zoeken hoe ze AI-hulpmiddelen in hun technische stacks kunnen integreren om concurrerend en relevant te blijven – en AI-ontwikkelaars creëren meer hulpmiddelen dan ooit tevoren. Maar met de snelle adoptie en de aard van de technologie worden veel beveiligings- en ethische zorgen niet volledig overwogen terwijl bedrijven haasten om de nieuwste en beste technologie te integreren. Als gevolg daarvan neemt het vertrouwen af.

Een recente enquête vond dat slechts 48% van de Amerikanen denkt dat AI veilig en beveiligd is, terwijl 78% zegt dat ze erg of enigszins bezorgd zijn dat AI voor kwaadaardige doeleinden kan worden gebruikt. Terwijl AI is gebleken de dagelijkse workflows te verbeteren, zijn consumenten bezorgd over slechte actoren en hun vermogen om AI te manipuleren. Deepfake-mogelijkheden, bijvoorbeeld, worden een grotere bedreiging naarmate de toegankelijkheid van de technologie toeneemt.

Het hebben van een AI-hulpmiddel is niet langer voldoende. Om AI zijn ware, gunstige potentieel te laten bereiken, moeten bedrijven AI integreren in oplossingen die verantwoorde en haalbare gebruik van de technologie demonstreren om een hoger vertrouwen bij consumenten te creëren, vooral op het gebied van cybersecurity waar vertrouwen essentieel is.

AI-beveiligingsuitdagingen

Generatieve AI-technologie evolueert in een snel tempo en ontwikkelaars beginnen nu te begrijpen hoe belangrijk het is om deze technologie naar het bedrijfsleven te brengen, zoals te zien is aan de recente lancering van ChatGPT Enterprise.

Huidige AI-technologie is in staat om dingen te bereiken die minder dan een decennium geleden nog in de sfeer van sciencefiction lagen. Hoe het werkt is indrukwekkend, maar de relatief snelle expansie waarin het allemaal gebeurt is nog indrukwekkender. Dat is wat AI-technologie zo schaalbaar en toegankelijk maakt voor bedrijven, individuen en, natuurlijk, fraudeurs. Terwijl de mogelijkheden van AI-technologie innovatie hebben aangewakkerd, heeft het wijdverbreide gebruik ook geleid tot de ontwikkeling van gevaarlijke technologie zoals deepfakes-as-a-service. De term “deepfake” is afgeleid van de technologie die deze specifieke stijl van gemanipuleerde inhoud (of “fake”) creëert met behulp van diepe leertechnieken.

Fraudeurs zullen altijd het geld volgen dat hen het grootste rendement oplevert – dus elk bedrijf met een hoog potentieel rendement zal hun doelwit zijn. Dit betekent fintech, bedrijven die facturen betalen, overheidsdiensten en retailers van waardevolle goederen zullen altijd bovenaan hun lijst staan.

We zijn in een situatie waarin vertrouwen op het spel staat, en consumenten worden steeds minder vertrouwend, waardoor amateur-fraudeurs meer kansen hebben dan ooit tevoren om aan te vallen. Met de newfound toegankelijkheid van AI-hulpmiddelen en de steeds lagere kosten is het gemakkelijker voor slechte actoren van elk vaardigheidsniveau om andermans beelden en identiteiten te manipuleren. Deepfake-mogelijkheden worden steeds toegankelijker voor het grote publiek via deepfake-apps en -websites en het creëren van geavanceerde deepfakes vereist heel weinig tijd en een relatief laag vaardigheidsniveau.

Met het gebruik van AI hebben we ook een toename van account-overnames gezien. AI-gegenereerde deepfakes maken het gemakkelijk voor iedereen om impersonaties of synthetische identiteiten te creëren, of het nu gaat om beroemdheden of zelfs uw baas. ​​

AI- en Large Language Model (LLM) generatieve taaltoepassingen kunnen worden gebruikt om meer geavanceerde en sluwe fraude te creëren die moeilijk te detecteren en te verwijderen is. LLM’s in het bijzonder hebben een wijdverbreid gebruik van phishing-aanvallen gecreëerd die uw moedertaal perfect spreken. Deze creëren ook een risico van “romance-fraude” op grote schaal, wanneer iemand contact maakt met iemand via een datingsite of -app, maar de persoon met wie ze communiceren een scammer is die een valse profiel gebruikt. Dit leidt ertoe dat veel sociale platforms overwegen om “proof of humanity”-controles te implementeren om levensvatbaar te blijven op grote schaal.

Maar deze huidige beveiligingsoplossingen, die metadata-analyse gebruiken, kunnen slechte actoren niet stoppen. Deepfake-detectie is gebaseerd op classificatoren die verschillen zoeken tussen echt en nep. Maar deze detectie is niet langer krachtig genoeg, omdat deze geavanceerde bedreigingen meer gegevenspunten vereisen om te detecteren.

AI en identiteitsverificatie: samenwerken

AI-ontwikkelaars moeten zich richten op het gebruik van de technologie om verbeterde beveiligingsmaatregelen voor bewezen cybersecurity-maatregelen te bieden. Niet alleen zal dit een meer betrouwbaar gebruiksscenario voor AI bieden, maar het kan ook een meer verantwoord gebruik stimuleren – door betere cybersecurity-praktijken aan te moedigen terwijl de mogelijkheden van bestaande oplossingen worden uitgebreid.

Een belangrijk gebruiksscenario van deze technologie is binnen identiteitsverificatie. Het AI-bedreigingslandschap evolueert voortdurend en teams moeten worden uitgerust met technologie die snel en gemakkelijk kan aanpassen en nieuwe technieken kan implementeren.

Enkele kansen bij het gebruik van AI met identiteitsverificatietechnologie zijn:

• Belangrijke apparaatkenmerken onderzoeken
• Counter-AI gebruiken om manipulatie te identificeren: Om fraude te voorkomen en belangrijke gegevens te beschermen, kan counter-AI de manipulatie van inkomende afbeeldingen identificeren.
• Het “ontbreken van gegevens” behandelen als een risicofactor in bepaalde omstandigheden
• Actief zoeken naar patronen over meerdere sessies en klanten

Deze gelaagde verdediging, die zowel door AI als identiteitsverificatietechnologie wordt geboden, onderzoekt de persoon, zijn beweerde identiteitsdocument, netwerk en apparaat, en minimaliseert het risico van manipulatie als gevolg van deepfakes, en zorgt ervoor dat alleen vertrouwde, echte personen toegang krijgen tot uw diensten.

AI en identiteitsverificatie moeten blijven samenwerken. Hoe robuuster en completer de trainingsgegevens, hoe beter het model wordt, en aangezien AI alleen zo goed is als de gegevens die het krijgt, hoe meer gegevenspunten we hebben, hoe nauwkeuriger identiteitsverificatie en AI kunnen zijn.

Toekomst van AI en ID-verificatie

Het is moeilijk om iets online te vertrouwen tenzij het wordt bewezen door een betrouwbare bron. Vandaag de dag ligt de kern van online vertrouwen in bewezen identiteit. De toegankelijkheid van LLM’s en deepfake-hulpmiddelen vormt een groeiend risico van online fraude. Georganiseerde misdaadgroepen zijn goed gefinancierd en kunnen nu de nieuwste technologie op grote schaal inzetten.

Bedrijven moeten hun verdedigingslandschap verbreden en mogen niet bang zijn om te investeren in technologie, zelfs als het een beetje wrijving toevoegt. Er kan niet langer slechts één verdedigingspunt zijn – ze moeten naar alle gegevenspunten kijken die zijn gekoppeld aan de persoon die toegang probeert te krijgen tot de systemen, goederen of diensten en moeten blijven verifiëren gedurende hun reis.

Deepfakes zullen blijven evolueren en geavanceerder worden, en bedrijfsleiders moeten voortdurend gegevens uit oplossingsimplementaties onderzoeken om nieuwe fraudepatronen te identificeren en moeten werken aan het ontwikkelen van hun cybersecurity-strategieën voortdurend naast de bedreigingen.