Budování důvěry v AI s ověřením identity

Generativní AI získala zájem firem po celém světě. Skutečně, ​​60% firem s hlášenou adopcí AI nyní používá generativní AI. Dnešní lídři se závodí, aby určili, jak začlenit nástroje AI do svých technologických značek, aby zůstali konkurenceschopní a relevantní – a vývojáři AI vytvářejí více nástrojů než kdykoli předtím. Ale s rychlou adopcí a povahou technologie nejsou mnohé bezpečnostní a etické obavy plně zvažovány, když firmy spěchají, aby začlenily nejnovější a nejlepší technologii. Jako výsledek, důvěra slábne.

Nedávný průzkum zjistil, že pouze 48% Američanů věří, že AI je bezpečná a zabezpečená, zatímco 78% říká, že jsou velmi nebo trochu znepokojeni, že AI může být použita pro zlé úmysly. Zatímco AI byla nalezena jako zlepšení denních pracovních postupů, spotřebitelé jsou znepokojeni špatnými herci a jejich schopností manipulovat AI. Deepfake schopnosti, například, se stávají větší hrozbou, jak se zvyšuje dostupnost technologie pro masy.

Mít nástroj AI již není dostatečné. Pro AI, aby dosáhla svého skutečného, prospěšného potenciálu, firmy potřebují začlenit AI do řešení, která demonstrují zodpovědné a životaschopné použití technologie, aby přinesly vyšší důvěru spotřebitelům, zejména v kybernetické bezpečnosti, kde důvěra je klíčová.

Výzvy kybernetické bezpečnosti AI

Technologie generativní AI se vyvíjí rychlou rychlostí a vývojáři teprve nyní chápou význam přinášení této technologie do podniku, jak je vidět z nedávného spuštění ChatGPT Enterprise.

Současná technologie AI je schopna dosáhnout věcí, o kterých se dříve mluvilo pouze v oblasti science fiction, méně než před deseti lety. Jak funguje, je působivé, ale relativně rychlý růst, ve kterém se to všechno děje, je ještě působivější. To je to, co dělá technologii AI tak škálovatelnou a dostupnou pro firmy, jednotlivce a, samozřejmě, podvodníky. Zatímco schopnosti technologie AI vedly inovace, jejich široké použití také vedlo k vývoji nebezpečné technologie, jako jsou deepfakes-as-a-service. Termín “deepfake” je odvozen od technologie, která vytváří tento konkrétní styl manipulovaného obsahu (nebo “falešného”) vyžadujícího použití hlubokých učících se technik.

Podvodníci budou vždy následovat peníze, které jim poskytují největší návratnost – takže jakékoli podnikání s vysokým potenciálem návratnosti bude jejich cílem. To znamená fintech, podniky, které platí faktury, vládní služby a maloobchodníci s vysokou hodnotou zboží budou vždy na vrcholu jejich seznamu.

Jdeme do místa, kde důvěra je na hranici, a spotřebitelé jsou stále méně důvěřiví, poskytují amatérským podvodníkům více příležitostí než kdykoli předtím, aby útočili. S novou dostupností nástrojů AI a stále nižšími náklady je snazší pro špatné herce jakéhokoli úrovně dovedností manipulovat obrazem a identitou ostatních. Deepfake schopnosti se stávají dostupnějšími pro masy prostřednictvím deepfake aplikací a webových stránek a vytváření sofistikovaných deepfakes vyžaduje velmi málo času a relativně nízkou úroveň dovedností.

S použitím AI jsme také viděli nárůst převzetí účtů. AI vygenerované deepfakes dělají to snadné pro kohokoli, aby vytvořil napodobení nebo syntetické identity, ať už se jedná o celebrity nebo dokonce vašeho šéfa. ​​

AI a Large Language Model (LLM) generativní jazykové aplikace lze použít k vytvoření více sofistikované a vyhnout se podvodům, které jsou obtížné detekovat a odstranit. LLMs zejména vytvořily široké použití phishingových útoků, které mohou mluvit vaším mateřským jazykem dokonale. Tyto také vytvářejí riziko “romance podvodu” ve velkém měřítku, když osoba naváže spojení s někým prostřednictvím datové stránky nebo aplikace, ale osoba, s níž komunikujete, je podvodník, který používá falešný profil. To vede mnoho sociálních platforem k zvažování nasazení “důkazů humanity” pro udržení životaschopnosti ve velkém měřítku.

Ale tyto současné bezpečnostní řešení, která používají analýzu metadat, nemohou zastavit špatné herce. Deepfake detekce je založena na klasifikátorech, které hledají rozdíly mezi skutečnými a falešnými. Ale tato detekce již není dostatečně silná, protože tyto pokročilé hrozby vyžadují více datových bodů k detekci.

AI a ověření identity: Práce вместе

Vývojáři AI potřebují soustředit se na použití technologie k poskytování vylepšených bezpečnostních opatření pro prokázané bezpečnostní opatření. Nejenže to poskytne více spolehlivý případ použití pro AI, ale také více zodpovědné použití – podporující lepší bezpečnostní postupy, zatímco se rozvíjí schopnosti stávajících řešení.

Hlavní případ použití této technologie je v ověřování identity. AI hrozba krajina se neustále vyvíjí a týmy potřebují být vybaveny technologií, která může rychle a snadno přizpůsobit a implementovat nové techniky.

Některé příležitosti při použití AI s technologií ověřování identity zahrnují:

• Prohlížení klíčových atributů zařízení
• Použití protivníka AI k identifikaci manipulace: K tomu, aby nebyli oklamáni a chránili důležité údaje, protivník AI může identifikovat manipulaci příchozích obrazů.
• Zacházení s “absencí dat” jako rizikovým faktorem v určitých okolnostech
• Aktivní hledání vzorců napříč několika relacemi a zákazníky

Tyto vrstvené obrany poskytované jak AI, tak technologií ověřování identity, zkoumají osobu, jejich tvrzený identifikační doklad, síť a zařízení, minimalizují riziko manipulace v důsledku deepfakes a zajišťují, že pouze důvěryhodné, skutečné osoby získají přístup k vašim službám.

AI a ověření identity potřebují pokračovat ve spolupráci. Čím robustnější a kompletnější jsou tréninková data, tím lepší model je a protože AI je pouze tak dobrá, jako data, která jsou krmena, tím více datových bodů máme, tím přesnější ověření identity a AI může být.

Budoucnost AI a ověření identity

Je těžké důvěřovat čemukoli online, pokud to není prokázáno spolehlivým zdrojem. Dnes, jádro online důvěry spočívá v prokázané identitě. Dostupnost LLM a deepfake nástrojů představuje rostoucí riziko online podvodu. Organizované zločinecké skupiny jsou dobře financovány a nyní mohou využívat nejnovější technologie ve větším měřítku.

Společnosti potřebují rozšířit svou obrannou krajinu a nemohou se bát investovat do technologií, i když přidávají trochu tření. Již nemůže být pouze jeden bod obrany – musí se dívat na všechny datové body spojené s osobou, která se snaží získat přístup k systémům, zboží nebo službám a ověřovat po celou dobu jejich cesty.

Deepfakes budou pokračovat ve vývoji a budou se stávat stále sofistikovanějšími, lídři firem potřebují neustále kontrolovat data z nasazení řešení, aby identifikovali nové podvodné vzorce a pracovali na vývoji svých bezpečnostních strategií neustále spolu s hrozbami.