Odborníci na umělou inteligenci řadí Deepfakes a dalších 19 AI založených zločinů podle úrovně nebezpečnosti

Nová zpráva publikovaná University College London měla za cíl identifikovat různé způsoby, kterými by umělá inteligence mohla potenciálně pomoci zločincům v příštích 15 letech. Zpráva požádala 31 různých odborníků na umělou inteligenci, aby ohodnotili 20 různých metod použití umělé inteligence pro spáchání zločinů a tyto metody ohodnotili podle různých faktorů. Odborníci na umělou inteligenci ohodnotili zločiny podle proměnných, jako je snadnost spáchání zločinu, potenciální společenská újma, kterou by zločin mohl způsobit, částka peněz, kterou by zločinec mohl získat, a obtížnost zastavení zločinu. Podle výsledků zprávy představují Deepfakes největší hrozbu pro zákonodárné občany a společnost obecně, protože jejich potenciál pro využití zločinci a teroristy je vysoký.

Odborníci na umělou inteligenci ohodnotili Deepfakes jako nejvážnější hrozbu, protože jsou obtížné identifikovat a proti nim bojovat. Deepfakes se neustále zlepšují v oklamání dokonce i očí odborníků na Deepfakes a dokonce i jiné AI založené metody detekce Deepfakes jsou často nespolehlivé. Pokud jde o jejich kapacitu pro újmu, Deepfakes lze snadno použít špatnými aktéry k diskreditaci důvěryhodných, odborných osob nebo k pokusu o oklamání lidí tím, že se vydávají za blízké osoby nebo jiné důvěryhodné osoby. Pokud jsou Deepfakes hojné, lidé mohou začít ztrácet důvěru v jakékoli audio nebo video média, což by mohlo vést k tomu, že ztratí víru v platnost skutečných událostí a faktů.

Dr. Matthew Caldwell, z UCL Computer Science, byl prvním autorem článku. Caldwell zdůrazňuje rostoucí nebezpečí Deepfakes, protože se naše činnost stále více přesouvá online. Jak Caldwell uvedl v UCL News:

„Na rozdíl od mnoha tradičních zločinů lze zločiny v digitálním světě snadno sdílet, opakovat a dokonce prodávat, což umožňuje zločincům marketingovat a poskytovat zločiny jako službu. To znamená, že zločinci mohou být schopni outsourcovat obtížnější aspekty svých AI založených zločinů.”

Tým odborníků ohodnotil pět dalších vznikajících AI technologií jako vysoce znepokojivé potenciální katalyzátory nových druhů zločinů: použití bezpilotních vozidel jako zbraní, hackové útoky na AI řízené systémy a zařízení, online sběr dat pro účely vydírání, AI založené phishing s přizpůsobenými zprávami a falešné zprávy / dezinformace obecně.

Podle Shane Johnsona, ředitele Dawes Centre for Future Crimes at UCL, cílem studie bylo identifikovat možné hrozby spojené s nově vznikajícími technologiemi a hypotézovat způsoby, jak těmto hrozbám předcházet. Johnson říká, že s rostoucí rychlostí technologických změn je důležité „předvídat budoucí zločiny, aby mohli politici a další zúčastněné strany s kompetencí jednat, než dojde k novým ‘sklizním’ zločinům”.

Co se týče čtrnácti dalších možných zločinů na seznamu, byly zařazeny do jedné ze dvou kategorií: střední obava a nízká obava.

AI zločiny střední obavy zahrnují zneužití vojenských robotů, otravu dat, automatické útočné drony, učící se kybernetické útoky, útoky na odmítnutí služby pro online aktivity, manipulaci finančních / akciových trhů, hadí olej (prodej podvodných služeb zakrytých v AI / ML terminologii) a oklamání rozpoznávání obličeje.

AI založené zločiny nízké obavy zahrnují padělání umění nebo hudby, AI asistované stalkování, falešné recenze napsané AI, vyhýbání se metodám detekce AI a „zloději boti“ (boti, které se vloupají do lidí domů, aby ukradli věci).

Samozřejmě, že modely AI lze použít k boji proti některým z těchto zločinů. Nedávno byly modely AI nasazeny k pomoci při zjištění schémat praní špinavých peněz, detekci podezřelých finančních transakcí. Výsledky jsou analyzovány lidskými operátory, kteří poté schválí nebo zamítnou upozornění, a zpětná vazba se používá ke zlepšení modelu. Zdá se, že budoucnost bude zahrnovat souboje mezi AI, kdy zločinci budou snažit navrhnout své nejlepší AI asistované nástroje a bezpečnost, zákonodárci a jiní etičtí designéři AI budou snažit navrhnout své nejlepší AI systémy.