2024 m. „Deepfakes“ išpopuliarės. Štai kaip įmonės gali apsisaugoti

Bent jau nuo 2016 m. rinkimų, kai į visuomenės sąmonę įsiveržė susirūpinimas dėl dezinformacijos, ekspertai skambina pavojaus varpais dėl gilių klastočių. Šios technologijos pasekmės buvo ir išlieka siaubingos. Nekontroliuojamas hiperrealistinių sintetinių laikmenų plitimas kelia grėsmę visi– nuo ​​politikų iki kasdienių žmonių. Degioje aplinkoje, kuriai jau būdingas platus nepasitikėjimas, gilios klastotės pažadėjo tik dar labiau pakurstyti liepsnas.

Kaip paaiškėjo, mūsų baimės buvo per anksti. Technologinės žinios, reikalingos norint iš tikrųjų gaminti gilius klastojimus, kartu su jų dažnai menka kokybe reiškė, kad bent du paskutinius prezidento rinkimų ciklus jie kėlė minimalų susirūpinimą.

Bet visa tai netrukus pasikeis – jau keičiasi. Per pastaruosius dvejus metus generatyvioji AI technologija pateko į pagrindinę srovę, radikaliai supaprastindama padirbinių kūrimo procesą paprastam vartotojui. Tos pačios naujovės žymiai pagerino gilių padirbinėjimo kokybę, todėl aklo testo metu dauguma žmonių negalėtų atskirti apdoroto vaizdo įrašo nuo tikro.

Šiais metais ypač pastebėjome, kaip ši technologija gali paveikti visuomenę, jei nebus imtasi pastangų su ja kovoti. Pavyzdžiui, praėjusiais metais AI sukurta nuotrauka, kurioje popiežius Pranciškus dėvi neįprastai stilingą paltą nuėjo virusas, ir daugelis jį laikė autentišku. Nors tai gali atrodyti, vienu lygmeniu, kaip nekenksminga pramoga, ji atskleidžia pavojingą šių gilių klastočių galią ir tai, kaip sunku gali būti pažaboti dezinformaciją, kai ji pradeda plisti. Galime tikėtis, kad ateinančiais mėnesiais ir metais rasime kur kas mažiau juokingų ir daug pavojingesnių tokio pobūdžio virusinių padirbinėjimo atvejų.

Dėl šios priežasties būtina, kad įvairaus masto organizacijos – nuo ​​žiniasklaidos iki finansų iki vyriausybių iki socialinės žiniasklaidos platformų – imtųsi iniciatyvios pozicijos siekdamos giliai aptikti klastotes ir tikrinti turinio autentiškumą. Reikia sukurti pasitikėjimo kultūrą naudojant apsaugos priemones dabar, kol gilių klastočių potvynio banga gali nuplauti mūsų bendrą tikrovės supratimą.

Gilios klastotės grėsmės supratimas

Prieš gilinantis į tai, ką organizacijos gali padaryti, kad kovotų su šiuo giliųjų klastočių antplūdžiu, verta tiksliai išsiaiškinti, kodėl būtinos apsaugos priemonės. Paprastai tie, kurie nerimauja dėl gilių klastočių, nurodo galimą jų poveikį politikai ir visuomenės pasitikėjimui. Šios galimos pasekmės yra labai svarbios ir neturėtų būti pamirštos bet kuriame pokalbyje apie gilius klastojimus. Tačiau šios technologijos atsiradimas gali turėti siaubingą poveikį keliuose JAV ekonomikos sektoriuose.

Paimkite, pavyzdžiui, draudimą. Šiuo metu metinis draudimo sukčiavimas Jungtinėse Valstijose siekia 308.6 mlrd. Tuo pačiu metu daugumos draudimo bendrovių pagrindinės operacijos yra vis labiau automatizuotos, o iki 70 m. prognozuojama, kad 2025 % standartinių žalų bus be kontaktų. Tai reiškia, kad sprendimai vis dažniau priimami su minimaliu žmogaus įsikišimu: savitarna priekinė dalis ir AI palengvinta automatika gale.

Ironiška, bet pati technologija, kuri leido padidinti automatizavimą, ty mašinų mokymasis ir dirbtinis intelektas, garantavo, kad blogi veikėjai jį išnaudos. Dabar paprastam žmogui lengviau nei bet kada anksčiau manipuliuoti pretenzijomis, pavyzdžiui, naudojant generatyvias AI programas, tokias kaip Dall-E, Midjourney ar Stable Diffusion, kad automobilis atrodytų labiau apgadintas, nei yra. Jau dabar egzistuoja specialiai šiam tikslui skirtos programėlės, pvz., „Dude Your Car!“, leidžiančios naudotojams dirbtinai sukurti įlenkimus savo transporto priemonių nuotraukose.

Tas pats pasakytina ir apie oficialius dokumentus, kuriais dabar galima lengvai manipuliuoti – su sąskaitomis faktūromis, draudimo įvertinimais ir net parašais, pakoreguotais ar sugalvotais didmenine prekyba. Šis gebėjimas yra problema ne tik draudikams, bet ir visoje ekonomikoje. Tai finansų institucijų, kurios turi patikrinti įvairių dokumentų autentiškumą, problema. Tai problema mažmenininkams, kurie gali gauti skundą, kad gaminys atkeliavo su defektais, kartu su nupieštu vaizdu.

Įmonės tiesiog negali veikti esant tokiam neapibrėžtumui. Tikėtina, kad tam tikras sukčiavimo laipsnis visada yra neišvengiamas, tačiau kalbant apie klastotes, mes nekalbame apie sukčiavimą paraštėse – mes kalbame apie galimą epistemologinę katastrofą, kai įmonės neturi aiškių priemonių nustatyti tiesą iš fantastikos ir galiausiai praranda milijardus dolerių šiai sumaiščiai.

Kova su ugnimi: kaip AI gali padėti

Taigi, ką galima padaryti norint su tuo kovoti? Galbūt nenuostabu, kad atsakymas slypi pačioje technologijoje, kuri palengvina gilų klastojimą. Jei norime sustabdyti šią rykštę, kol ji neįgauna pagreitį, turime kovoti su ugnimi ugnimi. AI gali padėti sukurti gilias klastotes, bet, laimei, taip pat gali padėti juos atpažinti automatiškai ir dideliu mastu.

Naudodamos tinkamus dirbtinio intelekto įrankius, įmonės gali automatiškai nustatyti, ar tam tikra nuotrauka, vaizdo įrašas ar dokumentas buvo sugadintas. Dirbtinis intelektas gali automatiškai tiksliai pasakyti įmonėms, ar tam tikra nuotrauka ar vaizdo įrašas yra įtartinas, pasitelkdamas daugybę skirtingų modelių, kad galėtų atlikti netikrą identifikavimo užduotį. Kaip ir įrankiai, kuriuos įmonės jau diegia kasdienėms operacijoms automatizuoti, šie įrankiai gali veikti fone neapkraunant per daug įtemptų darbuotojų ir neatimant laiko svarbiems projektams.

Jei nuotrauka nustatoma kaip galimai pakeista, darbuotojai gali būti įspėjami ir gali tiesiogiai įvertinti problemą, remdamiesi AI pateikta informacija. Naudodamas giluminio nuskaitymo analizę, jis gali pasakyti įmonėms kodėl manoma, kad nuotrauka greičiausiai buvo apdorota, pavyzdžiui, nurodant rankiniu būdu pakeistus metaduomenis, identiškų vaizdų buvimą visame žiniatinklyje, įvairius fotografijos pažeidimus ir pan.

Tai nereiškia, kad menkinama neįtikėtina pažanga, kurią per pastaruosius kelerius metus matėme generatyviosios AI technologijos srityje, kuri iš tiesų turi naudingų ir produktyvių pritaikymų įvairiose pramonės šakose. Tačiau pats šios naujos technologijos stiprumas – jau nekalbant apie paprastumą – beveik garantuoja, kad ja piktnaudžiautų tie, kurie nori manipuliuoti organizacijomis, siekdami asmeninės naudos ar sėti visuomeninį chaosą.

Organizacijos galima turi geriausius iš abiejų pasaulių: dirbtinio intelekto pranašumus produktyvumui be visur paplitusių padirbinėjimo trūkumų. Tačiau norint tai padaryti, reikia naujo budrumo, ypač atsižvelgiant į tai, kad generatyvaus AI rezultatai kasdien tampa įtikinamesni, išsamesni ir panašesni į gyvenimą. Kuo anksčiau organizacijos atkreips dėmesį į šią problemą, tuo greičiau jos galės pasinaudoti visa automatizuoto pasaulio teikiama nauda.