AI naršyklės įrankiais siekiama atpažinti gilias klastotes ir kitas netikras laikmenas

Technologijų įmonių pastangos kovoti su dezinformacija ir netikru turiniu pastaruoju metu įsibėgėja, nes sudėtingos netikro turinio generavimo technologijos, pvz., DeepFakes, tampa lengviau naudojamos ir tobulėja. Vienas iš būsimų bandymų padėti žmonėms aptikti gilius klastojimus ir su jais kovoti yra „RealityDefender“, kurį gamina AI fondas, kuri įsipareigojo kurti etiškus AI agentus ir padėjėjus, kuriuos vartotojai galėtų išmokyti atlikti įvairias užduotis.

Žymiausias AI fondo projektas yra platforma, leidžianti žmonėms sukurti savo skaitmenines asmenybes, kurios atrodytų kaip jie, ir atstovauti jiems virtualiose „Hangout“ erdvėse. AI fondą prižiūri Pasaulinė AI taryba ir, vykdydami savo įgaliojimus, jie turi numatyti galimą neigiamą dirbtinio intelekto platformų poveikį, tada bandyti įveikti šias problemas. Kaip pranešė „VentureBeat“., Vienas iš AI fondo sukurtų įrankių, padedančių aptikti gilias klastotes, pavadintas „Reality Defender“. „Reality Defender“ yra įrankis, kurį asmuo gali naudoti savo žiniatinklio naršyklėje (patikrinkite), kuri analizuos vaizdo įrašus, vaizdus ir kitų tipų laikmenas, kad nustatytų požymius, kad laikmena buvo suklastota ar tam tikru būdu pakeista. Tikimasi, kad įrankis padės atremti didėjantį giliųjų klastočių srautą internete, kuris, remiantis kai kuriais skaičiavimais, per pastaruosius šešis mėnesius padvigubėjo.

Realybės gynėjas veikia naudodamas įvairius AI pagrįstus algoritmus, kurie gali aptikti užuominų, leidžiančių manyti, kad vaizdas ar vaizdo įrašas galėjo būti suklastoti. AI modeliai aptinka subtilius apgaulės ir manipuliavimo požymius, o modelio aptiktus klaidingus teigiamus duomenis įrankio naudotojai pažymi kaip neteisingus. Tada duomenys naudojami modeliui perkvalifikuoti. Dirbtinio intelekto įmonės, kuriančios neapgaulingus gilius klastotes, savo turinį pažymi „sąžiningu AI“ žyma arba vandens ženklu, leidžiančiu žmonėms lengvai atpažinti dirbtinio intelekto sukurtus padirbinius.

„Reality Defender“ yra tik vienas iš įrankių rinkinio ir visos AI atsakomybės platformos, kurią AI fondas bando sukurti. AI fondas siekia sukurti „Guardian AI“ – atsakomybės platformą, sukurtą remiantis nuostata, kad asmenys turėtų turėti prieigą prie asmeninių dirbtinio intelekto agentų, kurie jiems dirba ir gali padėti apsisaugoti, kad blogi veikėjai jais neišnaudotų. Iš esmės AI fondas siekia išplėsti AI pasiekiamumą visuomenėje, pritraukti daugiau žmonių, taip pat apsaugoti nuo AI rizikos.

„Reality Defender“ nėra vienintelis naujas dirbtinio intelekto sukurtas produktas, kuriuo siekiama sumažinti dezinformaciją apie JAV. Panašus produktas vadinamas SurfSafe, kurį sukūrė du Berklio universiteto studentai Rohan Phadte ir Ash Bhat. Pasak "The Verge", „SurfSafe“ veikia leisdama vartotojams spustelėti juos dominančią laikmeną, o programa atliks atvirkštinę vaizdų paiešką ir bandys rasti panašų turinį iš įvairių patikimų šaltinių internete, pažymėdama vaizdus, ​​kurie, kaip žinoma, yra daktaras.

Neaišku, kiek šie sprendimai bus veiksmingi ilgainiui. Dartmuto koledžo profesorius ir teismo medicinos ekspertas Hany Faridą citavo The Verge sakydamas, kad jis „labai skeptiškai vertina“, kad tokios planų sistemos kaip „Reality Defender“ veiks prasmingai. Faridas paaiškino, kad vienas iš pagrindinių iššūkių aptinkant netikrą turinį yra tai, kad žiniasklaida nėra tik netikra ar tikra. Faridas paaiškino:

„Yra kontinuumas; neįtikėtinai sudėtingas problemų, kurias reikia spręsti. Kai kurie pakeitimai yra beprasmiai, o kai kurie iš esmės pakeičia vaizdo pobūdį. Apsimesti, kad galime išmokyti dirbtinį intelektą pastebėti skirtumą, yra neįtikėtinai naivu. O apsimesti, kad galime sutelkti dėmesį, tai dar labiau.

Be to, sunku įtraukti sutelktinio tiekimo elementus, pvz., pažymėti klaidingus teigiamus duomenis, nes žmonės paprastai gana prastai atpažįsta netikrus vaizdus. Žmonės dažnai daro klaidas ir praleidžia subtilias detales, kurios pažymi vaizdą kaip netikrą. Taip pat neaišku, kaip elgtis su nesąžiningais veikėjais, kurie troliuoja, kai pažymi turinį.

Panašu, kad siekiant maksimaliai veiksmingos klastotės aptikimo priemonės turės būti derinamos su skaitmeninio raštingumo pastangomis, mokančiomis žmones pagrįsti turinį, su kuriuo sąveikauja internete.