Cine ne va proteja de dezinformarea generată de IA?

Inteligența artificială generativă a evoluat de la zero la o sută în mai puțin de un an. Deși este încă la început, a demonstrat potențialul de a transforma afacerile. Toți putem fi de acord cu acest lucru. Unde ne diferențiem este în ceea ce privește modul de a conține pericolele pe care le prezintă.

Să fim clari, eu sunt pentru inovare și departe de a fi un alarmist. Dar creșterea recentă a dezinformării – în mare parte îndreptată spre polarizarea în jurul problemelor controversate ale momentului – a făcut clar că, dacă este lăsată necontrolată, IA generativă ar putea avea un impact devastator asupra societăților.

Am văzut acest film înainte cu rețelele sociale, dar a durat ani și lecții grele pentru a ne trezi la defectele sale. Am (presupun) învățat ceva. Întrebarea de azi este cine va ajuta la stoparea valului de distorsionare a realității de la IA generativă și cum?

Prezisibil, guvernele încep să acționeze. Europa conduce această acțiune, așa cum a demonstrat din ce în ce mai mult în reglementarea tehnologiei. Statele Unite sunt chiar în spatele, cu Președintele Biden emitând un ordin executiv în octombrie trecut.

Dar va dura un efort global pentru a “ține IA generativă cinstită.” Și înainte ca guvernul să poată ajuta, trebuie să înțeleagă limitele abordărilor disponibile.

Problema identității s-a înrăutățit mult

În această lume nouă, adevărul devine acul într-o grindă de opinii deghizate în fapte. Știind de unde vine conținutul este mai important ca niciodată.

Și nu este atât de ușor pe cât ar părea să decretăm că fiecare cont de rețea socială trebuie să fie verificat din punct de vedere al identității. Există o opoziție puternică la acest lucru, și în unele cazuri, anonimitatea este necesară pentru a proteja în mod justificat deținătorii de conturi. Mai mult, mulți consumatori ai conținutului cel mai rău nu se preocupă dacă este credibil, nici de unde vine.

În ciuda acestor avertismente, potențialul rol al identității în combaterea IA generative este subapreciat. Sceptici, ascultați-mă.

Să ne imaginăm că reglementarea sau conștiința socială determină platformele să ofere fiecărui deținător de cont următoarele opțiuni:

1. Verificați-vă identitatea sau nu, și
2. Revelați public identitatea dvs. verificată, sau doar fiți etichetați “Verificat”
   

Atunci, publicul rețelelor sociale poate decide mai bine cine este credibil. La fel de important, dacă nu și mai mult, identitatea sprijină responsabilitatea. Platformele pot decide asupra acțiunilor care trebuie luate împotriva “dezinformatorilor” și a abuzatorilor recidiviști ai conținutului generat de IA, chiar și dacă apar sub nume de conturi diferite.

Cu IA generativă care mărește miza, cred că identitatea – știind exact cine a postat ce – este critică. Unii se vor opune, și identitatea nu este o soluție cuprinzătoare. De fapt, nicio soluție nu va satisface toți stakeholderii. Dar dacă reglementarea obligă platformele să ofere verificarea identității pentru toate conturile, sunt convins că impactul va fi unul enorm pozitiv.

Conundrul moderării

Moderarea conținutului – atât automată, cât și umană – este ultima linie de apărare împotriva conținutului nedorit. Moderarea umană este un job dificil, cu risc de prejudiciu psihologic din cauza expunerii la cele mai rele oferite de omenire. Este, de asemenea, scump și adesea acuzat de cenzură biasată pe care platformele se străduiesc să o reducă.

Moderarea automată depășește capacitatea umană de a face față torrenților de conținut nou, dar nu reușește să înțeleagă contextul (memele fiind un exemplu comun) și nuanțele culturale. Ambele forme de moderare sunt cruciale și necesare, dar sunt doar o parte a soluției.

Prescripția convențională, des auzită, pentru controlul IA generative este: “Colaborarea dintre liderii tehnologiei, guvern și societatea civilă este necesară.” Sigur, dar ce anume?

Guvernele, la rândul lor, pot împinge platformele sociale și media să ofere verificarea identității și să afișeze în mod vizibil această informație pe toate postările. Reglementatorii pot, de asemenea, să deschidă calea pentru metrici de credibilitate care să ajute cu adevărat la evaluarea credibilității unei surse. Colaborarea este necesară pentru a dezvolta standarde universale care să ofere îndrumări și direcții specifice, astfel încât sectorul privat să nu fie nevoit să ghicească.

În final, ar trebui să fie ilegal să se creeze conținut AI dăunător? Legislația care interzice conținutul destinat activităților ilegale ar putea reduce volumul de conținut toxic și ar ușura sarcina moderatorilor. Nu văd reglementarea și legile ca fiind capabile să învingă dezinformarea, dar sunt esențiale în confruntarea acestei amenințări.

Partea luminoasă a străzii: inovarea

Promisiunea inovării mă face optimist aici. Nu ne putem aștepta ca politicienii sau proprietarii de platforme să ne protejeze pe deplin împotriva înșelăciunii generate de IA. Ei lasă o lacună mare, și aceasta este exact ceea ce va inspira inventarea de tehnologie nouă pentru a autentifica conținutul și a detecta falsificarea.

Deoarece acum știm partea negativă a rețelelor sociale, am realizat rapid că IA generativă ar putea fi un net-negative enorm pentru omenire, cu capacitatea sa de a polariza și a înșela.

În mod optimist, văd beneficii în abordările cu multiple direcții, în care metodele de control funcționează împreună, mai întâi la sursă, limitând crearea de conținut destinat utilizării ilegale. Apoi, înainte de publicare, verificarea identității celor care refuză anonimitatea. Următorul pas, etichetarea clară pentru a arăta ratingurile de credibilitate și identitatea posterului sau lipsa acesteia. În final, moderarea automată și umană poate filtra unele dintre cele mai rele. Aștept tehnologia de autentificare nouă să apară curând.

Adăugați totul, și vom avea o soluție mult mai bună, deși niciodată perfectă. Între timp, ar trebui să ne dezvoltăm setul de abilități pentru a determina ce este real, cine spune adevărul și cine încearcă să ne păcălească.