Ingineri AI Dezvoltă Metodă Care Poate Detecta Intenția Celor Care Răspândesc Informații False

Abordarea informațiilor false în era digitală este o problemă complexă. Nu numai că informațiile false trebuie identificate, etichetate și corectate, dar intenția celor responsabili de afirmarea respectivă ar trebui, de asemenea, să fie distinsă. O persoană poate răspândi informații false fără să știe sau poate împărtăși doar opinia sa asupra unei chestiuni, chiar dacă ulterior este raportată ca fapt. Recent, o echipă de cercetători și ingineri AI de la Dartmouth a creat un cadru care poate fi utilizat pentru a deriva opinia din rapoartele de “știri false”.

Conform ScienceDaily, studiul echipei Dartmouth a fost publicat recent în Journal of Experimental & Theoretical Artificial Intelligence. În timp ce studii anterioare au încercat să identifice știrile false și să lupte împotriva înșelăciunii, acesta ar putea fi primul studiu care a urmărit să identifice intenția vorbitorului într-un articol de știri. În timp ce o poveste adevărată poate fi distorsionată în diverse forme înșelătoare, este important să se distingă dacă înșelăciunea a fost intenționată. Echipa de cercetare susține că intenția contează atunci când se ia în considerare informațiile false, deoarece înșelăciunea este posibilă doar dacă a existat intenția de a înșela. Dacă o persoană nu și-a dat seama că răspândește informații false sau dacă își împărtășea doar opinia, nu poate exista înșelăciune.

Eugene Santos Jr., profesor de inginerie la Școala de Inginerie Thayer a Dartmouth, a explicat ScienceDaily de ce modelul lor încearcă să distingă intenția înșelătoare:

“Intenția de a înșela pe ascultători în mod intenționat reprezintă o amenințare mult mai mare decât greșelile neintenționate. După cunoștințele noastre, algoritmul nostru este singura metodă care detectează înșelăciunea și, în același timp, discriminează actele malefice de cele benigne.”

Pentru a construi modelul lor, echipa de cercetare a analizat caracteristicile raționamentului înșelător. Algoritmul rezultat a putut distinge intenția de a înșela de alte forme de comunicare, concentrându-se pe discrepanțele dintre argumentele trecute ale unei persoane și declarațiile sale actuale. Modelul construit de echipa de cercetare necesită cantități mari de date care pot fi utilizate pentru a măsura cum o persoană se abate de la argumentele sale trecute. Datele de antrenament pe care echipa le-a utilizat pentru a antrena modelul lor au constat în date preluate dintr-un sondaj de opinii pe subiecte controversate. Peste 100 de persoane și-au împărtășit opinia cu privire la aceste subiecte controversate. Datele au fost extrase și din recenzii ale a 20 de hoteluri diferite, constând în 400 de recenzii fictive și 800 de recenzii reale.

Conform lui Santos, cadrul dezvoltat de cercetători poate fi rafinat și aplicat de organizații media și cititori, pentru a le permite să analizeze conținutul articolelor de “știri false”. Cititorii pot examina articolele pentru a detecta prezența opiniilor și pot determina singuri dacă a fost utilizat un argument logic. Santos a mai spus că echipa dorește să examineze impactul informațiilor false și efectele de undă pe care le au.

Cultura populară descrie adesea comportamente non-verbale, cum ar fi expresiile faciale, ca indicatori că cineva minte, dar autorii studiului notează că aceste indicii comportamentale nu sunt întotdeauna indicatori de încredere ai minciunii. Deqing Li, coautor al lucrării, a explicat că cercetarea lor a arătat că modelele bazate pe intenția de a raționa sunt indicatori mai buni ai minciunii decât diferențele comportamentale și verbale. Li a explicat că modelele de intenție de a raționa “sunt mai bune la distingerea minciunilor intenționate de alte tipuri de distorsionare a informațiilor”.

Lucrarea cercetătorilor de la Dartmouth nu este singura realizare recentă în ceea ce privește lupta împotriva informațiilor false cu ajutorul AI. Articolele de știri cu titluri de tip clickbait ascund adesea informații false. De exemplu, ele pot sugera că s-a întâmplat ceva, când de fapt s-a întâmplat altceva.

Conform AINews, o echipă de cercetători de la Universitatea de Stat Arizona și Universitatea de Stat Penn au colaborat pentru a crea un AI care poate detecta titlurile de tip clickbait. Cercetătorii au cerut oamenilor să scrie titluri de tip clickbait și au scris, de asemenea, un program pentru a genera titluri de tip clickbait. Ambele tipuri de titluri au fost utilizate pentru a antrena un model care poate detecta eficient titlurile de tip clickbait, indiferent dacă au fost scrise de mașini sau de oameni.

Conform cercetătorilor, algoritmul lor a fost cu aproximativ 14,5% mai precis în detectarea titlurilor de tip clickbait decât alte AI din trecut. Cercetătorul principal al proiectului și profesor asociat la Colegiul de Științe și Tehnologie a Informației de la Penn State, Dongwon Lee, a explicat cum experimentul lor demonstrează utilitatea generării de date cu un AI și a reutilizării lor într-un flux de antrenament.

“Acest rezultat este destul de interesant, deoarece am demonstrat cu succes că datele de antrenament generate de mașini pentru clickbait pot fi reutilizate în fluxul de antrenament pentru a antrena o varietate largă de modele de învățare automată, îmbunătățindu-le performanța”, a explicat Lee.