Modelul statistic ajută la detectarea informațiilor false pe rețelele sociale

Un profesor de matematică de la Universitatea Americană, împreună cu echipa sa de colaboratori, a dezvoltat un model statistic care poate detecta informații false în postările de pe rețelele sociale.

Învățarea automată este din ce în ce mai mult folosită pentru a opri răspândirea informațiilor false, dar există încă o piedică majoră legată de problema cutiei negre care apare. Acest lucru se referă la faptul că cercetătorii nu înțeleg cum o mașină ajunge la aceeași decizie ca și instructorii umani.

Detectarea informațiilor false cu modele statistice

Zois Boukouvalas, asistent profesor în Departamentul de Matematică și Statistică al Universității Americană, a folosit un set de date de pe Twitter cu tweet-uri care conțin informații false despre COVID-19 pentru a demonstra cum modelele statistice pot detecta informații false pe rețelele sociale în timpul evenimentelor majore, cum ar fi o pandemie sau un dezastru.

Boukouvalas și colegii săi, printre care se numără și studenta Caitlin Moroney și profesorul de științe computaționale Nathalie Japkowics, au demonstrat cum deciziile modelului se aliniază cu cele ale oamenilor în cercetarea recent publicată.

“Ne-am dori să știm ce gândește o mașină atunci când ia decizii și cum și de ce este de acord cu oamenii care au instruit-o”, a spus Boukouvalas. “Nu vrem să blocăm contul de rețea socială al cuiva pentru că modelul ia o decizie părtinitoare.”

Metoda folosită de echipă este un tip de învățare automată care se bazează pe statistici. Modelele statistice sunt eficiente și oferă o altă modalitate de a combate informațiile false.

Modelul a obținut o performanță de predicție ridicată și a clasificat un set de test de 112 tweet-uri reale și false cu o acuratețe de aproape 90%.

“Ce este semnificativ în această descoperire este faptul că modelul nostru a obținut acuratețe oferind transparență cu privire la modul în care a detectat tweet-urile care conțineau informații false”, a continuat Boukouvalas. “Metodele de învățare profundă nu pot obține acest nivel de acuratețe cu transparență.”

Pregătirea și antrenarea modelului

Cercetătorii au pregătit modelul pentru a fi antrenat înainte de a-l testa pe un set de date, deoarece informațiile furnizate de oameni pot introduce prejudecăți și cutii negre.

Tweet-urile au fost etichetate de către cercetători ca fiind informații false sau reale pe baza unui set de reguli predefinite privind limbajul utilizat în informațiile false. Echipa a luat în considerare și nuanțele limbajului uman și caracteristicile lingvistice legate de informațiile false.

Înainte de a antrena modelul, profesorul de socio-lingvistică Christine Mallinson de la Universitatea Maryland Baltimore County a identificat tweet-urile care conțineau stiluri de scriere asociate cu informațiile false, prejudecățile și sursele mai puțin fiabile de știri.

“Odată ce adăugăm aceste intrări în model, acesta încearcă să înțeleagă factorii subiacenți care duc la separarea informațiilor bune și a celor false”, a spus Japkowicz. “Acesta învață contextul și cum interacționează cuvintele.”

Cercetătorii vor încerca acum să îmbunătățească interfața de utilizator a modelului, precum și capacitatea sa de a detecta informații false în postările de pe rețelele sociale care conțin imagini sau alte multimedia. Modelul statistic va trebui să învețe cum interacționează diferiți factori pentru a crea informații false.

Atât Boukouvalas, cât și Japkowicz spun că inteligența umană și alfabetizarea în mass-media sunt cheia pentru a opri răspândirea informațiilor false.

“Prin munca noastră, proiectăm instrumente bazate pe învățarea automată pentru a alerta și educa publicul în scopul de a elimina informațiile false, dar credem puternic că oamenii trebuie să joace un rol activ în a nu răspândi informații false din start”, a spus Boukouvalas.