Un model de inteligență artificială poate identifica răspânditorii de dezinformare înainte de a acționa

Un model de inteligență artificială creat de cercetători de la Universitatea din Sheffield poate determina potențial care utilizatori de Twitter vor posta dezinformare înainte de a o face. Dacă modelul se dovedește a fi fiabil, poate fi utilizat pentru a completa metodele existente de luptă împotriva dezinformării pe rețelele sociale.

Conform TechXplore, studiul a fost condus de cercetători de la Departamentul de Științe ale Calculatoarelor al Universității din Sheffield, inclusiv dr. Nikos Aletras și Yida Mu. Studiul a fost publicat în revista PeerJ și detaliază metodele utilizate pentru a prevedea dacă un utilizator de rețele sociale este probabil să răspândească dezinformare prin postarea de conținut din surse de știri neverificate.

Echipa de cercetare a colectat peste 1 milion de tweet-uri de la peste 6000 de utilizatori de Twitter, toate disponibile public. Echipa a aplicat tehnici de procesare a limbajului natural pentru a pregăti datele pentru antrenarea unui model de inteligență artificială. Modelul de inteligență artificială a fost un model de clasificare binară, care a etichetat utilizatorii ca fiind probabil să împărtășească informații din surse neverificate sau nu. După ce modelul a fost antrenat cu datele, a reușit să obțină o acuratețe de aproximativ 79,7%.

Când au analizat rezultatele performanței modelului, cercetătorii au descoperit că utilizatorii care au folosit frecvent un limbaj impolite și au tweetat constant despre religie și politică au fost mai probabil să posteze informații din surse neverificate. În special, a existat o utilizare intensă a cuvintelor precum “liberal”, “mass-media”, “guvern”, “Israel” și “Islam”. Între timp, utilizatorii care au postat informații din surse verificate au tendința să folosească cuvinte precum “o să”, “vreau”, “sunt”, “dispoziție” și “zi de naștere”. Dincolo de aceasta, au împărtășit în general povești despre viețile lor personale, cum ar fi interacțiunile cu prietenii, emoțiile sau informații despre hobby-urile lor.

Rezultatele studiului ar putea ajuta companiile de rețele sociale, cum ar fi Facebook (META ), Reddit și Twitter, să proiecteze noi modalități de combatere a răspândirii informațiilor false online. Cercetarea ar putea ajuta, de asemenea, psihologii și oamenii de știință sociali să înțeleagă mai bine comportamentul care duce la răspândirea informațiilor false într-o rețea socială.

După cum a explicat Aletras, conform TechXplore, rețelele sociale s-au transformat în una dintre principalele modalități prin care oamenii primesc știri. Milioane de utilizatori din întreaga lume primesc știri prin Facebook și Twitter în fiecare zi, dar aceste platforme au devenit și unelte pentru răspândirea dezinformării în societate. Aletras a explicat, de asemenea, că identificarea în mod fiabil a anumitor tendințe în comportamentul utilizatorilor ar putea ajuta la combaterea dezinformării. După cum a explicat Aletras, există o “corelație între utilizarea limbajului impolite și răspândirea conținutului neverificat, care poate fi atribuită ostilității politice online ridicate”.

Conform lui Mu, analizarea comportamentului utilizatorilor care împărtășesc informații neverificate poate ajuta platformele de rețele sociale prin completarea metodelor existente de verificare a faptelor și modelarea dezinformării la nivel de utilizator. După cum a spus Mu prin TechXplore:

“Studiind și analizând comportamentul utilizatorilor care împărtășesc conținut din surse de știri neverificate poate ajuta platformele de rețele sociale să prevină răspândirea știrilor false la nivel de utilizator, completând metodele existente de verificare a faptelor care funcționează la nivel de postare sau sursă de știri.”

Cercetarea condusă de Aletras și Mu ar putea fi un exemplu de utilizare a inteligenței artificiale pentru a combate dezinformarea generată de inteligența artificială. Ultimele luni au văzut o creștere a dezinformării legate de politica locală și națională, cu mult conținut generat și răspândit de algoritmi de inteligență artificială. Rețelele neuronale profunde au fost utilizate pentru a construi fotografii și profiluri realiste pentru conturi false care servesc ca diseminatori de știri false. Cercetarea lui Aletras și Mu ar putea ajuta companiile de rețele sociale să determine care conturi sunt false, conturi de robot create cu scopul de a răspândi propagandă și dezinformare dăunătoare.