Cercetătorii dezvoltă un instrument AI pentru a ajuta la identificarea știrilor false

A fost dezvoltat un nou instrument de inteligență artificială care poate ajuta rețelele de socializare și organizațiile media să semnaleze poveștile false.

Instrumentul a fost dezvoltat de cercetători de la Universitatea Waterloo. El se bazează pe algoritmi de învățare profundă AI pentru a determina dacă anumite afirmații din postări și povești sunt susținute. Tehnologia face acest lucru prin verificarea dacă acestea sunt susținute de alte postări și povești care se referă la același subiect.

Alexander Wong este profesor de proiectare a sistemelor la Waterloo.

“Dacă sunt excelente, este probabil o poveste reală”, a spus Wong. “Dar dacă majoritatea celorlalte materiale nu sunt susținătoare, este un indiciu puternic că avem de-a face cu știri false.”

Cercetătorii au decis să dezvolte instrumentul din cauza numărului mare de postări și povești online care sunt dezvăluite ca fiind false sau fabricate. Poveștile sunt adesea trimise pentru a înșela sau a induce în eroare cititorii și sunt de obicei folosite pentru motive politice sau economice.

Noul sistem dezvoltat face parte dintr-un efort continuu de a dezvolta tehnologie complet automatizată capabilă să detecteze știrile false. În una dintre principalele domenii de cercetare, cunoscută sub numele de detectare a atitudinii, sistemul are o rată de acuratețe de 90%.

Sistemul este mai întâi dat un anumit punct de vedere dintr-un post sau o poveste și alte postări și povești pe același subiect. Acestea sunt adunate pentru comparație și sistemul este capabil să determine dacă punctul de vedere sau povestea este susținut sau nu de celelalte. El poate face acest lucru de nouă ori din zece.

Acesta este acum noul standard de acuratețe și cercetătorii folosesc o bază de date mare creată pentru o competiție științifică din 2017, cunoscută sub numele de Provocarea știrilor false.

Tehnologia dezvoltată de cercetătorii de la Waterloo poate deveni un instrument de verificare utilizat de verificatorii de fapte umani. Majoritatea rețelelor de socializare și organizațiilor media folosesc verificatori de fapte umani, dar adesea ratează anumite lucruri pe care tehnologia le-ar putea detecta. Acest lucru se întâmplă într-un moment în care oamenii de știință din întreaga lume lucrează la crearea unui sistem complet automatizat pentru semnalarea și eliminarea știrilor false.

Wong este un membru fondator al Institutului de Inteligență Artificială Waterloo.

“Îmbunătățește capacitățile lor și semnalează informații care nu par corecte pentru verificare”, a spus Wong. “Nu este proiectat pentru a înlocui oamenii, ci pentru a-i ajuta să verifice faptele mai rapid și mai fiabil.”

Algoritmii de inteligență artificială care stau la baza sistemului au fost arătați zeci de mii de afirmații diferite. Afirmațiile au fost arătate alături de povești care le-au susținut sau nu, și sistemul a fost în cele din urmă capabil să învețe cum să determine susținerea sau nesuportul. A făcut acest lucru și pentru noi perechi de afirmații și povești pe care le-a văzut.

Chris Dulhanty este un student absolvent și el a condus proiectul care a dezvoltat tehnologia.

“Trebuie să împuternicim jurnaliștii să descopere adevărul și să ne țină informați”, a spus el. “Acesta reprezintă un efort într-un corp mai mare de lucru pentru a reduce răspândirea dezinformării.”