Startup-ul de inteligență artificială Diffbot citește întregul internet public pentru a urmări generarea de text bazată pe fapte

Progresele recente în procesarea limbajului natural și generarea de text realizate de OpenAI prin modelele sale de limbaj GPT-2 și GPT-3 au fost impresionante, capabile să genereze text care arată ca și cum ar fi fost scris de un om. Din nefericire, deși aceste modele excelează la scrierea de text care sună natural, ele nu sunt echipate pentru a scrie text care este factual. Modelele avansate de limbaj construiesc propoziții din cuvinte care au cel mai mult sens în context, fără a acorda atenție veridicității afirmațiilor din textul generat. Așa cum a fost raportat de MIT technology review, o companie cunoscută sub numele de Diffbot își propune să rezolve această problemă prin extragerea de fapte de pe internet de către un model de inteligență artificială.

Diffbot este o companie care speră să facă inteligența artificială mai utilă pentru sarcinile practice de generare de text, cum ar fi completarea automată a foilor de calcul și completarea automată a propozițiilor sau a codului. Pentru ca textul generat de inteligența artificială să fie de încredere, inteligența artificială însăși trebuie să fie de încredere și trebuie să aibă o anumită noțiune despre afirmațiile factuale versus cele fictive. Abordarea Diffbot pentru a da unui program de generare de text capacitatea de a genera afirmații factuale începe prin colectarea unei cantități masive de text de pe întregul internet public. Diffbot analizează textul în multiple limbi și îl împarte în seturi de tripleți bazate pe fapte, subiectul, obiectul și verbul unei anumite fapte fiind folosiți pentru a lega o noțiune de alta. De exemplu, ar putea reprezenta fapte despre Bill Gates și Microsoft (MSFT ) astfel:

Bill Gates este fondatorul Microsoft. Microsoft este o companie de tehnologie informatică.

Diffbot ia toate aceste scurte fapte și le unește pentru a crea un grafic de cunoaștere. Graficele de cunoaștere creează rețele de relații între noțiuni, adesea împreună cu un raționament care ajută la crearea de noi concluzii pe baza acestor relații. Pentru a spune altfel, graficele de cunoaștere folosesc interconectarea datelor și pot ajuta algoritmii de învățare automată să modeleze domeniile de cunoaștere. Graficele de cunoaștere au existat de fapt de decenii și mulți cercetători de inteligență artificială timpurie le considerau unelte importante pentru a permite inteligenței artificiale să înțeleagă lumea umană. Cu toate acestea, graficele de cunoaștere au fost create de obicei de mână, ceea ce este un proces dificil și dureros. Automatizarea creării graficelor de cunoaștere ar putea permite inteligenței artificiale să obțină o înțelegere contextuală mult mai mare a noțiunilor și să producă text care este bazat pe fapte.

Google (GOOGL ) a început să folosească grafice de cunoaștere cu câțiva ani în urmă pentru a ajuta la furnizarea de rezumate de informații atunci când se caută un subiect popular. Graficul de cunoaștere este folosit pentru a extrage cele mai relevante fapte și a le reprezenta ca un rezumat. Diffbot dorește să facă același lucru pentru orice subiect, nu doar pentru cele mai populare. Acest lucru necesită crearea unui grafic de cunoaștere absolut masiv, compilat prin crawlarea întregului internet public, ceea ce fac doar Google și Microsoft. Diffbot scanează întregul internet și actualizează graficul de cunoaștere cu informații noi la fiecare patru sau cinci zile, și pe parcursul unei luni adaugă undeva între 100 de milioane și 150 de milioane de intrări.

Diffbot nu citește textul de pe un site web ca și cum ar fi un crawler web normal, ci folosește algoritmi de viziune computerizată pentru a extrage pixelii bruti ai unei pagini web și a extrage date video, imagini, articole și discuții de pe pagină. Identifică elementele cheie ale paginii web și apoi extrage fapte în multiple limbi, în conformitate cu schema de tripleți de fapte.

În prezent, Diffbot oferă atât acces plătit, cât și gratuit la graficul său de cunoaștere. În timp ce cercetătorii pot accesa graficul gratuit, companii precum DuckDuckGo și Snapchat îl folosesc pentru a rezuma text și a extrage fragmente de știri în tendințe. Între timp, Nike și Adidas utilizează platforma pentru a găsi site-uri care vând produse contrafăcute, ceea ce este posibil pentru că Diffbot poate determina care site-uri vând cu adevărat încălțăminte, și nu doar discută despre ele.

În viitor, Diffbot plănuiește să-și extindă capacitățile și să adauge o interfață de limbaj natural la platformă, capabilă să răspundă la aproape orice întrebare și să susțină aceste răspunsuri cu surse. Ideal, capacitățile Diffbot ar trebui să fie combinate cu un model puternic de sinteză a limbajului, cum ar fi GPT-3.