Tekoälystartup Diffbot lukee koko julkinen internet tietopohjaisen tekstin generoimisen toteuttamiseksi

Viimeaikaiset edistysaskeleet luonnollisen kielen prosessoinnissa ja tekstin generoimisessa, joita OpenAI on saavuttanut GPT-2- ja GPT-3-kielimalleilla, ovat olleet vaikuttavia, pystyen generoimaan tekstiä, joka näyttää aidolta ihmisten kirjoittamalta. Valitettavasti, vaikka nämä mallit ovat erittäin hyviä luonnollisen kuuloisessa tekstin generoimisessa, ne eivät ole varustettu generoimaan faktapohjaista tekstiä. Edistyneet kielimallit kokoavat lauseita yhteen sanoista, jotka ovat mielekkäimpiä asiayhteydessä, ilman huomiota väittämien totuudenmukaisuuteen generoidussa tekstin sisällä. MIT-tekniikkakatsauksen mukaan startup-yritys nimeltä Diffbot pyrkii ratkaisemaan tämän ongelman antamalla tekoälylle tehtäväksi kerätä internetistä mahdollisimman monta faktaa.

Diffbot on startup-yritys, joka toivoo tehdä tekoälystä käyttökelpoisemman käytännön tekstin generointitehtävissä, kuten automaattisissa taulukkojen täyttämisissä ja lauseiden tai koodin täydentämisissä. Jotta tekoälyllä generoitu teksti olisi luotettavaa, itse tekoälyllä on oltava luotettava ja siinä on oltava jokin käsitys faktapohjaisista ja fiktiivisistä lauseista. Diffbotin lähestymistapa antaa tekstin generointiohjelmalle mahdollisuuden generoida faktapohjaisia lauseita keräämällä valtavat määrät tekstiä käytännössä koko julkisesta internetistä. Diffbot prosessoi tekstiä useilla kielillä ja jakaa tekstin faktapohjaisiin tripletteihin, joissa subjekti, objekti ja verbi käytetään yhdistämään yhteen käsitettä toiseen. Esimerkiksi se voi edustaa Bill Gatesiin ja Microsoftiin liittyviä faktoja seuraavasti:

Bill Gates on Microsoftin perustaja. Microsoft (MSFT ) on tietokoneiden teknologiaa harjoittava yritys.

Diffbot kerää kaikki nämä lyhyet faktat ja yhdistää ne tietoverkoksi. Tietoverkot luovat käsitteiden välisiä suhteita, usein myös päättelyohjelmalla, joka auttaa uusien johtopäätösten luomisessa näiden suhteiden perusteella. Toisin sanoen, tietoverkot käyttävät tietojen linkittämistä, ja ne voivat auttaa koneoppimisalgoritmeja mallintamaan tietopohjaa. Tietoverkot ovat itse asiassa olleet olemassa jo vuosikymmeniä, ja monet varhaiset tekoälytutkijat pitivät niitä tärkeinä työkaluina sallimaan tekoälylle ymmärtää ihmisten maailmaa. Kuitenkin tietoverkot luotiin yleensä käsin, mikä on vaikea ja työläs prosessi. Tietoverkkojen automaattinen luominen voisi sallia tekoälylle saavuttaa paljon suuremman, kontekstuaalisen ymmärryksen käsitteistä ja tuottaa faktapohjaista tekstiä.

Google (GOOGL ) alkoi käyttää tietoverkkoja muutamia vuosia sitten apuna tarjoamassa tietojen yhteenvetoja, kun suosittu aihe haettiin. Tietoverkko käytetään keräämään tärkeimmät faktat ja esittämään ne yhteenvetona. Diffbot haluaa tehdä saman kaikille aiheille, ei vain suosituimmille. Tämä vaatii valtavan tietoverkon rakentamista, joka koostuu koko julkisen internetin tietojen kokoamisesta, mitä ainoastaan Google ja Microsoft tekevät muutoin. Diffbot skannaa koko internetin ja päivittää tietoverkkoa uusilla tiedoilla joka neljäs tai viides päivä, ja kuukauden aikana se lisää noin 100-150 miljoonaa merkintää.

Diffbot ei lue verkkosivun tekstiä normaaleiden verkkokävijöiden tavoin, vaan se käyttää tietokoneen näköalgoritmeja poistamaan verkkosivun raaka pikseleitä ja keräämään video-, kuva-, artikkeli- ja keskustelutietoja sivulta. Se tunnistaa sivun avain-elementit ja poistaa faktoja useilla kielillä kolmiosaisen faktatyyppisen skeeman mukaisesti.

Tällä hetkellä Diffbot tarjoaa sekä maksullista että ilmaista pääsyä tietoverkkoon. Vaikka tutkijat voivat päästä verkkoon ilmaiseksi, yritykset kuten DuckDuckGo ja Snapchat käyttävät sitä tekstien yhteenvetoihin ja uutisten aiheiden poimimiseen. Samalla Nike ja Adidas hyödyntävät alustaa väärennettyjen tuotteiden myyntisivujen etsimiseen, mikä on mahdollista, koska Diffbot pystyy määrittämään, mitkä sivustot myyvät todella kenkiä eivätkä ainoastaan keskustele niistä.

Diffbot aikoo tulevaisuudessa laajentaa kykyjään ja lisätä luonnollisen kielen käyttöliittymän alustalle, joka pystyy vastaamaan lähes mihin tahansa kysymykseen ja perustelemaan vastauksia lähteillä. Ihanteellisesti Diffbotin kyvyt yhdistettäisiin voimakkaaseen kielisynthesoimalliin, kuten GPT-3.