Startup AI Diffbot čte celý veřejný internet za účelem faktického generování textu

Poslední pokroky v oblasti zpracování přirozeného jazyka a generování textu, kterých dosáhla OpenAI prostřednictvím svých jazykových modelů GPT-2 a GPT-3, jsou působivé, neboť dokážou generovat text, který vypadá, jako by byl skutečně napsán člověkem. Bohužel, i když tyto modely excelují v generování přirozeně znějícího textu, nejsou vybaveny pro generování fakticky přesného textu. Pokročilé jazykové modely skládají věty z slov, která mají nejvíce smysl v kontextu, aniž by dbaly na pravdivost tvrzení v generovaném textu. Podle zprávy MIT Technology Review se startup nazvaný Diffbot snaží vyřešit tento problém tím, že jeho AI extrahuje co nejvíce faktů z internetu.

Diffbot je startup, který doufá, že učiní AI více užitečnou pro praktické úkoly generování textu, jako je automatické vyplňování tabulek a automatické doplňování vět nebo kódu. Aby byl text generovaný AI spolehlivý, musí být sám AI důvěryhodný a musí mít some pojetí faktických a fiktivních prohlášení. Diffbotův přístup k tomu, aby textový generátor získal schopnost generovat fakticky přesné prohlášení, začíná shromažďováním obrovského množství textu z prakticky celého veřejného webu. Diffbot analyzuje text v několika jazycích a rozděluje text na sady faktických trojic, přičemž subjekt, objekt a sloveso daného faktu se používají k propojení jednoho konceptu s druhým. Například může reprezentovat fakta týkající se Billa Gatese a Microsoftu takto:

Bill Gates je zakladatel Microsoftu. Microsoft (MSFT ) je počítačová technologická společnost.

Diffbot bere všechny tyto krátké faktoidy a spojuje je dohromady, aby vytvořil znalostní graf. Znalostní grafy vytvářejí sítě vztahů mezi koncepty, často spolu s reasonerem, který pomáhá při vytváření nových závěrů na základě těchto vztahů. Jinými slovy, znalostní grafy používají propojení dat a mohou pomoci algoritmům strojového učení modelovat znalostní domény. Znalostní grafy existují již desítky let a mnozí raní výzkumníci v oblasti AI je považovali za důležité nástroje pro umožnění AI porozumět světu lidí. Nicméně, znalostní grafy byly obvykle vytvářeny ručně, což je obtížný a časově náročný proces. Automatizace vytváření znalostních grafů by mohla umožnit AI získat mnohem hlubší, kontextuální pochopení konceptů a produkovat fakticky přesný text.

Google (GOOGL ) začal používat znalostní grafy před několika lety, aby pomohl poskytovat souhrny informací, když je vyhledán populární téma. Znalostní graf se používá k výběru nejrelevantnějších faktoidů a jejich prezentaci jako souhrn. Diffbot chce udělat totéž pro každé téma, nejen pro ty nejoblíbenější. To vyžaduje vytvoření absolutně obrovského znalostního grafu, který je sestaven procházením celého veřejného webu, což jinak dělají pouze Google a Microsoft. Diffbot skenuje celý web a aktualizuje znalostní graf s novými informacemi každé čtyři nebo pět dní, a během měsíce přidává mezi 100 miliony a 150 miliony položek.

Diffbot nečte text webové stránky jako normální weboví procházeči, ale místo toho používá algoritmy počítačového vidění k extrahování surových pixelů webové stránky a získávání dat o videu, obrázcích, článcích a diskusích ze stránky. Identifikuje klíčové prvky webové stránky a poté extrahuje fakta v různých jazycích, v souladu se schématem tříčástého faktoidu.

V současné době Diffbot nabízí placený i bezplatný přístup ke svému znalostnímu grafu. Zatímco výzkumníci mohou přístup k grafu získat zdarma, společnosti jako DuckDuckGo a Snapchat jej používají k souhrnu textu a extrahování částí trendujících zpravodajských položek. Mezitím Nike a Adidas využívají platformu k nalezení stránek, které prodávají padělané produkty, což je možné, protože Diffbot je schopen určit, které stránky skutečně prodávají boty, a not just diskutují o nich.

V budoucnosti Diffbot plánuje rozšířit své schopnosti a přidat přirozený jazykový interface k platformě, který bude schopen odpovědět na téměř jakoukoli otázku, kterou mu položíte, a podpořit tyto odpovědi zdroji. Ideálně by se schopnosti Diffbotu měly kombinovat s výkonným modelem syntézy jazyka, jako je GPT-3.