Ricky Costa, generální ředitel Quantum Stat – rozhovor

Ricky Costa je generálním ředitelem Quantum Stat, společnosti, která nabízí podnikatelská řešení pro NLP a iniciativy AI

Co vás zpočátku zajímalo o umělou inteligenci?

Náhoda. Četl jsem knihu o pravděpodobnosti, když jsem narazil na slavnou teorii. V té době jsem naivně uvažoval, zda bych mohl tuto teorii aplikovat na přirozený jazykový problém, který jsem se snažil vyřešit v práci. Jak se ukázalo, algoritmus již existoval, aniž bych o tom věděl, a nazýval se Naïve Bayes, velmi slavný a jednoduchý generativní model používaný v klasickém strojovém učení. Tato teorie byla Bayesova teorie. Cítil jsem, že tato shoda je znamením a zasadila semínko zvědavosti, aby se dozvěděl více.

Jste generálním ředitelem Quantum Stat, společnosti, která nabízí řešení pro Natural Language Processing. Jak jste se dostal do této pozice?

Když dochází k revoluci v nové technologii, některé společnosti jsou více než ostatní opatrné, když čelí neznámému. Založil jsem svou společnost, protože pronásledování neznámého je pro mě zábava. Cítil jsem, že je to správný čas, aby se pustil do oblasti NLP, vzhledem k všemu úžasnému výzkumu, který byl proveden v posledních 2 letech. NLP komunita má nyní kapacitu dosáhnout mnohem více s mnohem méně, díky novým NLP technikám, které vyžadují méně dat pro škálování výkonu.

Pro čtenáře, kteří nemusí být seznámeni s tímto oborem, můžete nám říci, co dělá Natural Language Processing?

NLP je subobor AI a analytiky, který se snaží porozumět přirozenému jazyku v textu, řeči nebo multimodálním učení (text a obrázky/video) a počítá jej do bodu, kdy pohání vhledy a / nebo poskytuje cennou službu. Hodnota může pocházet z několika úhlů, od vyhledávání informací v interním souborovém systému společnosti, klasifikace sentimentu v novinách nebo GPT-2 twitter botu, který pomáhá s vaší sociální médii marketingem (jako ten, který jsme postavili před několika týdny).

Máte bakalářský titul z Hunter College v experimentální psychologii. Cítíte, že pochopení lidského mozku a lidské psychologie je aktivum, když jde o pochopení a rozšíření oboru Natural Language Processing?

To je kontraindikace, ale bohužel ne. Analogie neuronů a hlubokých neuronových sítí je jednoduše pro ilustraci a vštěpování intuice. Můžete se pravděpodobně naučit mnohem více z komplexní vědy a inženýrství. Obtíž spočívá v tom, že se jedná o složitý systém. „Inteligence“ je emergentní jev z mozkové složitosti, která interaguje se svým prostředím, a je velmi obtížné ji identifikovat. Psychologie a další sociální vědy, které jsou závislé na „redukcionismu“ (shora dolů), nefungují v tomto složitém paradigmatu. Zde je intuice: představte si někoho, kdo se snaží redukovat píseň Beatles „Let it Be“ na C Major scale. Nic na této škále nepředpovídá, že „Let it Be“ vyvstane z ní. Stejné platí pro někoho, kdo se snaží redukovat chování na neuronální aktivitu v mozku.

Můžete nám říci, proč je Big Data tak důležitý, když jde o Deep Learning a konkrétně Natural Language Processing?

Jak stojí, protože hluboké učení modely interpolují data, čím více dat se podává do modelu, tím méně hraničních případů uvidí, když dělá inference v divočině. Tato architektura „motivuje“ velké datové sady, aby byly vypočteny modely, aby se zvýšila přesnost výstupu. Nicméně, pokud chceme dosáhnout inteligentnějšího chování AI modely, musíme se podívat za to, kolik dat máme, a více se soustředit na to, jak můžeme zlepšit schopnost modelu účinněji rozumět, což intuitivně nemělo by vyžadovat mnoho dat. Z komplexního hlediska, experimenty s buněčnými automaty provedené v minulém století fyziky John von Neumann a Stephen Wolfram ukazují, že složitost může vyvstat z jednoduchých počátečních podmínek a pravidel. Co tyto podmínky / pravidla by měly být s ohledem na AI, je to, co všichni loví.

Nedávno jste spustil „Big Bad NLP Database“. Co je to za databázi a proč je důležitá pro ty, kteří jsou v AI průmyslu?

Tato databáze byla vytvořena pro NLP vývojáře, aby měli bezproblémový přístup ke všem relevantním datovým sadám v oboru. Tato databáze pomáhá indexovat datové sady, což má hezký sekundární efekt, že je možné je dotazovat uživateli. Předzpracování dat zabírá většinu času ve fázi nasazení, a tato databáze se snaží tento problém co nejvíce zmírnit. Kromě toho je to bezplatná platforma pro každého, bez ohledu na to, zda jste akademický výzkumník, praktik, nebo nezávislý AI guru, který chce získat rychlý přístup k NLP datům. Odkaz

Quantum Stat目前 nabízí komplexní řešení. Jaká jsou některá z těchto řešení?

Pomáháme společnostem usnadnit jejich NLP modelovací pipeline nabídkou vývoje na jakékoli úrovni. Můžeme pokrýt širokou škálu služeb od čištění dat ve fázi předzpracování až po nasazení modelu serveru ve fázi produkce (tyto služby jsou také zvýrazněny na naší domovské stránce). Ne všechny AI projekty se stanou skutečností kvůli neznámé povaze, jak vaše konkrétní data / projektová architektura funguje se státním modelem. Díky této nejistotě naše služby poskytují společnostem možnost iterovat na svém projektu za zlomek nákladů na najmutí plnohodnotného inženýra ML.

Jaký je nejzajímavější pokrok v AI, který jste nedávno zaznamenali?

Nejvýznamnějším pokrokem v poslední době je transformátorový model, o kterém jste možná slyšeli: BERT, RoBERTa, ALBERT, T5 a tak dále. Tyto transformátorové modely jsou velmi atraktivní, protože umožňují výzkumníkům dosáhnout špičkového výkonu s menšími datovými sadami. Před transformátory by vývojář potřeboval velmi velkou datovou sadu, aby trénoval model od začátku. Od té doby, co tyto transformátory jsou předtrénovány na miliardách slov, umožňuje to rychlejší iteraci AI projektů a je to to, co děláme v současné době.

Je něco jiného, co byste chtěl sdílet o Quantum Stat?

Pracujeme na novém projektu, který se zabývá analýzou sentimentu finančních trhů, který bude brzy vydán. Použili jsme několik transformátorů, aby poskytli bezprecedentní vhled do toho, jak se finanční zprávy vyvíjejí v reálném čase. Zůstaňte naladěni!

Chcete-li se dozvědět více, navštivte Quantum Stat nebo přečtěte si náš článek o Big Bad NLP Database.