Alex Ratner, CEO & Co-Founder of Snorkel AI – Rozhovorová série

Alex Ratner je CEO & Co-Founder společnosti Snorkel AI, která vznikla ve Stanford AI lab.

Snorkel AI zrychluje vývoj AI a činí ho praktickým transformací manuálních procesů vývoje AI na programatická řešení. Snorkel AI umožňuje podnikům vyvíjet AI, která funguje pro jejich jedinečné pracovní zátěže pomocí jejich vlastních dat a znalostí 10-100x rychleji.

Co vás původně přitáhlo k informatice?

Existují dvě velmi zajímavé stránky informatiky, když jste mladý. Jedna, můžete se učit tak rychle, jak chcete, prostřednictvím experimentování a stavby, díky okamžité zpětné vazbě, místo aby jste museli čekat na učitele. Dvě, můžete stavět hodně bez nutnosti žádat o povolení!

Začal jsem programovat, když jsem byl mladý kluk, z těchto důvodů. Také jsem miloval přesnost, kterou vyžadoval. Baval jsem si procesem abstrakce složitých procesů a rutin a poté je kódovat modulárním způsobem.

Později, jako dospělý, jsem se vrátil do informatiky profesionálně prostřednictvím práce v poradenské firmě, kde jsem měl za úkol psát skripty pro základní analýzy patentového korpusu. Byl jsem fascinován tím, kolik lidského poznání – cokoliv, co někdo kdy považoval za patentovatelné – bylo okamžitě dostupné, ale současně tak nepřístupné, protože bylo tak obtížné provést i jednoduchou analýzu složitých technických textů a multimodálních dat.

To mě vedlo zpět do rabbit hole a nakonec zpět na Stanford, kde jsem se zaměřil na NLP, což je oblast použití ML/AI na přirozeném jazyku.

Můžete nás provést cestou raných dnů Snorkel open-source projektu, který jste zahájil a vedl na Stanfordu?

V té době jsme se, jako mnoho lidí v oboru, soustředili na vývoj nových algoritmů a – tj. všech “fancy” věcí s machine learningem, na které lidé v komunitě prováděli výzkum a publikovali články.

Ale vždy jsme byli velmi vázáni k zakotvení tohoto v reálných problémech – většinou s lékaři a vědci na Stanfordu. Ale každý čas, kdy jsme představili nový model nebo algoritmus, odpověď zněla “ano, budeme to zkusit, ale budeme potřebovat všechny tyto označené trénovací údaje, které nemáme čas vytvořit!”

Viděli jsme, že velký nepojmenovaný problém byl kolem procesu označení a kurátování těch trénovacích dat – takže jsme přesunuli veškerou naší pozornost na to, a tak začal projekt Snorkel a idea “data-centric AI”.

Můžete definovat, co znamená data-centric AI a jak se liší od model-centric AI development?

Data-centric AI znamená soustředění se na stavbu lepšího dat, aby se vytvořily lepší modely.

To stojí v kontrastu – ale pracuje ruku v ruce – s model-centric AI. V model-centric AI se předpokládá, že data jsou statická a datové vědci nebo výzkumníci věnují svou energii úpravám modelových architektur a parametrů, aby dosáhli lepších výsledků.

Výzkumníci stále dělají skvělé práce v model-centric AI, ale hotové modely a auto ML techniky se tolik zlepšily, že výběr modelu se stal komoditou v produkčním čase. Když je to případ, nejlepší způsob, jak vylepšit tyto modely, je dodat jim více a lepší data.

Jaké jsou základní principy data-centric AI?

Základní princip data-centric AI je jednoduchý: lepší data vytvářejí lepší modely.

V naší akademické práci jsme to nazvali “data programming”. Nápad je, že pokud budete krmit robustní model dostatečným množstvím příkladů vstupů a očekávaných výstupů, model se naučí duplikovat tyto vzory.

To představuje větší výzvu, než byste mohli očekávat. Velká většina dat nemá žádné označení – nebo alespoň žádné užitečné označení pro vaši aplikaci. Ruční označení těchto dat vyžaduje nudu, čas a lidskou snahu.

Mít označený datový soubor také nezaručuje kvalitu. Lidská chyba se dostává všude. Každý nesprávný příklad ve vaší grund truth bude snižovat výkon konečného modelu. Žádné množství úpravy parametrů nemůže zakrýt tuto realitu. Výzkumníci dokonce našli nesprávně označené záznamy v základních open source datových souborech.

Můžete vysvětlit, co znamená pro data-centric AI být programatický?

Ruční označení dat představuje vážné problémy. Vyžaduje mnoho lidských hodin a někdy tyto lidské hodiny mohou být drahé. Lékařské dokumenty, například, mohou být označeny pouze lékaři.

Kromě toho ruční označení sprintů často představují jednorázové projekty. Označovači označí data podle rigidního schématu. Pokud se podnikové potřeby změní a vyžadují jinou sadu označení, označovači musí začít znovu od začátku.

Programatické přístupy k data-centric AI minimalizují obě tyto problémy. Programatické označení systému Snorkel AI zahrnuje rozmanité signály – od legacy modelů po stávající označení po externí znalostní báze – pro vývoj pravděpodobnostních označení ve velkém měřítku. Naším primárním zdrojem signálu jsou odborníci, kteří spolupracují s datovými vědci na stavbě označení funkcí. Tyto funkce kódují jejich odborné úsudky do škálovatelných pravidel, umožňujících úsilí vynaložené na jednu rozhodnutí ovlivnit desítky nebo stovky datových bodů.

Tento rámec je také flexibilní. Místo toho, aby začínali znovu od začátku, když se podnikové potřeby změní, uživatelé přidávají, odebírají a upravují označení funkce, aby aplikovaly nová označení během hodin místo dnů.

Jak tento data-centric přístup umožňuje rychlé škálování neošetřených dat?

Náš programatický přístup k data-centric AI umožňuje rychlé škálování neošetřených dat tím, že zvyšuje dopad každého rozhodnutí. Jakmile odborníci stanoví počáteční, malou sadu grund truth, začnou spolupracovat s datovými vědci na rychlé iteraci. Definují několik označení funkcí, trénují rychlý model, analyzují dopad svých označení funkcí a poté přidávají, odebírají nebo upravují označení funkce podle potřeby.

Každý cyklus zlepšuje výkon modelu, dokud nedosáhne nebo nepřesáhne cíle projektu. To může snížit měsíce práce s označováním dat na pouhé hodiny. V jednom výzkumném projektu Snorkel dva naši výzkumníci označili 20 000 dokumentů za jeden den – objem, který by mohl ručním označovačům trvat deset týdnů nebo déle.

Snorkel nabízí několik AI řešení, včetně Snorkel Flow, Snorkel GenGlow a Snorkel Foundry. Jak se tyto nabídky liší?

Sada Snorkel AI umožňuje uživatelům vytvářet označení funkce (například hledání klíčových slov nebo vzorů v dokumentech) pro programatické označení milionů datových bodů během minut, místo ručního označení jednoho datového bodu za čas.

To komprimuje čas, který podniky potřebují k překladu vlastních dat do produkčních modelů a začínají z nich čerpat hodnotu. Snorkel AI umožňuje podnikům škálovat lidské přístupy v smyčce tím, že efektivně začleňuje lidské úsudky a znalosti odborníků.

To vede k více transparentní a vysvětlitelné AI, umožňující podnikům řídit předvědy a dodávat odpovědné výsledky.

Snorkel AI umožňuje podnikům ve Fortune 500:

• Vyvinout vysoce kvalitní označená data pro trénování modelů nebo vylepšení RAG;
• Přizpůsobit LLM pomocí jemného ladění;
• Destilovat LLM do specializovaných modelů, které jsou mnohem menší a levnější na provoz;
• Vybudovat doménově a úkolem specifické LLM s předtrénováním.

Jste autorem některých průlomových článků, podle vašeho názoru, který z nich je nejdůležitější?

Jedním z klíčových článků byl původní článek o data programming (označení trénovacích dat programově) a o Snorkel.

Jaký je váš výhled do budoucna Snorkel?

Vidím Snorkel jako důvěryhodného partnera pro všechny velké podniky, které jsou vážné o AI.

Snorkel Flow by se měl stát všudypřítomným nástrojem pro týmy datových věd ve velkých podnicích – ať už se jedná o jemné ladění vlastních velkých jazykových modelů pro jejich organizace, stavbu modelů klasifikace obrazů nebo stavbu jednoduchých, nasaditelných modelů logistické regrese.

Bez ohledu na to, jaký typ modelu podnik potřebuje, budou potřebovat vysoce kvalitní označená data pro jeho trénování.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Snorkel AI,