Přichází „exoluce“ AI

Dnes, když stojíme na hranici technologické zlomové linie, sledujeme cestu od LLM (Large Language Models) k agentům a nakonec k agentic AI a AGI (Artificial General Intelligence), a nejde pouze o větší modely nebo rychlejší odpovědi. Jde také o to, že stroje přecházejí z pasivních asistentů na aktivní spolupracovníky a možná jednou i na nezávislé myslitele.

Podívejme se na tuto cestu a prozkoumejme, co to znamená pro práci, odbornost a roli lidí při formování inteligence zítřka.

Rozdíl mezi LLM, agentními systémy a agentic AI

Chcete-li lépe pochopit rozdíl, zde je příklad. Pokud se zeptám LLM na něco jako: „Chci cestovat z Chicaga do Austinu, jet maximálně 4 hodiny denně a zastavit se v malebných místech“, běžný LLM vrátí statickou odpověď v textovém formátu na základě generování jazyka. S největší pravděpodobností pouze zareaguje na žádost bez provedení důkladné analýzy.

Agent by nejprve klasifikoval žádost jako cestovní. Poté by určil, jaké údaje jsou potřeba: trasy pomocí mapovacích služeb, informace o počasí, náklady na palivo, hotely, restaurace atd. Poté by agent rozdělil žádost na podúkoly a směroval je na specializované moduly nebo LLM vyškolené na relevantních zdrojích. To je orchestrace a koordinace více modelů a nástrojů pod jednotnou logikou.

Dnes jsou většina hlavních systémů, jako je ChatGPT nebo Claude od Anthropic, ve skutečnosti již agenti. Ačkoli to může vypadat, že uživatel interaguje s jediným modelem, ve skutečnosti je za scénou komplexní architektura zahrnující mnoho modelů a systémů. Již mohou zpracovat složité dotazy, ale jejich schopnosti jsou většinou omezeny na poskytování informací; dosud nekonají.

Plně autonomní agent je systém, který shromažďuje informace a může, například, nezávisle rezervovat hotel, koupit lístek nebo zahájit platbu, pokud má přístup k relevantním API nebo uživatelským údajům. Takoví agenti jsou目前 ve fázi raného vývoje. V tomto okamžiku jsou více jako semi-agenti, schopní zpracovat informace, ale dosud nekonají autonomní akce.

Zajímavá oblast diskuse ve výzkumné komunitě je agentic AI. Na rozdíl od běžného agenta, jehož chování je skriptováno vývojáři, agentic AI je systém, který nezávisle rozhoduje, které úkoly vykonat, jaké údaje potřebuje a dokonce i jak pokračovat ve svém vlastním tréninku. To jde za hranice provádění instrukcí; zahrnuje autonomní rozhodování. Agentic AI však zůstává teoretická na této úrovni; dosud neexistují žádné takové systémy v praxi.

AGI – nová horizont. Je však dosažitelná?

Meta investovala do Scale AI před třemi měsíci. Cílem bylo spojit síly na cestě k budování AGI, umělé obecné inteligence, schopné provádět jakoukoli úlohu na úrovni člověka nebo dokonce ji překonat. Pokud je dnešní AI technologickou revolucí, AGI bude skutečnou mega revolucí; někdy ji nazývám „exolucí“, což znamená „exodus“ AI ze stínů. Kdo ji první dosáhne, získá globální strategickou výhodu.

Co se týče toho, jak blízko jsme k skutečné AGI, to závisí silně na tom, jak ji definujeme. Souhlasím s názorem Ilyi Sutskevera: AGI je systém schopný provádět jakoukoli intelektuální úlohu, kterou může člověk. Nejen odpovídat na otázky, ale také rozumět, rozhodovat, generalizovat a interpretovat napříč doménami. Skutečná AGI je univerzální a není omezena na úzké hranice úloh.

Žádný z aktuálních modelů nedosáhl této úrovně. Pohybujeme se tímto směrem, ale skutečná AGI, v teoretickém smyslu, dosud neexistuje. A možná že je to nejlepší. Nacházíme se ve fázi aproximace a pravděpodobně v ní zůstanequite dlouho.

Základ AGI bude pravděpodobně založen na agentním systému. Nebude nutně spoléhat na jediný LLM, protože stejně jako žádný jediný člověk, bez ohledu na to, jak géniovský, nemůže zvládnout všechny domény znalostí a dovedností, žádný jediný LLM nemůže zvládnout celý spektrum úloh AGI sám. Co budeme potřebovat, je druh „kolektivní inteligence“: architektura schopná koordinovat více modelů a komponent.

AGI pravděpodobně nevznikne jako systém navržený lidmi, ale jako meta-agent. Bude to systém, který je částečně vyvinut a vyvíjí se s pomocí AI sama. To je důležité, protože systémy navržené výhradně lidmi mohou nést v sobě inherentní omezení. Zapojení AI do procesu návrhu může pomoci překonat tato omezení a učinit systém více adaptabilním.

AGI pravděpodobně nevznikne z jediného specifického průlomu. Ne z větších LLM, chytrějších agentů nebo zcela nových architektur, ale spíše ze syntézy všech tří. Nejpravděpodobněji něco фундаментálně nového, co přesahuje kategorie, které目前 používáme.

„Humanity’s Last Exam“ a další AGI benchmarky

„Humanity’s Last Exam“ (HLE) je jednou z ambicióznějších benchmarků目前 diskutovaných v kontextu LLM, agentů a AGI. V podstatě se jedná o test skládající se z přibližně 2 500 otázek pokrývajících širokou škálu akademických disciplín – matematiku, fyziku, biologii, chemii, inženýrství, počítačové vědy a dokonce i šachy. Nápad spočívá v tom, aby se vyhodnotilo, zda může AI systém řešit problémy na úrovni skutečného lidského porozumění.

Aktuální jazykové modely fungují velmi špatně na HLE, často dosahují méně než 5% přesnosti. To je v ostrém kontrastu s jinými benchmarky, jako je MMLU nebo GPQA, kde modely dosahují výrazně vyšších skórů. Obtíže, se kterými modely zápasí na HLE, poukazují na to, jak daleko jsou dosud od skutečné obecné inteligence.

Je důležité poznamenat, že vysoký výkon na benchmarcích s známými nebo úzkými datovými sadami nutně neznamená přítomnost skutečné obecné inteligence. Model lze fine-tunovat nebo „trénovat na test“, což může nafouknout jeho zdánlivé schopnosti. Takže i perfektní skór na HLE by neznamenal, že jsme dosáhli AGI; pouze by to znamenalo, že jsme prošli jedním konkrétním testem.

Co pohání AGI

Plně souhlasím s tím, že jádrem AGI jsou data, výpočetní výkon a talent. Situace s výpočetním výkonem je jasná. Klíčoví hráči, jako je Meta, se pokusili vyvinout vlastní čipy, investovali miliardy do vlastního procesu vývoje čipů. Ale společnosti dosud silně závisí na čipech a výpočetním výkonu jiných hráčů, jako je Nvidia, kteří nejen dodávají potřebné hardwarové vybavení, ale také rozumějí důležitosti navyšování produkce.

Více otázek se týká dat a talentů. Internet došel — neexistuje žádný kus lidsky vytvořeného textu z otevřených zdrojů, který by nebyl použit pro trénink v tuto chvíli. Celkový objem informací, který lidstvo dosud vyprodukovalo, se ukázal být překvapivě malý. Proto společnosti začínají aktivně spolupracovat s těmi, kdo mohou generovat vysoce kvalitní lidská data.

Plná automatizace nebo člověk v smyčce?

Další bod — pokles poptávky po manuální anotaci dat. Před několika lety se průmysl rozvíjel plnou parou. Tisíce anotátorů byly najaty, aby uspokojily hlad AI potrubí. Dnes se většina tohoto impetu přesunula směrem k automatizaci. Modely dospěly a stejně tak i nástroje kolem nich.

Berte například rozpoznávání obličeje. To bývalo jedním z hlavních tahounů objemu anotace obrazů. Ale tato kategorie je již z velké části vyřešena. Modely, jako je YOLO, SAM a Samurai, rychle absorbují rutinní práci. Tyto systémy komprimují týdny manuální práce do několika minut, často s ohromující přesností. Implementovali jsme také mnoho nástrojů s podporou ML do naší proprietární platformy Keylabs. Skutečně pomáhá snížit rutinní workflow.

Ale všechny tyto modely jsou omezeny svou generalizací a jsou vhodné pro automatizaci standardních a uniformních operací. Komplexní nebo unikátní případy stále vyžadují lidskou pozornost.

Přecházíme od starého paradigmatu, kde anotátor byl prostě detailně zaměřená osoba, která mohla rozpoznat objekt nebo emoci. V nové realitě jsou potřeba profesionálové: lékaři k anotaci medicínských obrazů, programátoři kódovat, architekti vytvářet plány, marketéři pro zákaznické poznatky a vojenský expert pro obranné scénáře.

Už vidíme reálné případy, jako jsou bojoví piloti anotující data pro AI a vydělávající 1 000 dolarů za hodinu za svou odbornost. Protože tito specialisté jsou vzácní a jejich znalosti jsou kritické pro trénink high-performance AI.

Svět se mění: více a více lidí se stává operátory a „trénéry“ umělé inteligence. Před několika dny jsem dostal zprávu na LinkedIn, abych zkontroloval dataset pro AI aplikaci navrženou pro CEO. V budoucnu může kterýkoli z nás dostat nabídku pracovat jako anotátor, ne jen někdo, kdo kliká na tlačítka, ale odborník, jehož znalosti formují inteligenci zítřka.

Už žijeme v této nové realitě, ve světě anotace dat a tréninku AI. Ti, kdo to rozpoznají a přizpůsobí se, získáají značnou výhodu.