De komende “exolutie” van AI

Vandaag, aan de rand van een technologische breuklijn, observeren we de reis van LLM’s naar agenten en uiteindelijk naar agente AI en AGI, en het gaat niet alleen om grotere modellen of snellere reacties. Het gaat ook over machines die veranderen van passieve assistenten naar actieve medewerkers en misschien, op een dag, onafhankelijke denkers.

Laten we deze weg volgen en onderzoeken wat het betekent voor werk, expertise en de rol van mensen in het vormen van de intelligentie van morgen.

Het verschil tussen LLM’s, agent-gebaseerde systemen en agente AI

Om het verschil beter te begrijpen, is hier een voorbeeld. Als ik een LLM iets vraag zoals: “Ik wil van Chicago naar Austin reizen, niet meer dan vier uur per dag rijden en stoppen bij scenic plekken,” zal een reguliere LLM een statische reactie in tekstformaat teruggeven op basis van taalgeneratie. Het zal waarschijnlijk alleen reageren op het verzoek zonder een grondige analyse uit te voeren.

Een agent zou eerst het verzoek classificeren als reisgerelateerd. Vervolgens zou het bepalen welke gegevens nodig zijn: routes met behulp van kaartdiensten, weersinformatie, brandstofkosten, hotels, restaurants, enz. Daarna zou de agent het verzoek in subtaken opdelen en deze doorsturen naar gespecialiseerde modules of LLM’s die zijn getraind op de relevante bronnen. Dit is orkestratie en coördinatie van meerdere modellen en tools onder een uniforme logica.

Vandaag de dag zijn de meeste grote systemen, zoals ChatGPT of Claude van Anthropic, eigenlijk al agenten. Hoewel het voor de gebruiker lijkt alsof ze met een enkel model communiceren, is er achter de schermen een complexe architectuur met veel modellen en systemen. Ze kunnen al complexe vragen afhandelen, maar hun mogelijkheden zijn voornamelijk beperkt tot het verstrekken van informatie; ze nemen nog geen actie.

Een volledig autonoom agent is een systeem dat informatie verzamelt en bijvoorbeeld onafhankelijk een hotel kan boeken, een ticket kan kopen of een betaling kan initiëren, mits het toegang heeft tot de relevante API’s of gebruikersgegevens. Dergelijke agenten zijn momenteel in de vroege ontwikkelingsfase. Op dit punt zijn ze meer zoals semi-agenten, die informatie kunnen verwerken maar nog geen autonome acties kunnen uitvoeren.

Een interessant discussiegebied in de onderzoekscommunity is agente AI. In tegenstelling tot een reguliere agent, wiens gedrag door ontwikkelaars is geprogrammeerd, is agente AI een systeem dat onafhankelijk besluit welke taken het moet uitvoeren, welke gegevens het nodig heeft en zelfs hoe het zijn eigen training moet voortzetten. Dit gaat verder dan het uitvoeren van instructies; het gaat om het nemen van autonome beslissingen. Echter, agente AI blijft theorie en bestaat nog niet in de praktijk.

AGI – de nieuwe horizon. Maar is het haalbaar?

Meta heeft drie maanden geleden geïnvesteerd in Scale AI. Het doel was om samen te werken aan de weg naar het bouwen van AGI, Artificial General Intelligence, die elke taak op menselijk niveau kan uitvoeren of zelfs overtreffen. Als de huidige AI een technologische revolutie is, zal AGI een echte mega-revolutie zijn; soms noem ik het “exolutie”, wat “exodus” van AI uit de schaduw betekent. Wie het eerst bereikt, zal een wereldwijde strategische voorsprong behalen.

Wat betreft hoe dicht we bij echte AGI zijn, hangt dat sterk af van hoe we het definiëren. Ik ben het eens met Ilya Sutskever’s visie: AGI is een systeem dat elke intellectuele taak kan uitvoeren die een mens kan. Niet alleen vragen beantwoorden, maar redeneren, beslissingen nemen, generaliseren en interpreteren over domeinen. Echte AGI is universeel en niet beperkt tot smalle taakgebieden.

Geen van de huidige modellen heeft dat niveau bereikt. We bewegen ons in die richting, maar echte AGI, in de theoretische zin, bestaat nog niet. En misschien is dat maar beter. We zitten nog in een fase van benadering, en het is waarschijnlijk dat we daar nog een tijdje in zullen blijven.

De basis van AGI zal waarschijnlijk een agent-gebaseerd systeem zijn. Het zal niet noodzakelijkerwijs afhankelijk zijn van een enkel LLM, omdat net zoals geen enkele mens, hoe briljant ook, alle domeinen van kennis en vaardigheden kan beheersen, geen enkel LLM alle taken van AGI alleen kan afhandelen. Wat we nodig hebben, is een soort “collectieve intelligentie”: een architectuur die meerdere modellen en componenten kan coördineren.

AGI zal waarschijnlijk niet voortkomen uit een enkele door de mens ontworpen agent, maar uit een meta-agent. Het zal een systeem zijn dat gedeeltelijk is ontwikkeld en evolueert met de hulp van AI zelf. Dit is belangrijk omdat systemen die volledig door mensen zijn ontworpen, inherente beperkingen kunnen hebben. Het betrekken van AI bij het ontwerpproces kan helpen om deze beperkingen te overwinnen en het systeem adaptiever te maken.

AGI zal waarschijnlijk niet voortkomen uit een enkele doorbraak. Niet specifiek grotere LLM’s, slimmere agenten of geheel nieuwe architectuur, maar eerder uit een synthese van alle drie. Waarschijnlijk iets fundamenteel nieuws dat de categorieën die we momenteel gebruiken, overstijgt.

“Humanity’s Last Exam” en andere AGI-benchmarks

“Humanity’s Last Exam” (HLE) is een van de meer ambitieuze benchmarks die momenteel in de context van LLM’s, agenten en AGI worden besproken. Het is in wezen een test die bestaat uit ongeveer 2.500 vragen die een breed scala aan academische disciplines bestrijken – wiskunde, natuurkunde, biologie, scheikunde, ingenieurswetenschappen, informatica en zelfs schaken. Het idee is om te evalueren of een AI-systeem problemen kan oplossen op een niveau dat echte menselijke begrip weerspiegelt.

De huidige taalmodellen presteren zeer slecht op HLE, vaak minder dan 5% nauwkeurig. Dit is in schril contrast met andere benchmarks zoals MMLU of GPQA, waar modellen aanzienlijk hogere scores behalen. De moeilijkheden die modellen hebben met HLE benadrukken hoe ver ze nog zijn van echte algemene intelligentie.

Het is belangrijk op te merken dat een hoge score op benchmarks met bekende of smalle datasets niet noodzakelijkerwijs de aanwezigheid van echte algemene intelligentie aangeeft. Een model kan worden gefinetuned of “getraind op de test”, wat zijn schijnbare capaciteiten kan opblazen. Dus zelfs een perfecte score op HLE zou niet betekenen dat we AGI hebben bereikt; het zou alleen betekenen dat we een specifieke test hebben doorstaan.

Wat AGI in beweging zet

Ik ben het volledig eens dat de kernpijlers van AGI zijn: data, compute en talent. De situatie met computing is duidelijk. Sleutelspelers zoals Meta hebben geprobeerd hun eigen chips te produceren, miljarden te investeren in hun eigen chipontwikkelingsproces. Maar bedrijven zijn nog steeds sterk afhankelijk van andere chips en de rekenkracht van andere spelers zoals Nvidia, die niet alleen de benodigde hardware leveren maar ook het belang van het opschalen van de productie begrijpen.

Meer vragen zijn er over data en talent. Het internet is op – er is geen stukje door de mens gecreëerde tekst uit open bronnen dat niet is gebruikt voor training op dit moment. Het totale volume aan informatie dat de mensheid tot nu toe heeft geproduceerd, blijkt verrassend klein te zijn. Daarom beginnen bedrijven actief te partnerschap te sluiten met degene die hoogwaardige menselijke data kunnen genereren.

Volledige automatisering of mens-in-de-lus?

Een ander punt – de afname van de vraag naar handmatige gegevensannotatie. Een paar jaar geleden groeide de industrie op volle snelheid. Duizenden annotators werden ingehuurd om de honger van AI-pijplijnen te stillen. Vandaag de dag is veel van die impuls verschoven naar automatisering. Modellen zijn gerijpt en ook de tooling eromheen.

Neem gezichtsherkenning. Dat was een van de belangrijkste drijvende krachten achter de hoeveelheid beeldannotaties. Maar die categorie is grotendeels opgelost. Modellen zoals YOLO, SAM en Samurai absorberen snel routineuze werk. Deze systemen comprimeren weken van handmatige inspanning in enkele minuten, vaak met verbluffende nauwkeurigheid. We hebben ook veel ML-geassisteerde tools geïmplementeerd in onze eigen platform Keylabs. Het helpt echt om de routineuze workflow te verminderen.

Maar al deze modellen zijn beperkt door hun generalisatie en zijn geschikt voor het automatiseren van standaard- en uniforme operaties. Complexe of unieke gevallen vereisen nog steeds menselijke aandacht.

We bewegen ons weg van het oude paradigma waarin een annotator gewoon iemand was met aandacht voor detail die een object of emotie kon herkennen. In de nieuwe realiteit zijn professionals nodig: artsen om medische beelden te annoteren, programmeurs om te coderen, architecten om blauwdrukken te maken, marketeers voor klantinzichten en militaire experts voor defensiescenario’s.

We zien al echte gevallen, zoals gevechtspiloten die data annoteren voor AI en $1.000 per uur verdienen voor hun expertise. Omdat dergelijke specialisten zeldzaam zijn en hun kennis cruciaal is voor het trainen van high-performance AI.

De wereld verandert: meer en meer mensen worden operators en “trainers” van kunstmatige intelligentie. Pas gisteren kreeg ik een LinkedIn-bericht waarin me werd gevraagd een dataset te controleren voor een AI-app die voor CEO’s is ontwikkeld. In de toekomst kan een van ons een aanbod krijgen om te werken als annotator, niet alleen iemand die knoppen indrukt, maar een expert wiens kennis de intelligentie van morgen vormt.

We leven al in deze nieuwe realiteit, een wereld van datalabeling en AI-training. Degene die het herkennen en zich aanpassen, zullen een significante voorsprong behalen.