Den kommende “eksolusjonen” av AI

I dag, når vi står på kanten av en teknologisk forkastning, observerer vi reisen fra LLMs til agenter og til slutt til agens AI og AGI, og det handler ikke bare om større modeller eller raskere svar. Det handler også om maskiner som går fra å være passive assistenter til å være aktive samarbeidspartnere, og kanskje en dag, uavhengige tenkere.

La oss følge denne veien og utforske hva det betyr for arbeid, ekspertise og den rolle mennesker spiller i å forme intelligensen i morgen.

Forskjellen mellom LLMs, agentbaserte systemer og agens AI

For å bedre forstå forskjellen, her er et eksempel. Hvis jeg spør en LLM noe som: “Jeg ønsker å reise fra Chicago til Austin, kjøre ikke mer enn fire timer om dagen og stoppe på pittoreske steder”, vil en vanlig LLM returnere et statisk svar i tekstformat basert på språkgenerering. Det vil sannsynligvis bare svare på forespørselen uten å utføre en grundig analyse.

En agent vil først klassifisere forespørselen som reise-relatert. Deretter vil den bestemme hva slags data som er nødvendig: ruter ved hjelp av karttjenester, værinformasjon, drivstoffkostnader, hoteller, restauranter osv. Etter det vil agenten bryte forespørselen ned i underoppgaver og sende dem til spesialiserte moduler eller LLMs som er trenet på relevante kilder. Dette er orkestrering og koordinering av flere modeller og verktøy.

I dag er de fleste store systemer som ChatGPT eller Claude fra Anthropic i realiteten allerede agenter. Selv om det kan se ut for brukeren som om de samhandler med en enkelt modell, er det bak scenen en kompleks arkitektur som involverer mange modeller og systemer. De kan allerede håndtere komplekse forespørsler, men deres evner er for det meste begrenset til å gi informasjon; de tar ikke handling enda.

En fullstendig autonom agent er et system som samler informasjon og kan, for eksempel, uavhengig bestille et hotell, kjøpe en billett eller initiere en betaling, gitt at det har tilgang til relevante API-er eller brukerdata. Slike agenter er for tiden i tidlige utviklingsfaser. På dette stadiet er de mer som semi-agenter, i stand til å prosessere informasjon, men ikke ennå i stand til å utføre autonome handlinger.

En interessant diskusjonsområde i forskningsmiljøet er agens AI. I motsetning til en vanlig agent, hvis atferd er skrevet av utviklere, er agens AI et system som uavhengig bestemmer hva slags oppgaver det skal utføre, hva slags data det trenger og sogar hvordan det skal fortsette sin egen trening. Dette går langt utover å utføre instruksjoner; det handler om å ta autonome beslutninger. Imidlertid er agens AI fortsatt teoretisk på dette stadiet; slike systemer eksisterer ikke ennå i praksis.

AGI – den nye horisonten. Men er det oppnåelig?

Meta har investert i Scale AI for tre måneder siden. Målet var å slutte seg sammen på veien mot å bygge AGI, kunstig generell intelligens, som kan utføre enhver oppgave på et menneskelig nivå eller sogar overgå det. Hvis dagens AI er en teknologisk revolusjon, vil AGI være en sann mega-revolusjon; noen ganger kaller jeg det “eksolusjon”, som betyr “eksodus” av AI fra skyggen. Den som oppnår det først vil få en global strategisk fordel.

Så langt vi er fra faktisk AGI, det avhenger tungt av hvordan vi definerer det. Jeg er enig med Ilya Sutskevers syn: AGI er et system som kan utføre enhver intellektuell oppgave som et menneske kan. Ikke bare svare på spørsmål, men også resonere, ta beslutninger, generalisere og tolke på tvers av domener. Sann AGI er universell og ikke begrenset til smale oppgave-grenser.

Ingen av de nåværende modellene har nådd det nivået. Vi beveger oss i den retningen, men sann AGI, i den teoretiske forstand, eksisterer fortsatt ikke. Og kanskje er det best så. Vi er fortsatt i en fase av tilnærmelse, og det er sannsynlig at vi vil forbli der i ganske lang tid.

Grunnlaget for AGI vil sannsynligvis være et agentbasert system. Det vil ikke nødvendigvis avhenge av en enkelt LLM, fordi likevel som ingen enkelt menneske, uansett hvor genialt, kan mestre alle domener av kunnskap og ferdigheter, kan ingen enkelt LLM håndtere hele spekteret av AGI-oppgaver på egen hånd. Hva vi trenger er en slags “kollektiv intelligens”: en arkitektur som kan koordinere flere modeller og komponenter.

AGI vil sannsynligvis oppstå ikke bare som et menneske-designet agent, men som en meta-agent. Det vil være et system som er delvis utviklet og evoluerer med hjelp av AI selv. Dette er viktig fordi systemer som er designet fullstendig av mennesker kan bære med seg innebygde begrensninger. Å involvere AI i designprosessen kan hjelpe med å overvinne disse begrensningene og gjøre systemet mer tilpasningsdyktig.

AGI kommer sannsynligvis ikke fra noen enkelt spesifikk gjennombrudd. Ikke spesielt større LLMs, smartere agenter eller helt nye arkitekturer, men snarere fra en syntese av alle tre. Noe fundamentalt nytt som transcenderer kategoriene vi bruker i dag.

“Humanitys siste eksamen” og andre AGI-benchmark

“Humanitys siste eksamen” (HLE) er en av de mer ambisiøse benchmarkene som for tiden diskuteres i sammenheng med LLMs, agenter og AGI. I realiteten er det en test som består av rundt 2 500 spørsmål som spenner over et bredt spekter av akademiske disipliner – matematikk, fysikk, biologi, kjemi, ingeniørvitenskap, datavitenskap og sogar sjakk. Ideen er å evaluere om et AI-system kan løse problemer på et nivå som reflekterer genuin menneskelig forståelse.

De nåværende språkmodellene utfører svært dårlig på HLE, ofte scoringer under 5% nøyaktighet. Dette er i skarp kontrast til andre benchmarkene som MMLU eller GPQA, hvor modellene oppnår betydelig høyere poeng. Den vanskeligheten modellene har med HLE understreker bare hvor langt de ennå er fra å være virkelig generell intelligens.

Det er viktig å merke seg at høy ytelse på benchmarkene med kjente eller smale datasett ikke nødvendigvis indikerer tilstedeværelsen av virkelig generell intelligens. En modell kan bli finjustert eller “trenet til testen”, noe som kan blåse opp dens åpenbare evner. Så selv en perfekt poengsum på HLE ville ikke bety at vi har nådd AGI; det ville bare bety at vi har bestått en enkelt test.

Hva driver AGI

Jeg er fullstendig enig i at kjernepilarerne for AGI er data, beregning og talent. Situasjonen med beregning er klar. Nøkkelaktører som Meta har prøvd å produsere sine egne chip, investert milliarder i sin egen chip-utviklingsprosess. Men selskapene er fortsatt tungt avhengige av andre chip og beregningskraft fra andre aktører som Nvidia, som ikke bare leverer den nødvendige maskinvaren, men også forstår viktigheten av å skalerer opp produksjonen.

Flere spørsmål handler om data og talenter. Internettet har gått tom — det finnes ingen del av menneskeskapt tekst fra åpne kilder som ikke er brukt til trening for øyeblikket. Den totale volumet av informasjon menneskeheten har produsert hittil viser seg å være overraskende lite. Derfor begynner selskapene å aktivt samarbeide med de som kan generere høykvalitets menneskelig data.

Full automatisering eller menneske-i-løkken?

Et annet punkt – nedgangen i etterspørsel etter manuell data-annotering. For noen år siden var industrien i full fart. Tusenvis av annotatorer ble påmeldt for å mate AI-pipelines. I dag har mye av denne momentum skiftet mot automatisering. Modellene har modnet, og også verktøylene rundt dem.

La oss ta ansiktsgjenkjenning som eksempel. Det var en av de viktigste drivkreftene bak bildannoteringsvolumet. Men kategorien er i stor grad løst nå. Modeller som YOLO, SAM og Samurai absorberer raskt rutinearbeid. Disse systemene komprimerer uker med manuelt arbeid til minutter, ofte med forbløffende nøyaktighet. Vi har også implementert mange ML-assisterte verktøy i vår egen plattform Keylabs. Det hjelper virkelig å kutte det rutinemessige arbeidsflyten.

Men alle disse modellene er begrenset av deres generalisering og er egnet for å automatisere standard og uniforme operasjoner. Komplekse eller unike tilfeller krever fortsatt menneskelig oppmerksomhet.

Vi beveger oss bort fra det gamle paradigmet hvor en annotator bare var en detaljorientert person som kunne gjenkjenne et objekt eller en emosjon. I den nye virkeligheten trenger vi profesjonelle: leger for å annotere medisinske bilder, programmerere for å kode, arkitekter for å lage blåkopier, markedsførere for kundeinnsikt og militære eksperter for forsvarsscenarier.

Vi ser allerede virkelige eksempler, som jagerpiloter som annoterer data for AI og tjener 1 000 dollar per time for sin ekspertise. Fordi slike spesialister er sjeldne, og deres kunnskap er kritisk for å trene høy-ytelses AI.

Verden er i endring: flere og flere mennesker blir operatører og “trener” av kunstig intelligens. Bare for noen dager siden fikk jeg en melding på LinkedIn om å sjekke en datasett for en AI-app designet for CEO-er. I fremtiden kan noen av oss motta et tilbud om å jobbe som annotator, ikke bare noen som klikker på knapper, men en ekspert hvis kunnskap former intelligensen i morgen.

Vi lever allerede i denne nye virkeligheten, en verden av data-merking og AI-trening. De som erkjenner det og tilpasser seg vil få en betydelig fordel.