Den kommande “exolutionen” av AI

Idag, när vi befinner oss på randen av en teknisk förändring, observerar vi resan från LLMs till agenter och slutligen till agentic AI och AGI, och det handlar inte bara om större modeller eller snabbare svar. Det handlar också om maskiner som rör sig från att vara passiva assistenter till aktiva samarbetspartner, och kanske en dag, oberoende tänkare.

Låt oss följa denna väg och utforska vad det innebär för arbete, expertis och den roll som människor spelar i att forma intelligensen i morgon.

Skillnaden mellan LLMs, agentbaserade system och agentic AI

För att bättre förstå skillnaden, här är ett exempel. Om jag frågar en LLM något som: “Jag vill resa från Chicago till Austin, köra inte mer än fyra timmar om dagen och stanna på vackra platser”, kommer en vanlig LLM att returnera ett statiskt svar i textformat baserat på språkgenerering. Det kommer sannolikt bara att svara på begäran utan att utföra en grundlig analys.

En agent skulle först klassificera begäran som reserelaterad. Sedan skulle den bestämma vilken data som behövs: rutter med hjälp av karttjänster, väderinformation, bränslekostnader, hotell, restauranger etc. Efter det skulle agenten bryta ner begäran i underuppgifter och dirigera dem till specialiserade moduler eller LLMs som är tränade på relevanta källor. Detta är orkestrering och samordning av flera modeller och verktyg under en enhetlig logik.

Idag är de flesta stora system som ChatGPT eller Claude från Anthropic i princip redan agenter. Även om det kan verka för användaren att de interagerar med en enda modell, finns det bakom kulisserna en komplex arkitektur som involverar många modeller och system. De kan redan hantera komplexa frågor, men deras förmågor är i huvudsak begränsade till att tillhandahålla information; de tar inte ännu några åtgärder.

En fullt autonom agent är ett system som samlar in information och kan, till exempel, oberoende boka ett hotell, köpa en biljett eller initiera en betalning, under förutsättning att det har tillgång till relevanta API:er eller användardata. Sådana agenter är för närvarande i tidiga utvecklingsstadier. Vid den här punkten är de mer som semiagenter, kapabla att bearbeta information men inte ännu utföra autonoma åtgärder.

En intressant diskussionsområde inom forskarsamhället är agentic AI. Till skillnad från en vanlig agent, vars beteende är skriptat av utvecklare, är agentic AI ett system som oberoende bestämmer vilka uppgifter som ska utföras, vilken data som behövs och till och med hur det ska fortsätta sin egen utbildning. Detta går utöver att utföra instruktioner; det handlar om att fatta autonoma beslut. Agentic AI är dock fortfarande teoretiskt på detta stadium; inga sådana system existerar i praktiken ännu.

AGI – den nya horisonten. Men är det uppnåeligt?

Meta har investerat i Scale AI för tre månader sedan. Målet var att gå samman på vägen mot att bygga AGI, Artificiell Allmän Intelligens, kapabel att utföra vilken uppgift som helst på en mänsklig nivå eller till och med överträffa den. Om dagens AI är en teknisk revolution, kommer AGI att vara en sann megarevolution; ibland kallar jag det “exolution”, vilket betyder “exodus” av AI från skuggorna. Den som uppnår det först kommer att få en global strategisk fördel.

När det gäller hur nära vi är den faktiska AGI, beror det tungt på hur vi definierar det. Jag är överens med Ilya Sutskevers synsätt: AGI är ett system som kan utföra vilken intellektuell uppgift som en människa kan. Inte bara svara på frågor, utan resonera, fatta beslut, generalisera och tolka över domäner. Sann AGI är universell och inte begränsad till smala uppgiftsgränser.

Ingen av de nuvarande modellerna har nått den nivån. Vi rör oss i den riktningen, men sann AGI, i den teoretiska bemärkelsen, existerar fortfarande inte. Och kanske är det för det bästa. Vi befinner oss fortfarande i en fas av approximation, och det är troligt att vi kommer att förbli där under en ganska lång tid.

Grundvalen för AGI kommer troligen att vara ett agentbaserat system. Det kommer inte nödvändigtvis att förlita sig på en enda LLM, eftersom ingen enskild människa, hur begåvad som helst, kan bemästra alla domäner av kunskap och färdigheter, och ingen enda LLM kan hantera hela spektrumet av AGI-uppgifter på egen hand. Vad vi kommer att behöva är en sorts “kollektiv intelligens”: en arkitektur som kan samordna flera modeller och komponenter.

AGI kommer troligen att uppstå inte bara som ett mänskligt utformat system, utan som en meta-agent. Det kommer att vara ett system som delvis utvecklas och utvecklas med hjälp av AI själv. Detta är viktigt eftersom system som är helt utformade av människor kan ha inbyggda begränsningar. Att involvera AI i utvecklingsprocessen kan hjälpa till att övervinna dessa begränsningar och göra systemet mer anpassningsbart.

AGI kommer förmodligen inte från någon specifik genombrott. Inte särskilt större LLMs, smartare agenter eller helt nya arkitekturer, utan snarare från en syntes av alla tre. Det är troligt att det kommer att vara något fundamentalt nytt som transcenderar de kategorier vi använder idag.

“Mänsklighetens sista examen” och andra AGI-benchmarks

“Mänsklighetens sista examen” (HLE) är en av de mer ambitiösa benchmarkerna som för närvarande diskuteras i sammanhanget med LLMs, agenter och AGI. I princip är det ett test som består av cirka 2 500 frågor som täcker ett brett spektrum av akademiska discipliner – matematik, fysik, biologi, kemi, ingenjörsvetenskap, datavetenskap och till och med schack. Idén är att utvärdera om ett AI-system kan lösa problem på en nivå som reflekterar verklig mänsklig förståelse.

De nuvarande språkmodellerna presterar mycket dåligt på HLE, ofta med en noggrannhet på mindre än 5%. Detta är i skarp kontrast till andra benchmarkar som MMLU eller GPQA, där modellerna uppnår betydligt högre poäng. Svårigheterna modellerna har med HLE betonar hur långt de fortfarande är ifrån verklig allmän intelligens.

Det är viktigt att notera att hög prestanda på benchmarkar med kända eller smala dataset inte nödvändigtvis indikerar närvaron av verklig allmän intelligens. En modell kan finjusteras eller “tränas till testet”, vilket kan blåsa upp dess tydliga förmågor. Så även en perfekt poäng på HLE skulle inte betyda att vi har uppnått AGI; det skulle bara betyda att vi har passerat ett visst test.

Vad driver AGI

Jag är fullständigt överens om att de centrala pelarna för AGI är data, beräkningar och talang. Situationen med beräkningar är tydlig. Nyckelspelare som Meta har försökt producera sina egna chip, investerat miljarder i sin egen chiputvecklingsprocess. Men företagen förlitar sig fortfarande tungt på andras chip och beräkningskraft, som Nvidia, som inte bara tillhandahåller den nödvändiga hårdvaran utan också förstår vikten av att skala upp produktionen.

Mer frågor handlar om data och talang. Internet har tagit slut — det finns inget stycke mänskligt skapat text från öppna källor som inte har använts för utbildning just nu. Den totala volymen information som mänskligheten har producerat hittills visar sig vara förvånansvärt liten. Därför börjar företag att aktivt samarbeta med de som kan generera högkvalitativ mänsklig data.

Full automation eller människa-i-slingan?

En annan punkt — minskningen av efterfrågan på manuell dataannotering. För några år sedan skalade branschen på full hastighet. Tusentals annotatorer anställdes för att mata AI-pipelinen. Idag har mycket av den momentum skiftat mot automation. Modellerna har mognat, och så har verktygen runt dem.

Tag ansiktsigenkänning. Det var en av de stora drivkrafterna för bildannoteringsvolymen. Men kategorin är i stor utsträckning löst nu. Modeller som YOLO, SAM och Samurai absorberar snabbt rutinarbete. Dessa system komprimerar veckor av manuellt arbete till minuter, ofta med häpnadsväckande noggrannhet. Vi har också implementerat många ML-assisterade verktyg i vår egen plattform Keylabs. Det hjälper verkligen till att skära rutinarbetet.

Men alla dessa modeller är begränsade av deras generalisering och är lämpliga för att automatisera standardiserade och enhetliga operationer. Komplexa eller unika fall kräver fortfarande mänsklig uppmärksamhet.

Vi rör oss bort från det gamla paradigmet där en annotator bara var en detaljorienterad person som kunde känna igen ett föremål eller en känsla. I den nya verkligheten behövs proffs: läkare för att annotera medicinska bilder, programmerare för att koda, arkitekter för att skapa ritningar, marknadsförare för kundinsikter och militära experter för försvarsscenarier.

Vi ser redan verkliga fall, som stridsflygare som annoterar data för AI och tjänar 1 000 dollar i timmen för sin expertis. Eftersom sådana specialister är sällsynta och deras kunskap är kritisk för att träna högpresterande AI.

Världen förändras: allt fler människor blir operatörer och “tränare” av artificiell intelligens. Bara för några dagar sedan fick jag ett meddelande på LinkedIn som bad mig att kontrollera en datamängd för en AI-app avsedd för VD:ar. I framtiden kan vem som helst av oss få ett erbjudande att arbeta som annotator, inte bara någon som klickar på knappar, utan en expert vars kunskap formar intelligensen i morgon.

Vi lever redan i denna nya verklighet, en värld av dataetikettering och AI-träning. De som känner igen det och anpassar sig kommer att få en betydande fördel.