Ud over forventningerne: AI-agenter og det næste kapitel i arbejdet

AI-agenter, eller autonome agenter, er i deres spæde barsel. Meget tidligt – helt i begyndelsen af første inning tidligt. Feltet bobler med innovation, fra banebrydende forskning til bevis på begreber til praktiske anvendelser – alt antyder AI’s enorme potentiale. 

Der er ingen tvivl om, at autonome agenter vil forandre hver eneste industri, med deres evner, der strækker sig langt ud over blot opgaveautomatisering til omkonfiguration af arbejdsprocesser, simulering af komplekse scenarier og reduktion af behovet for menneskelig indgriben i forskellige processer. Vi ser på en (nær) fremtid, hvor agenter kan køre storstilet simuleringer, omkonfigurere markedsføringskampagner eller endda automatisere komplekse R&D-testprocesser.

Boston Consulting Group (BCG) højlighter den evolutionære spring fra store sprogmodeller (LLM’er) til autonome agenter, der er designede til at udføre opgaver fra ende til ende, overvåge resultater, tilpasse sig og bruge værktøjer autonomt til at opnå mål. De repræsenterer et betydeligt skridt mod sand kunstig intelligens, der kan fungere uafhængigt uden konstant menneskelig overvågning. 

I forhold til markedstørrelse, var autonome AI og autonome agenter værd at 4,8 milliarder USD i 2023 og forventes at registrere en CAGR på over 43% mellem 2023 og 2028, og nå 28,5 milliarder. Det er klart, at vi står på tærsklen til en paradigmændring – en fase fyldt med forventning, begejstring, skeptisisme og pragmatisk vurdering. Denne ændring handler ikke kun om teknologisk fremgang; det handler om at omdefinere vores tilgang til arbejde, produktivitet og innovation. Næsten hver investor, grundlægger, udvikler og teknologi-entusiast forsøger at forstå, hvilken indvirkning denne teknologi vil have på, hvordan vi arbejder i vores liv og ud over, og evaluere konsekvenserne for deres operationer og strategiske mål. 

Men for tiden mangler vi evnen til fuldt ud at forstå omfanget af den masseudskiftning, det vil medføre. Alt, vi kan gøre, er at spekulere. Denne artikel er blot det – min spekulation om de udviklende dynamikker af autonome agenter og deres implikationer for grundlæggere, investorer og den bredere økonomi. Jeg vil tale om, hvordan vi på Forum Ventures tænker og investerer i dette område, samt give en markedskort med de virksomheder, vi mener er førende i udforskningen. 

Hvor vi er i dag

Trods de betydelige fremskridt i forskning og bevis på begreber, forsøger vi alle stadig at give mening og projicere, hvordan vi kan udnytte de fulde evner i AI-agenter. Indtil nu er der en sammentømring af tre tendenser:

1. Fremgang i AI-kompetence og effektivitet, der udvider grænserne for, hvad der er muligt. 
2. Den nedadgående pris på muligheder for handling, såsom ChatGPT 4.0, for eksempel, der gør brugen af AI-agenter mere tilgængelig for flere mennesker og medfører en bredere accept og omfattende brug af denne teknologi.
3. Demokratiseringen af adgangen til AI, åben kilde eller ej, der muliggør, at en bredere vifte af enheder kan udforske og implementere AI-løsninger, og dermed accelerere innovationsfarten.

Som med enhver ny teknologi, især en transformation så stor som denne, er der en række udfordringer, der er i gang med at blive adresseret. Her er de to øverste:

1. Sikkerhed og nøjagtighed

Der er en voksende fokus på at udvikle den nødvendige infrastruktur til at sikre den sikre og etiske udvikling af AI-agenter. For mange industrier og virksomheder er der ingen plads til fejl. Hvis en LLM har en hallucinationsrate på blot 0,1%, kan den aldrig betrodes i nogen kritisk proces, og denne fejlrate skal være endnu lavere for en 10-trins- eller 100-trinsproces. At løse dette er afgørende for en bred accept, og mange virksomheder venter, før de omfavner LLM’er enten som en del af deres teknologistak eller som en helt ny måde at operere på. 

Værktøjer til overvågning af nøjagtighed og sikkerhed gennem overvågning og brugeradgang, samt etiske rammer, etableres for at fremme en ansvarlig tilgang til AI-integration. Vi har set nogle virksomheder gøre dette godt, PrivateAI er en af dem. De bruger inferens til at sikre, at virksomheder ikke træner på private data, så det ikke lækker. Vi er også meget begejstrede for nye virksomheder, der kommer på markedet som SafeguardAI – en autonom AI-agent, der sikrer for hallucinationer, og som tillader virksomheder at implementere generativ AI-brug hurtigere.

Derudover udvikles værktøjer som automatiske evalueringsskalaer, menneskelige vurderingsrammer og diagnostiske datasæt til at hjælpe med vurderingen og forbedringen af LLM’ers nøjagtighed. Disse værktøjer hjælper forskere og udviklere med at identificere styrker og svagheder i LLM’er og guide yderligere fremskridt i feltet.

2. Menneske-AI-interaktion

Udfordringen her er, hvor meget mennesker skal interagere med software, der er autonom. Der er bekymringer om de potentielle risici ved, at AI-systemer opererer uden tilstrækkelig menneskelig kontrol, dvs. hvor meget autonomi er for meget. Men vi skal også finde ud af, hvor meget vi vil have mennesker i løkken, og hvilket niveau af menneskelig interaktion skaber mere sikkerhed, samtidig med at det begrænser fordomme og reducerer sandsynligheden for menneskelige fejl. Vi har ikke gode svar på dette endnu, på noget, der ligner en rimelig skala.

Fra et optimistisk perspektiv er jeg håbefuld, vi kan definere en ny paradigm for autonom software til at operere inden for menneskelig kontrol på en måde, så det overvåges og observeres, så mennesker kan forhindre potentielt “dødelige” ting i at ske, som en meget større udgave af en flash-crash i økonomien. I min mening er det dem, der kan bygge dette, der vil vinde og levere transformationelle muligheder. 

Skiftet fra opgave-orienterede til mål-orienterede processer

Der vil ikke være nogen sektor eller arbejdsområde, der vil forblive urørt af AI-agenter, og meget af den ændring, der sker, vil ske i den nærmeste fremtid. I min mening er en af de mest dybtgående virkninger, AI-agenter vil have, skiftet fra opgave-orienterede til mål-orienterede processer. I dag indtaster du noget i en computer, som f.eks. “skriv en kronik om AI-agenter”, og computeren giver noget tilbage til dig, som du så handler på. Dette er en meget opgave-orienteret prompt, og kræver stadig, at brugeren træner agenten i overensstemmelse med målene og tone af personen. Men det er begrænset til dette, og derfor er outputtet i høj grad bestemt af kvaliteten af træningsinputtet, plus de forudbestemte (og muligvis begrænsede) mål for brugeren, som stadig er tungt afhængigt af menneskelig handling. 

Den underudnyttede kraft i AI-agenter ligger i kraften af mål-orienteret arbejde. Fremtiden vil ikke længere være en række trin-for-trin-processer eller komplicerede prompt-engineering for processer. Virksomheder og ledere skal skifte deres tankegang om, hvordan de bygger og bruger autonome regelbaserede processer, hvor mål er foreskrevet, og agenter bestemmer den bedste vej fremad for at opnå dette resultat (med passende menneskelig indgriben). Et eksempel på dette kunne være, “book mig en begivenhed i New York City med 100 fagfolk, der vil lære om, hvordan AI trænger ind i den amerikanske sundhedsøkonomi fra en af vores talere”. I et tilfælde som dette vil AI blive brugt til at operationalisere strategisk tænkning og udføre komplekse output, med endnu mindre input fra mennesker.

Dette er en helt ny måde at tænke og arbejde på. Der er næsten ingen sæt af mål, vi forfølger med en computer, der ikke vil blive forfulgt på en helt anden måde. Dette vil være en fundamental ændring i, hvordan vi orienterer os, og hvordan arbejde konceptualiseres og udføres. 

Monetisering og markedsdynamik

Da AI bliver mere integreret i forretningsmodeller, vurderes traditionelle monetiseringsstrategier om. For eksempel, lige nu i enterprise-software, køber kunder som regel sæder og brug. På forbruger-siden foretager mennesker køb i appen. Vores hypotese er, at dette vil skifte, så software-virksomheder i stigende grad kan sælge resultater, i stedet for værktøjer. Vil mennesker og virksomheder betale for resultater? For deres mål at blive opnået? Vi er ikke sikre endnu. Men vi ser dette som en refleksion af den bredere trend mod værdibaserede engagementer. Der er dog udfordringer i forbindelse med at forudsige profitabilitet og håndtere omkostninger, især på grund af den beregningsintensive natur af AI-teknologier. 

At beslutte, hvem og hvad at investere i på det tidligste stadium

Når vi investerer på dette tidlige stadium, er grundlæggeren en af de største væddemål, vi gør – både grundlægger-markeds-fit og grundlægger-personlighed. Med AI-agenter bliver dette lens endnu vigtigere, fordi med så mange ukendte, vil løsningen, der bygges i dag, sandsynligvis ikke være, hvad der bygges i morgen, men grundlæggeren vil blive den samme. Så vi kigger på ikke kun grundlægger-markeds-fit, men også deres tilknytning til problemet, hvordan de ser på problemstillingen anderledes end den eksisterende paradigm, at de er villige til at omfavne det ukendte, og at de har plasticitet og fleksibilitet til at følge med en marked, der har så megen flux. 

Efter grundlæggeren kigger vi på markedet og om der er et stort totalt adressebart marked og en troværdig vej til en 1 milliard USD-rentemulighed. Vi er åbne for både legacy-markeder som proptech og supply chain, og mere fremadskuende, fleksible markeder som fintech og e-handel, så længe startup-løsningen/værktøjet vil levere en stigning i forhold til den gamle måde.

Vores tredje fokus, når vi vurderer en AI-agent-løsning, er, om værktøjet vil være kompatibelt inden for en AI-centreret software-fremtid. Med andre ord, om den foreslåede løsning vil integrere sammen med og forbedre, hvordan vi ser på fremtidens software-landskab og -stack inden for dette marked.

Vi kan ikke lave ordentlige kostningsbaserede forudsigelser endnu. Lige nu er AI-forretninger fundamentalt mindre profitable end SaaS-forretninger. Omkostningerne i forbindelse med behandling og analyse af data i AI-systemer kan hurtigt akkumulere. Der skal være nær-fremtidig fremskridt, der forbedrer AI-effektivitet og reducerer driftsomkostninger, før vi kan gøre denne type vurdering. Ideelt set er der fremskridt, der spejler Moores Lov i AI-sektoren, og både kraft- og chip-omkostninger reduceres på grund af øgede investeringer. Hvis vi kan finde en balance, hvor AI ikke kun er innovativ, men også økonomisk bæredygtig, så er vi guldfede. Men der er stadig så mange ukendte, og de fleste af os gætter (gør informerede spekulationer, for at sige det pænt).

En ‘modig ny verden’ af muligheder

De fleste mennesker betragter introduktionen af ChatGPT som AI’s “iPhone-øjeblik”. Men jeg tror ikke, vi er der endnu… Indtil nu har disse chat-grænseflader ikke gjort meget andet end strømlinet vores nuværende arbejdsprocesser. Mens disse værktøjer utvivlsomt har gjort opgaver lettere at håndtere, forbliver vores tilgang fundamentalt opgave-orienteret. Den bredere vision er at transformere denne dynamik helt, hvor AI vil kunne operationalisere strategisk tænkning og udføre komplekse output, med endnu mindre input fra mennesker. Det sande iPhone-øjeblik kan være afsløringen af AI-agenter som den standard B2B-applikationssæt, der vil have en usædvanlig indvirkning på fremtidens arbejde. 

Et tiår fra nu vil der være ingen tvivl om, at vi vil se tilbage og undre os over, at vi engang opererede på basis af to-do-lister i stedet for at sætte strategiske mål og lade AI hjælpe os med at iterere og forfine disse mål. Dette skift mod et mål-orienteret arbejdsmiljø repræsenterer ikke kun en evolution i teknologi, men en transformation i, hvordan vi konceptualiserer og tilgår vores arbejde. 

Vejen fremad er fyldt med usikkerheder, men potentialet for AI til at revolutionere industrier, forstærke menneskelig potentiale, drive meningsfuld fremgang og levere varig værdi er uafviseligt. Vores engagement er at navigere disse usikkerheder og identificere, satse på og støtte tidlige AI-initiativer og de brillante mennesker, der bringer deres visioner til live.