De weg naar kunstmatige algemene intelligentie (AGI) samen bewandelen: een evenwichtige aanpak

Terwijl kunstmatige algemene intelligentie (AGI) snel vooruitgang boekt, verschuift het gesprek van filosofische discussie naar praktische relevantie, met immense kansen om wereldwijde bedrijven en menselijk potentieel te transformeren.

Turing’s AGI Icons evenementenserie brengt AI-innovators samen om praktische en verantwoorde vooruitgang van AGI-oplossingen te bespreken. Op 24 juli organiseerde Turing ons tweede AGI Icons-evenement in SHACK15, San Francisco’s exclusieve hub voor ondernemers en tech-innovators. Onder leiding van Anita Ramaswamy, financieel columnist bij The Information, sprak ik met Quora-CEO Adam D’Angelo over de weg naar AGI en deelde inzichten over ontwikkelingstijden, real-world-toepassingen en principes voor verantwoorde inzet.

De weg van AI naar AGI

De “noordster” die AI-onderzoek aandrijft, is de verwezenlijking van menselijke “intelligentie”. Wat AGI onderscheidt van standaard AI is de vooruitgang voorbij smalle functionaliteit naar grotere algemeenheid (breedte) en prestatie (diepte), zelfs tot het overschrijden van menselijke capaciteiten.

Dit is “de weg naar AGI”, waarbij AI voortgang boekt naar meer autonome systemen, superieure redenering, verbeterde capaciteiten en verbeterde functionaliteit. Deze vooruitgang wordt onderverdeeld in vijf taxonomische niveaus:

• Niveau 0: Geen AI – Simpele tools zoals rekenmachines
• Niveau 1: Opkomende AGI – Huidige LLM’s zoals ChatGPT
• Niveau 2: Bekwame AGI – AI-systemen die overeenkomen met vaardige volwassenen op specifieke taken
• Niveau 3: Expert AGI – AI-systemen op het 90e percentile van vaardige volwassenen
• Niveau 4: Virtuoze AGI – AI-systemen op het 99e percentile
• Niveau 5: Superhumane AGI – AI-systemen die alle mensen overtreffen

Bron

Tijdens ons gesprek definieerde Adam het concept van AGI als “software die alles kan doen wat een mens kan doen”. Hij ziet een toekomst waarin AI zichzelf verbetert en uiteindelijk complexe menselijke taken overneemt die momenteel door machine learning-onderzoekers worden uitgevoerd.

Ik nam dit idee verder en vergeleek mijn visie op AGI met die van een “kunstmatige hersenen” die in staat zijn tot diverse taken zoals “machinevertaling, complexe vragen en codering”. Dat is het onderscheid tussen AGI en meer voorspellende AI en smalle vormen van ML die eraan voorafgingen. Het lijkt op emergent gedrag.

Realistische ontwikkelingstijden op de weg naar AGI

Net als bij een roadtrip is de bovenste vraag over AGI “Zijn we er al?” Het korte antwoord is nee, maar terwijl AI-onderzoek versnelt, is de juiste vraag “Hoe kunnen we AGI-ambitie in evenwicht brengen met realistische verwachtingen?”

Adam benadrukte dat de toename van automatisering door AGI menselijke rollen zal verschuiven in plaats van elimineren, wat leidt tot snellere economische groei en efficiëntere productiviteit. “Naarmate deze technologie krachtiger wordt, zullen we een punt bereiken waarop 90% van wat mensen vandaag doen geautomatiseerd is, maar iedereen zal zijn verschoven naar andere dingen.”

Op dit moment wordt een groot deel van de wereldwijde economie beperkt door het aantal beschikbare mensen. Zodra we AGI bereiken, kunnen we de economie veel sneller laten groeien dan nu mogelijk is.

We kunnen geen definitieve tijdslijn geven voor wanneer echte AGI zal worden gerealiseerd, maar Adam en ik noemden verschillende voorbeelden van AI-vooruitgang die de weg vrijmaken voor toekomstige AGI-vooruitgang. Bijvoorbeeld, Turing’s experimenten met AI-ontwikkelaarstools lieten een toename van 33% in ontwikkelaarsproductiviteit zien, wat wijst op nog groter potentieel.

Real-world-toepassingen en effecten

Een van de meest veelbelovende toepassingen van AGI ligt op het gebied van softwareontwikkeling. Grote taalmodellen (LLM’s), een voorloper van AGI, worden al gebruikt om softwareontwikkeling te verbeteren en codekwaliteit te verbeteren. Ik zie deze periode van AI als dichter bij biologie dan fysica, waar alle soorten kenniswerk zullen verbeteren. Er zal zo veel meer productiviteit worden ontgrendeld voor en van de mensheid.

Mijn perspectief komt voort uit ervaring, waarbij ik een toename van 10 keer de persoonlijke productiviteit heb gezien bij het gebruik van LLM’s en AI-ontwikkelaarstools. We gebruiken AI ook bij Turing om technisch talent te beoordelen en de juiste software-ingenieurs en PhD-niveau domeinexperts te matchen met de juiste banen.

Wat ik zie in de LLM-trainingsruimte, bijvoorbeeld, is dat trainers deze modellen gebruiken om ontwikkelaarsproductiviteit te verbeteren en projecttijden te versnellen. Door routinecoderingstaken te automatiseren en intelligente codeaanbevelingen te geven, maken LLM’s het voor ontwikkelaars mogelijk om zich te concentreren op meer strategische en creatieve aspecten van hun werk.

Adam sloot af met: “LLM’s zullen niet alle code schrijven, maar het begrijpen van softwarefundamenten blijft essentieel. Rekenmachines elimineerden niet de noodzaak om rekenen te leren.” Hij voegde eraan toe: “Ontwikkelaars worden waardevoller wanneer ze deze modellen gebruiken. De aanwezigheid van LLM’s is positief voor ontwikkelaarsbanen en er zullen veel voordelen zijn voor ontwikkelaars.”

We betreden een gouden tijdperk van softwareontwikkeling waarin één software-ingenieur 10 keer productiever kan zijn, meer kan creëren en de wereld kan bevoordelen.

Technische en governance-uitdagingen

Ondanks het veelbelovende potentieel van AGI, moeten uitdagingen worden aangepakt. Robuuste evaluatieprocessen en regelgevingskaders zijn nodig om AGI-innovatie in evenwicht te brengen met openbare veiligheid.

Adam benadrukte de noodzaak van grondige testen en sandboxen om de slechtste scenario’s te beperken. “Je wilt een soort robuust evaluatieproces hebben… en die distributie die je test tegen zo dicht mogelijk bij het echte wereldgebruik mogelijk maken.”

En ik ben het daarmee eens. De bottleneck voor AGI-vooruitgang is nu menselijke intelligentie, in plaats van rekenkracht of gegevens. Menselijke expertise is essentieel voor het fijnafstemmen en aanpassen van AI-modellen, wat de reden is waarom Turing zich richt op het vinden en matchen van top-tier technisch personeel om modellen in evenwicht te brengen met menselijke intelligentie.

We moeten AGI-uitdagingen rechtstreeks aanpakken door ons te concentreren op capaciteiten in plaats van processen, algemeenheid en prestatie, en potentieel.

Perspectieven op uitdagingen: verbetering van mens-AGI-interacties

Enkele van de beste praktijken om AGI-uitdagingen aan te pakken, zijn:

• Concentreer je op capaciteiten of “wat AGI kan doen” in plaats van processen of “hoe het werkt”.
• Breng algemeenheid en prestatie in evenwicht als essentiële componenten van AGI.
• Concentreer je op cognitieve/metacognitieve taken en leer capaciteiten in plaats van fysieke taken/uitvoer.
• Meet AGI door zijn potentieel en capaciteiten.
• Concentreer je op ecologische validiteit door benchmarks af te stemmen op real-worldtaken die mensen waarderen.
• Onthoud dat de weg naar AGI geen enkel eindpunt is, maar een iteratief proces.

Adam en ik benadrukten het belang van het verbeteren van mens-AGI-interacties. Adam benadrukte de waarde van het leren van en wanneer deze modellen te gebruiken, door ze te zien als krachtige leerhulpmiddelen die snel elk subdomein van programmeren kunnen leren, terwijl hij de belangrijkheid van het begrijpen van de fundamenten benadrukte.

Ik stel voor dat het maken van elke mens een power user van LLM’s de productiviteit en het begrip aanzienlijk kan verbeteren in verschillende domeinen. LLM’s kunnen complexe informatie toegankelijk maken voor iedereen, waardoor productiviteit in verschillende domeinen toeneemt. Maar het vereist een gefaseerde, iteratieve aanpak: beginnend met AI-co-piloten die mensen assisteren, vervolgens met agenten onder menselijke supervisie en uiteindelijk met volledig autonome agenten in goed geëvalueerde taken.

Met dat, is post-training differentiatie kritisch, waarbij toezicht op fijne afstemming (SFT) en het benutten van menselijke intelligentie om aangepaste modellen te bouwen. Bedrijven die trainers, ingenieurs en anderen kunnen vinden en matchen, zullen hun capaciteiten voor fijne afstemming en aangepaste engineering versnellen. Samenwerking met toonaangevende bedrijven zoals OpenAI en Anthropic is ook essentieel om deze modellen toe te passen in diverse industrieën.

Principes van verantwoorde AGI-ontwikkeling

“AGI-ontwikkeling moet verantwoord en ethisch zijn, waarbij veiligheid en transparantie worden gewaarborgd en innovatie wordt gestimuleerd.” – Adam D’Angelo

Verantwoorde ontwikkeling van AGI vereist het naleven van verschillende kernprincipes:

• Veiligheid en beveiliging: AGI-systemen moeten betrouwbaar en bestand zijn tegen misbruik, vooral wanneer modellen worden geschaald om nieuwe gegevensinvoer of algoritmen te accommoderen.
• Transparantie: realistisch zijn over de capaciteiten, beperkingen en “hoe het werkt” van AGI.
• Ethische overwegingen: omgaan met eerlijkheid, vooroordelen en hoe AGI de werkgelegenheid en andere socio-economische factoren zal beïnvloeden.
• Regulering: samenwerken met overheden en andere organisaties om kaders te ontwikkelen die vooruitgang in evenwicht brengen met openbare veiligheid.
• Benchmarking: toekomstige benchmarks moeten AGI-gedrag en capaciteiten meten tegen ethische overwegingen en taxonomische niveaus.

Conclusie: concentreer je op de weg naar AGI, niet op een enkel eindpunt

De weg naar AGI is complex, maar elk tussenstop is belangrijk voor de reis. Door AGI’s iteratieve verbeteringen en hun implicaties te begrijpen, kunnen mensen en bedrijven deze evoluerende technologie verantwoord adopteren. Dit is de kern van verantwoorde AGI-ontwikkeling, waarbij real-world-interactie informeert over hoe we deze nieuwe frontier navigeren.