Het navigeren van de weg naar Artificial General Intelligence (AGI) samen: een evenwichtige benadering

Aangezien artificiële algemene intelligentie (AGI) snel vooruitgang boekt, verschuift het gesprek van filosofische discussie naar praktische relevantie, met immense mogelijkheden om wereldwijde bedrijven en het menselijk potentieel te transformeren.

Turing’s AGI Icons evenementenserie brengt AI-innovators samen om praktische en verantwoorde vooruitgang van AGI-oplossingen te bespreken. Op 24 juli organiseerde Turing ons tweede AGI Icons-evenement in SHACK15, het exclusieve hub voor ondernemers en tech-innovators in San Francisco. Gemodereerd door Anita Ramaswamy, financieel columnist bij The Information, sprak ik met Quora CEO, Adam D’Angelo, over de weg naar AGI en deelde inzichten in ontwikkelingslijnen, real-world-toepassingen en principes voor verantwoorde inzet.

De weg van AI naar AGI

De “noordster” die AI-onderzoek aandrijft, is de verwezenlijking van menselijke “intelligentie”. Wat AGI onderscheidt van standaard AI is de vooruitgang voorbij smalle functionaliteit naar grotere algemeenheid (breedte) en prestatie (diepte), zelfs tot het overtreffen van menselijke capaciteiten.

Dit is “de weg naar AGI”, waarbij AI voortgang boekt naar meer autonome systemen, superieure redenering, verbeterde capaciteiten en verbeterde functionaliteit. Deze vooruitgang wordt onderverdeeld in vijf taxonomische niveaus:

• Niveau 0: Geen AI – Simpele tools zoals rekenmachines
• Niveau 1: Opkomende AGI – Huidige LLM’s zoals ChatGPT
• Niveau 2: Bekwame AGI – AI-systemen die gelijkwaardig zijn aan vaardige volwassenen voor specifieke taken
• Niveau 3: Expert AGI – AI-systemen op het 90e percentile van vaardige volwassenen
• Niveau 4: Virtuoze AGI – AI-systemen op het 99e percentile
• Niveau 5: Bovenmenselijke AGI – AI-systemen die alle mensen overtreffen

Bron

Tijdens ons gesprek definieerde Adam het concept van AGI als “software die alles kan doen wat een mens kan doen”. Hij voorziet een toekomst waarin AI zichzelf verbetert en uiteindelijk complexe menselijke taken overneemt die worden afgehandeld door machine learning-onderzoekers.

Ik nam mijn visie op AGI verder door het te vergelijken met een “artificiële hersenen” die in staat zijn tot diverse taken zoals “machinevertaling, complexe queries en codering”. Dat is het onderscheid tussen AGI en meer voorspellende AI en smalle vormen van ML die eraan voorafgingen. Het voelt als emergent gedrag.

Realistische ontwikkelingslijnen op de weg naar AGI

Net als bij een roadtrip is de bovenste vraag over AGI “Zijn we er al?” Het korte antwoord is nee, maar aangezien AI-onderzoek versnelt, is de juiste vraag die je moet stellen “Hoe kunnen we AGI-ambitie in evenwicht brengen met realistische verwachtingen?”

Adam benadrukte dat toegenomen automatisering van AGI menselijke rollen zal verschuiven in plaats van elimineren, wat leidt tot snellere economische groei en efficiëntere productiviteit. “Naarmate deze technologie krachtiger wordt, zullen we op een punt komen waarop 90% van wat mensen vandaag doen geautomatiseerd is, maar iedereen zal zijn verschoven naar andere dingen.”

Momenteel wordt een groot deel van de wereldwijde economie beperkt door het aantal mensen dat beschikbaar is om te werken. Zodra we AGI bereiken, kunnen we de economie sneller laten groeien dan vandaag mogelijk is.

We kunnen geen definitieve tijdslijn geven voor wanneer echte AGI wordt gerealiseerd, maar Adam en ik noemden verschillende voorbeelden van AI-vooruitgang die de weg vrijmaken voor toekomstige AGI-vooruitgang. Bijvoorbeeld, Turing’s experimenten met AI-ontwikkelaarstools lieten een toename van 33% in ontwikkelaarsproductiviteit zien, wat wijst op nog groter potentieel.

Real-world-toepassingen en effecten

Een van de meest veelbelovende toepassingen van AGI ligt op het gebied van softwareontwikkeling. Grote taalmodellen (LLM’s), een voorloper van AGI, worden al gebruikt om softwareontwikkeling te verbeteren en codekwaliteit te verbeteren. Ik zie deze era van AI als dichter bij biologie dan fysica, waar alle soorten kenniswerk zullen verbeteren. Er zal zo veel meer productiviteit worden ontgrendeld voor en van de mensheid.

Mijn perspectief komt uit ervaring, waarbij ik een 10-voudige toename van persoonlijke productiviteit heb gezien bij het gebruik van LLM’s en AI-ontwikkelaarstools. We gebruiken AI bij Turing om technisch talent te beoordelen en de juiste software-ingenieurs en PhD-niveau domeinexperts te matchen met de juiste banen.

Wat ik zie in de LLM-trainingsruimte, bijvoorbeeld, is dat trainers deze modellen gebruiken om ontwikkelaarsproductiviteit te verbeteren en projecttijdslijnen te versnellen. Door routinecoderingstaken te automatiseren en intelligente codeaanbevelingen te geven, maken LLM’s ontwikkelaars vrij om zich te concentreren op meer strategische en creatieve aspecten van hun werk.

Adam sloot af met: “LLM’s zullen niet alle code schrijven, maar het begrijpen van softwarefundamenten blijft cruciaal. Rekenmachines elimineerden niet de noodzaak om rekenen te leren.” Hij voegde eraan toe: “Ontwikkelaars worden meer waard wanneer ze deze modellen gebruiken. De aanwezigheid van LLM’s is een positief voor ontwikkelaarsbanen en er zullen veel voordelen zijn voor ontwikkelaars.”

We gaan een gouden era van softwareontwikkeling binnen waarin één software-ingenieur 10 keer productiever kan zijn, meer kan creëren en de wereld kan bevoordelen.

Technische en governance-uitdagingen

Ondanks het veelbelovende potentieel van AGI, moeten uitdagingen worden aangepakt. Robuuste evaluatieprocessen en regelgevingskaders zijn nodig om AGI-innovatie in evenwicht te brengen met openbare veiligheid.

Adam benadrukte de noodzaak van grondige testing en sandboxing om worst-case scenario’s te beperken. “Je wilt een soort robuust evaluatieproces hebben… en de distributie die je test tegen zo dicht mogelijk bij het echte wereldgebruik mogelijk.”

En ik ben het daarmee eens. De bottleneck voor AGI-vooruitgang is nu menselijke intelligentie, in plaats van rekenkracht of gegevens. Menselijke expertise is cruciaal voor het fijnafstemmen en aanpassen van AI-modellen, wat de reden is dat Turing zich richt op het vinden en matchen van top-tier tech-professionals om modellen in evenwicht te brengen met menselijke intelligentie.

We moeten AGI-uitdagingen rechtstreeks aanpakken door ons te concentreren op capaciteiten in plaats van processen, algemeenheid en prestatie, en potentieel.

Perspectieven op uitdagingen: verbetering van mens-AGI-interacties

Sommige van de beste praktijken om AGI-uitdagingen aan te pakken, zijn:

• Concentreer je op capaciteiten of “wat AGI kan doen” in plaats van processen of “hoe het werkt”.
• Balanceer algemeenheid en prestatie als essentiële componenten van AGI.
• Concentreer je op cognitieve/metacognitieve taken en leer capaciteiten in plaats van fysieke taken/uitvoer.
• Meet AGI door zijn potentieel en capaciteiten.
• Concentreer je op ecologische validiteit door benchmarks te aligneren met real-world-taken die mensen waarderen.
• Onthoud dat de weg naar AGI geen enkel eindpunt is, maar een iteratief proces.

Als aanvulling op deze beste praktijken, benadrukte Adam en ik het belang van het verbeteren van mens-AGI-interacties. Adam benadrukte de waarde van het leren hoe en wanneer deze modellen te gebruiken, ze beschouwend als krachtige leertools die snel elke subdomein van programmeren kunnen leren, terwijl hij de belangrijkheid van het begrijpen van de fundamenten benadrukte.

Soortgelijk, stel ik voor dat het maken van elke mens tot een power user van LLM’s de productiviteit en het begrip aanzienlijk kan verbeteren in verschillende domeinen. LLM’s kunnen complexe informatie toegankelijk maken voor iedereen, waardoor productiviteit in verschillende domeinen toeneemt. Maar het vereist een gefaseerde, iteratieve aanpak: beginnend met AI-co-piloten die mensen assisteren, dan overgaand naar agenten met menselijke supervisie en uiteindelijk volledig autonome agenten in goed geëvalueerde taken.

Met dat, is post-training differentiatie kritisch, waarbij gebruik wordt gemaakt van begeleide fijnafstemming (SFT) en menselijke intelligentie om aangepaste modellen te bouwen. Bedrijven die trainers, ingenieurs en anderen kunnen vinden en matchen, zullen hun fijnafstemmings- en aangepaste ingenieurscapaciteiten versnellen. Samenwerking met toonaangevende bedrijven zoals OpenAI en Anthropic is ook cruciaal om deze modellen toe te passen in diverse industrieën.

Principes van verantwoorde AGI-ontwikkeling

“AGI-ontwikkeling moet verantwoord en ethisch zijn, waarbij veiligheid en transparantie worden gewaarborgd en innovatie wordt gestimuleerd.” – Adam D’Angelo

Verantwoorde ontwikkeling van AGI vereist het naleven van verschillende kernprincipes:

• Veiligheid en beveiliging: waarborgen dat AGI-systemen betrouwbaar en resistent zijn tegen misbruik, vooral wanneer modellen worden geschaald om nieuwe gegevensinvoer of algoritmen te accommoderen.
• Transparantie: realistisch zijn over de capaciteiten, beperkingen en “hoe het werkt” van AGI.
• Ethische overwegingen: aanpakken van eerlijkheid, vooroordelen en hoe AGI werkgelegenheid en andere socio-economische factoren zal beïnvloeden.
• Regulering: samenwerken met overheden en andere organisaties om kaders te ontwikkelen die vooruitgang in evenwicht brengen met openbare veiligheid.
• Benchmarking: toekomstige benchmarks moeten AGI-gedrag en capaciteiten kwantificeren tegen ethische overwegingen en taxonomische niveaus.

Conclusie: concentreer je op de weg naar AGI, niet op een enkel eindpunt

De weg naar AGI is complex, maar elke stop onderweg is belangrijk voor de reis. Door de iteratieve verbeteringen van AGI te begrijpen, evenals de implicaties, zullen mensen en bedrijven in staat zijn om deze evoluerende technologie verantwoord te adopteren. Dit is de kern van verantwoorde AGI-ontwikkeling, waar real-world-interactie informeert over hoe we deze nieuwe frontier navigeren.