Navigera vägen till Artificiell Allmän Intelligens (AGI) Tillsammans: Ett Balanserat Tillvägagångssätt

Som artificiell allmän intelligens (AGI) snabbt utvecklas, skiftar samtalet från filosofisk debatt till en praktiskt relevant diskussion, med enorma möjligheter att transformera globala företag och mänsklig potential.

Turing’s AGI Icons eventserie samlar AI-innovatörer för att diskutera praktiska och ansvarsfulla framsteg inom AGI-lösningar. Den 24 juli höll Turing vår andra AGI Icons-event på SHACK15, San Franciscos exklusiva hub för entreprenörer och tech-innovatörer. Med Anita Ramaswamy, finanskolumnist på The Information, som moderator, satte jag mig ner med Quora CEO, Adam D’Angelo, för att diskutera vägen till AGI och dela insikter om utvecklingstider, realvärldstillämpningar och principer för ansvarsfull distribution.

Vägen från AI till AGI

Den “nordstjärna” som driver AI-forskning är strävan efter mänsklig “intelligens”. Vad som skiljer AGI från standard-AI är dess progression förbi smal funktionalitet mot större allmänhet (bredd) och prestanda (djup), till och med överträffande mänskliga förmågor.

Detta är “vägen till AGI”, där AI utvecklas till mer autonoma system, överlägsen resonemang, förbättrade förmågor och förbättrad funktionalitet. Dessa framsteg delas in i fem taxonomiska nivåer:

• Nivå 0: Inget AI – Enkla verktyg som kalkylatorer
• Nivå 1: Framväxande AGI – Nuvarande LLM:er som ChatGPT
• Nivå 2: Kompetent AGI – AI-system som matchar skickliga vuxna på specifika uppgifter
• Nivå 3: Expert AGI – AI-system på 90:e percentilen av skickliga vuxna
• Nivå 4: Virtuos AGI – AI-system på 99:e percentilen
• Nivå 5: Övermänsklig AGI – AI-system som överträffar alla människor

Källa

Under vår diskussion definierade Adam AGI-begreppet som “mjukvara som kan göra allt som en människa kan göra”. Han ser en framtid där AI förbättrar sig själv och till slut tar över komplexa mänskliga uppgifter som hanteras av maskinlärningsforskare.

Jag tog det ett steg längre och jämförde min syn på AGI med en “artificiell hjärna” som kan utföra olika uppgifter som “maskinöversättning, komplexa frågor och kodning”. Det är skillnaden mellan AGI och mer prediktiv AI och smalare former av ML som kom före det. Det känns som en emergent beteende.

Realistiska utvecklingstider på vägen till AGI

Liksom på en vägresa är den viktigaste frågan om AGI “Är vi där än?” Svaret är nej, men när AI-forskning accelererar är den riktiga frågan “Hur kan vi balansera AGI ambition med realistiska förväntningar?”

Adam betonade att ökad automatisering från AGI kommer att förskjuta mänskliga roller snarare än eliminera dem, vilket leder till snabbare ekonomisk tillväxt och mer effektiv produktivitet. “När denna teknik blir mer kraftfull kommer vi att nå en punkt där 90% av det som människor gör idag är automatiserat, men alla kommer att ha förskjutits till andra saker.”

För närvarande är mycket av världsekonomin begränsad av antalet människor som finns tillgängliga för att arbeta. När vi uppnår AGI kan vi växa ekonomin i en mycket snabbare takt än vad som är möjligt idag.

Vi kan inte ge en bestämd tidsplan för när sann AGI kommer att förverkligas, men Adam och jag citerade flera exempel på AI-förbättringar som banar väg för framtida AGI-förbättringar. Till exempel visade Turings experiment med AI-utvecklingsverktyg en 33% ökning av utvecklarens produktivitet, vilket antyder en ännu större potential.

Realvärldstillämpningar och effekter

En av de mest lovande tillämpningarna av AGI ligger inom området programvaruutveckling. Stora språkmodeller (LLM:er), en föregångare till AGI, används redan för att förbättra programvaruutveckling och förbättra kodkvalitet. Jag ser denna era av AI som närmare biologi än fysik, där alla typer av kunskapsarbete kommer att förbättras. Det kommer att finnas så mycket mer produktivitet som kommer att låsas upp från och för mänskligheten.

Min synvinkel kommer från erfarenhet, där jag har sett en 10-faldig personlig produktivitetsökning när jag använt LLM:er och AI-utvecklingsverktyg. Vi använder också AI på Turing för att utvärdera teknisk talang och matcha rätt programvaruutvecklare och PhD-nivås experter till rätt jobb.

Vad jag ser i LLM-träningsutrymmet, till exempel, är att tränare använder dessa modeller för att förbättra utvecklarens produktivitet och påskynda projekttider. Genom att automatisera rutinmässiga kodningsuppgifter och ge intelligenta kodförslag frigör LLM:er utvecklare att fokusera på mer strategiska och kreativa aspekter av sitt arbete.

Adam avslutade med “LLM:er kommer inte att skriva all kod, men att förstå programvarufundament är fortfarande viktigt. Räknemaskiner eliminerade inte behovet av att lära sig aritmetik.” Han tillade “Utvecklare blir mer värdefulla när de använder dessa modeller. Närvaron av LLM:er är en positiv för utvecklarjobb och det kommer att finnas många vinster för utvecklare.”

Vi går in i en gyllene era av programvaruutveckling där en enda programvaruutvecklare kan vara 10 gånger mer produktiv, skapa mer och gynna världen.

Tekniska och styrningsutmaningar

Trots AGI:s lovande potential måste utmaningar hanteras. Robusta utvärderingsprocesser och regleringsramar är nödvändiga för att balansera AGI-innovation med allmän säkerhet.

Adam betonade behovet av grundliga tester och sandlådor för att begränsa värsta-scenarier. “Du vill ha en robust utvärderingsprocess… och få den distribution som du testar mot att vara så nära den verkliga världens användning som möjligt.”

Och jag håller med. Flaskhalsen för AGI:s framsteg är nu mänsklig intelligens, snarare än beräkningskraft eller data. Mänsklig expertis är avgörande för att finjustera och anpassa AI-modeller, vilket är varför Turing fokuserar på att hitta och matcha toppklassiga tech-proffs för att balansera modeller med mänsklig intelligens.

Vi måste hantera AGI-utmaningar direkt genom att fokusera på förmågor istället för processer, allmänhet och prestanda, och potential.

Perspektiv på utmaningar: Förbättring av mänsklig-AGI-interaktioner

Några av de bästa metoderna för att hantera AGI-utmaningar är:

• Fokusera på förmågor eller “vad AGI kan göra” snarare än processer eller “hur det fungerar”.
• Balansera allmänhet och prestanda som viktiga komponenter i AGI.
• Fokusera på kognitiva/metakognitiva uppgifter och inlärningsförmågor snarare än fysiska uppgifter/utdata.
• Mät AGI efter dess potential och förmågor.
• Fokusera på ekologisk giltighet genom att anpassa benchmark med verkliga uppgifter som människor värderar.
• Kom ihåg att vägen till AGI inte är en enskild slutpunkt, det är en iterativ process.

Till dessa bästa metoder betonade Adam och jag vikten av att förbättra mänsklig-AGI-interaktioner. Adam betonade värdet av att lära sig hur och när man ska använda dessa modeller, och se dem som kraftfulla inlärningsverktyg som kan lära sig vilken som helst subdomän av programmering medan man betonar vikten av att förstå grunderna.

På samma sätt föreslår jag att det kan göra varje människa till en kraftanvändare av LLM:er för att avsevärt förbättra produktivitet och förståelse inom olika områden. LLM:er kan göra komplex information tillgänglig för alla, och förbättra produktivitet inom olika områden. Men det kräver en fasad, iterativ ansats: börja med AI-kopiloter som assisterar människor, sedan flytta till agenter med mänsklig övervakning, och slutligen uppnå fullt autonoma agenter i väl utvärderade uppgifter.

Med det är post-träningsdifferentiering avgörande, vilket innefattar övervakad finjustering (SFT) och utnyttjande av mänsklig intelligens för att bygga anpassade modeller. Företag som kan hitta och matcha tränare, ingenjörer och andra kommer att påskynda sin finjustering och anpassning av ingenjörskapacitet. Samarbete med ledande företag som OpenAI och Anthropic är också nyckeln till att tillämpa dessa modeller inom olika branscher.

Principer för ansvarsfull AGI-utveckling

“AGI-utveckling måste vara ansvarsfull och etisk, säkerställa säkerhet och transparens samtidigt som innovation främjas.” – Adam D’Angelo

Ansvarsfull utveckling av AGI kräver att man följer flera kärnprinciper:

• Säkerhet och Säkerhet: Se till att AGI-system är tillförlitliga och motståndskraftiga mot missbruk, särskilt när modeller skalar för att hantera nya datainmatningar eller algoritmer.
• Transparens: Var realistisk om AGI:s förmågor, begränsningar och “hur det fungerar”.
• Etiska överväganden: Hantera rättvisa, fördomar och hur AGI kommer att påverka sysselsättning och andra socioekonomiska faktorer.
• Reglering: Arbeta med regeringar och andra organisationer för att utveckla ramverk som balanserar framsteg med allmän säkerhet.
• Benchmarking: Framtida benchmark måste kvantifiera AGI-beteende och förmågor mot etiska överväganden och taxonomiska nivåer.

Slutsats: Fokusera på vägen till AGI, inte en enskild slutpunkt

Vägen till AGI är komplex, men varje stopp längs vägen är viktigt för resan. Genom att förstå AGI:s iterativa förbättringar – tillsammans med dess implikationer – kommer människor och företag att kunna ansvarsfullt anta denna utvecklande teknik. Detta är kärnan i ansvarsfull AGI-utveckling, där realvärldens interaktivitet informerar om hur vi navigerar denna nya gräns.