Navigering av veien til kunstig generell intelligens (AGI) sammen: En balansert tilnærming

Som kunstig generell intelligens (AGI) raskt utvikler seg, skifter samtalen fra filosofisk debatt til en praktisk relevans, med enorme muligheter til å transformere globale bedrifter og menneskelig potensial.

Turing’s AGI Icons arrangementsserie samler sammen AI-innovatører for å diskutere praktiske og ansvarlige fremsteg i AGI-løsninger. Den 24. juli arrangerte Turing vårt andre AGI Icons-arrangement på SHACK15, San Franciscos eksklusive hub for entreprenører og teknologiinnovatører. Ledet av Anita Ramaswamy, finanskolumnist i The Information, satte jeg meg ned med Quora-sjefen, Adam D’Angelo, for å diskutere veien til AGI og dele innsikt i utviklingstidslinjer, realverdensapplikasjoner og prinsipper for ansvarlig utvikling.

Veien fra AI til AGI

Den “nordstjerne” som driver AI-forskning er jakten på menneske-lignende “intelligens”. Det som skiller AGI fra standard AI er dens fremgang forbi smal funksjonalitet mot større generalitet (bredde) og ytelse (dybde), selv overgående menneskelige evner.

Dette er “veien til AGI”, hvor AI utvikler seg til mer autonome systemer, overlegen resonnering, forbedret funksjonalitet og forbedret ytelse. Disse fremstegene er brutt ned i fem taksonomiske nivåer:

• Nivå 0: Ingen AI – Enkle verktøy som kalkulatorer
• Nivå 1: Fremvoksende AGI – Nåværende LLM-er som ChatGPT
• Nivå 2: Kompetent AGI – AI-systemer som matcher dyktige voksne på bestemte oppgaver
• Nivå 3: Ekspert AGI – AI-systemer på 90. percentil av dyktige voksne
• Nivå 4: Virtuos AGI – AI-systemer på 99. percentil
• Nivå 5: Overmenneskelig AGI – AI-systemer som overgår alle mennesker

Kilde

Under vår diskusjon definerte Adam AGI-begrepet som “programvare som kan gjøre alt et menneske kan gjøre”. Han forestiller seg en fremtid hvor AI forbedrer seg selv, til slutt overtager komplekse menneskelige oppgaver håndtert av maskinlæringsforskere.

Videre utviklet jeg mine synspunkter på AGI sammenlignet med et “kunstig hjernen” kapabel til å utføre diverse oppgaver som “maskinoversettelse, komplekse spørsmål og kode”. Det er forskjellen mellom AGI og mer prediktiv AI og smale former for ML som kom før det. Det føles som emergent atferd.

Realistiske utviklingstidslinjer på veien til AGI

Akkurat som på en veitrippe, er det viktigste spørsmålet om AGI “Er vi der ennå?” Det korte svaret er nei, men da AI-forskning akselererer, er det riktige spørsmålet å spørre “Hvordan kan vi balansere AGI-ambisjon med realistiske forventninger?”

Adam fremhevet at økt automatisering fra AGI vil flytte menneskelige roller snarere enn eliminere dem, noe som fører til raskere økonomisk vekst og mer effektiv produktivitet. “Når denne teknologien blir mer kraftfull, vil vi nå et punkt der 90% av det folk gjør i dag er automatisert, men alle vil ha flyttet seg til andre ting.”

For tiden er mye av verdensøkonomien begrenset av antall mennesker tilgjengelig for å arbeide. Når vi oppnår AGI, kan vi vokse økonomien mye raskere enn det som er mulig i dag.

Vi kan ikke gi en definitiv tidslinje for når sann AGI vil bli realisert, men Adam og jeg nevnte flere eksempler på AI-fremsteg som åpner vei for fremtidige AGI-fremsteg. For eksempel viste Turing-eksperimenter med AI-utviklerverktøy en 33% økning i utviklerproduktivitet, noe som antyder enda større potensial.

Realverdensapplikasjoner og effekter

En av de mest lovende applikasjonene av AGI ligger i feltet programvareutvikling. Store språkmodeller (LLM-er), en forløper til AGI, brukes allerede til å forbedre programvareutvikling og forbedre kodekvalitet. Jeg ser på denne AI-æraen som nærmere biologi enn fysikk, hvor alle typer kunnskapsarbeid vil bli forbedret. Det vil bli så mye mer produktivitet låst fra og for menneskeheten.

Min perspektiv kommer fra erfaring, hvor jeg har sett en 10-ganger personlig produktivitetsøkning når jeg bruker LLM-er og AI-utviklerverktøy. Vi bruker også AI i Turing til å evaluere teknisk talent og matche riktige programvareingeniører og PhD-nivå domene-eksperter til riktige jobber.

Hva jeg ser i LLM-treningsspacet, for eksempel, er at trenere utnytter disse modellene til å forbedre utviklerproduktivitet og akselerere prosjekt-tidslinjer. Ved å automatisere rutinemessige kodingsoppgaver og gi intelligente kode-forslag, frigjør LLM-er utviklere til å fokusere på mer strategiske og kreative aspekter av deres arbeid.

Adam avsluttet med “LLM-er vil ikke skrive all kode, men å forstå programvare-fundamentaler er fortsatt viktig. Kalkulatorer eliminerer ikke behovet for å lære aritmetikk.” Han la til “Utviklere blir mer verdifulle når de bruker disse modellene. Tilstedeværelsen av LLM-er er en positiv for utviklerjobber og det vil være mange gevinster for utviklere.”

Vi går inn i en gyllen æra for programvareutvikling hvor en programvareingeniør kan være 10 ganger mer produktiv, skape mer og gi fordeler for verden.

Tekniske og styringsmessige utfordringer

Til tross for AGI-s muligheter, må utfordringer håndteres. Robuste evalueringsprosesser og reguleringssystemer er nødvendige for å balansere AGI-innovasjon med offentlig sikkerhet.

Adam betonet behovet for grundig testing og sandboxing for å begrense verste-case-scenarier. “Du ønsker å ha en slags robust evalueringprosess… og få den distribusjonen du tester mot å være så nære den virkelige verden som mulig.”

Og jeg er enig. Flaskehalsen for AGI-fremsteg er nå menneskelig intelligens, snarere enn datamaskinkraft eller data. Menneskelig ekspertise er avgjørende for finjustering og tilpasse AI-modeller, noe som er grunnen til at Turing fokuserer på å finne og matche topp-tekniske fagfolk for å balansere modeller med menneskelig intelligens.

Vi må håndtere AGI-utfordringer direkte ved å fokusere på evner over prosesser, generalitet og ytelse, og potensial.

Perspektiver på utfordringer: Forbedring av menneske-AGI-interaksjoner

Noen av de beste praksisene for å håndtere AGI-utfordringer inkluderer:

• Fokusere på evner eller “hva AGI kan gjøre” snarere enn prosesser eller “hvordan det gjøres”.
• Balance generalitet og ytelse som essensielle komponenter av AGI.
• Fokusere på kognitive/metakognitive oppgaver og lærings-evner over fysiske oppgaver/utganger.
• Måle AGI etter dens potensial og evner.
• Fokusere på økologisk gyldighet ved å sammenligne benchmark med virkelige oppgaver mennesker verdsetter.
• Husk at veien til AGI ikke er et enkelt punkt, men en iterativ prosess.

I tillegg til disse beste praksisene, betonet Adam og jeg viktigheten av å forbedre menneske-AGI-interaksjoner. Adam fremhevet verdien av å lære hvordan og når man skal bruke disse modellene, og se på dem som kraftfulle læringsverktøy som kan raskt lære noen underdomene av programmering, samtidig som han betonet viktigheten av å forstå grunnleggende prinsipper.

Liknende foreslår jeg at å gjøre hver menneske til en kraftig bruker av LLM-er kunne signifikant forbedre produktivitet og forståelse over ulike fagfelt. LLM-er kan gjøre kompleks informasjon tilgjengelig for alle, og forbedre produktivitet over ulike fagfelt. Men det krever en fasert, iterativ tilnærming: startende med AI-kopiloter som assisterer mennesker, deretter flytter til agenter med menneskelig overvåking, og til slutt oppnår fullt autonome agenter i vel-evaluerte oppgaver.

Med det, er post-trening differensiering kritisk, inkludert overvåket finjustering (SFT) og utnytting av menneskelig intelligens for å bygge tilpassede modeller. Selskaper som kan finne og matche trenere, ingeniører og andre, vil akselerere sine finjusterings- og tilpasningsmuligheter. Samarbeid med ledende selskaper som OpenAI og Anthropic er også nødvendig for å anvende disse modellene over ulike industrier.

Prinsipper for ansvarlig AGI-utvikling

“AGI-utvikling må være ansvarlig og etisk, sikre sikkerhet og transparens, samt fremme innovasjon.” – Adam D’Angelo

Ansvarlig utvikling av AGI krever å følge flere kjerneprinsipper:

• Sikkerhet og sikkerhet: Sikre at AGI-systemer er pålitelige og motstandsdyktige mot misbruk, særlig når modellene skalerer for å håndtere nye data-innganger eller algoritmer.
• Transparens: Være realistisk om AGI-s muligheter, begrensninger og “hvordan det fungerer”.
• Etiske overveielser: Tackle rettferdighet, fordommer og hvordan AGI vil påvirke sysselsetting og andre sosioøkonomiske faktorer.
• Regulering: Samarbeide med regjeringer og andre organisasjoner for å utvikle rammer som balanserer fremsteg med offentlig sikkerhet.
• Benchmarking: Fremtidige benchmark måler AGI-atferd og evner mot etiske overveielser og taksonomi-nivåer.

Konklusjon: Fokus på veien til AGI, ikke et enkelt punkt

Veien til AGI er kompleks, men hver stoppested langs veien er viktig for reisen. Ved å forstå AGI-s iterative forbedringer – sammen med dens implikasjoner – vil mennesker og bedrifter kunne ansvarlig adoptere denne utviklende teknologien. Dette er kjernen i ansvarlig AGI-utvikling, hvor virkelige verden-interaksjoner informerer hvordan vi navigerer denne nye frontieren.