Navigering av veien til kunstig generell intelligens (AGI) sammen: En balansert tilnærming

Mens kunstig generell intelligens (AGI) raskt fremmer, skifter samtalen fra filosofisk debatt til en av praktisk relevans, med enorme muligheter til å transformere globale bedrifter og menneskelig potensial.

Turing’s AGI Icons arrangementsserie samler sammen AI-innovatører for å diskutere praktiske og ansvarlige fremgangsmåter for AGI-løsninger. Den 24. juli arrangerte Turing vårt andre AGI Icons-arrangement på SHACK15, San Franciscos eksklusive hub for entreprenører og teknologiinnovatører. Moderert av Anita Ramaswamy, finansskribent i The Information, satte jeg meg ned med Quora-sjef Adam D’Angelo for å diskutere veien til AGI og dele innsikt i utviklingstidslinjer, virkelige anvendelser og prinsipper for ansvarlig utrulling.

Veien fra AI til AGI

Den “nordstjerne” som driver AI-forskning er jakten på menneske-lignende “intelligens.” Hva skiller AGI fra standard AI er dens fremgang forbi smal funksjonalitet mot større generalitet (bredde) og ytelse (dybde), selv overgående menneskelige evner.

Dette er “veien til AGI,” der AI fremmer til mer autonome systemer, overlegen resonnering, forbedret kapasitet og forbedret funksjonalitet. Disse fremgangene er brutt ned i fem taksonomiske nivåer:

• Nivå 0: Ingen AI – Enkle verktøy som kalkulatorer
• Nivå 1: Fremvoksende AGI – Nåværende LLM-er som ChatGPT
• Nivå 2: Kompetent AGI – AI-systemer som matcher dyktige voksne på bestemte oppgaver
• Nivå 3: Ekspert AGI – AI-systemer på 90. percentil av dyktige voksne
• Nivå 4: Virtuos AGI – AI-systemer på 99. percentil
• Nivå 5: Overmenneskelig AGI – AI-systemer som overgår alle mennesker

Kilde

Under vår diskusjon, definerte Adam AGI-begrepet som “programvare som kan gjøre alt et menneske kan gjøre.” Han forestiller seg en fremtid der AI forbedrer seg selv, til slutt overtager komplekse menneskelige oppgaver håndtert av maskinlæringsforskere.

Ved å gå videre, sammenlignet jeg mine synspunkter på AGI med et “kunstig hjernen” i stand til å utføre diverse oppgaver som “maskinoversettelse, komplekse spørringer og kode.” Det er forskjellen på AGI og mer prediktiv AI og smale former for ML som kom før det. Det føles som en emergent atferd.

Realistiske utviklingstidslinjer på veien til AGI

Akkurat som på en veitrip, er det øverste spørsmålet om AGI “Er vi der ennå?” Det korte svaret er nei, men mens AI-forskning akselererer, er det riktige spørsmålet å spørre “Hvordan kan vi balansere AGI ambisjon med realistiske forventninger?”

Adam fremhevet at økt automatisering fra AGI vil flytte menneskelige roller heller enn eliminere dem, og føre til raskere økonomisk vekst og mer effektiv produktivitet. “Etterhvert som denne teknologien blir mer kraftfull, kommer vi til et punkt der 90% av hva folk gjør i dag er automatisert, men alle vil ha flyttet seg inn i andre ting.”

For tiden er mye av verdensøkonomien begrenset av antallet mennesker tilgjengelig for å arbeide. Når vi oppnår AGI, kan vi vokse økonomien med en mye raskere rate enn det som er mulig i dag.

Vi kan ikke gi en definitiv tidslinje for når sant AGI vil bli realisert, men Adam og jeg siterte flere eksempler på AI-fremgang som åpner vei for fremtidige AGI-fremgang. For eksempel viste Turing-eksperimenter med AI-utviklerverktøy en 33% økning i utviklerproduktivitet, som hintet om enda større potensial.

Virkelige anvendelser og effekter

En av de mest lovende anvendelsene av AGI ligger i feltet programvareutvikling. Store språkmodeller (LLM-er), en forløper til AGI, brukes allerede til å forbedre programvareutvikling og forbedre kodekvalitet. Jeg ser på denne æraen av AI som nærmere biologi enn fysikk, der all slags kunnskapsarbeid vil bli forbedret. Det vil være så mye mer produktivitet låst fra og for menneskeheten.

Min perspektiv kommer fra erfaring, der jeg har sett en 10-gangs personlig produktivitetsøkning når jeg bruker LLM-er og AI-utviklerverktøy. Vi bruker også AI i Turing til å evaluere teknisk talent og matche riktige programvareingeniører og PhD-nivå domene-eksperter til riktige jobber.

Hva jeg ser i LLM-treningsspacet, for eksempel, er at trenere utnytter disse modellene til å forbedre utviklerproduktivitet og akselerere prosjekt-tidslinjer. Ved å automatisere rutinemessige kodingsoppgaver og gi intelligente kode-forslag, frigjør LLM-er utviklere til å fokusere på mer strategiske og kreative aspekter av deres arbeid.

Adam avsluttet, “”LLM-er vil ikke skrive all kode, men å forstå programvare-fundamenter er fortsatt kritisk. Kalkulatorer eliminerte ikke behovet for å lære aritmetikk.” Han la til, “Utviklere blir mer verdifulle når de bruker disse modellene. Tilstedeværelsen av LLM-er er en positiv for utviklerjobber og det vil være mye gevinst for utviklere.”

Vi går inn i en gyllen æra av programvareutvikling der en programvareingeniør kan være 10 ganger mer produktiv, skape mer og gagne verden.

Tekniske og styre-utfordringer

Til tross for det lovende potensialet i AGI, må utfordringer håndteres. Robuste evalueringsprosesser og reguleringssystemer er nødvendige for å balansere AGI-innovasjon med offentlig sikkerhet.

Adam fremhevet behovet for grundig testing og sandkasse for å begrense verste-case-scenarier. “Du ønsker å ha en slags robust evalueringprosess… og få den distribusjonen du tester mot å være så nære den virkelige verden som mulig.”

Og jeg er enig. Flaskehalsen for AGI-fremgang er nå menneskelig intelligens, heller enn datamaskinkraft eller data. Menneskelig ekspertise er kritisk for finjustering og tilpassing av AI-modeller, som er hvorfor Turing fokuserer på å finne og matche topp-tiers tekniske fagfolk for å balansere modeller med menneskelig intelligens.

Vi må håndtere AGI-utfordringer direkte ved å fokusere på evner over prosesser, generalitet og ytelse, og potensial.

Perspektiver på utfordringer: Forbedring av menneske-AGI-interaksjoner

Noen av de beste praksisene for å håndtere AGI-utfordringer inkluderer:

• Fokusere på evner eller “hva AGI kan gjøre” heller enn prosesser eller “hvordan den gjør det”.
• Balance generalitet og ytelse som essensielle komponenter av AGI.
• Fokusere på kognitive/metakognitive oppgaver og lærings-evner over fysiske oppgaver/utdata.
• Måle AGI etter dens potensial og evner.
• Fokusere på økologisk gyldighet ved å alignere benchmark med virkelige oppgaver mennesker verdsetter.
• Huske at veien til AGI ikke er et enkelt endepunkt, det er en iterativ prosess.

I tillegg til disse beste praksisene, fremhevet Adam og jeg viktigheten av å forbedre menneske-AGI-interaksjoner. Adam fremhevet verdien av å lære hvordan og når å bruke disse modellene, og se på dem som kraftfulle læringsverktøy som kan raskt lære noen subdomene av programmering, samtidig som han fremhevet viktigheten av å forstå grunnleggende prinsipper.

Tilsvarende foreslår jeg at å gjøre hver menneske til en power-bruker av LLM-er kunne signifikant forbedre produktivitet og forståelse over ulike felt. LLM-er kan gjøre kompleks informasjon tilgjengelig for alle, og forbedre produktivitet over ulike felt. Men det krever en fasert, iterativ tilnærming: startende med AI-kopiloter som assisterer mennesker, deretter flytter til agenter med menneskelig tilsyn, og til slutt oppnår fullt autonome agenter i godt evaluerte oppgaver.

Med det, er post-trening differensiering kritisk, og inkluderer overvåket finjustering (SFT) og å utnytte menneskelig intelligens for å bygge tilpassede modeller. Selskaper som kan finne og matche trenere, ingeniører og andre, vil akselerere deres finjusterings- og tilpassingskapasiteter. Samarbeid med ledende selskaper som OpenAI og Anthropic er også nøkkel til å anvende disse modellene over ulike industrier.

Prinsipper for ansvarlig AGI-utvikling

“AGI-utvikling må være ansvarlig og etisk, sikre sikkerhet og transparens, samtidig som det fremmer innovasjon.” – Adam D’Angelo

Ansvarlig utvikling av AGI krever å følge flere kjerneprinsipper:

• Sikkerhet og sikkerhet: Sikre at AGI-systemer er pålitelige og motstandsdyktige mot misbruk, spesielt når modellene skalerer for å håndtere nye datainnganger eller algoritmer.
• Transparens: Være realistisk om AGI-s muligheter, begrensninger og “hvordan den fungerer”.
• Etiske overveielser: Tackle rettferdighet, bias og hvordan AGI vil påvirke sysselsetting og andre sosioøkonomiske faktorer.
• Regulering: Samarbeide med regjeringer og andre organisasjoner for å utvikle rammer som balanserer fremgang med offentlig sikkerhet.
• Benchmarking: Fremtidige benchmark må quantifisere AGI-atferd og evner mot etiske overveielser og taksonomi-nivå.

Konklusjon: Fokusere på veien til AGI, ikke et enkelt endepunkt

Veien til AGI er kompleks, men hver stoppested langs veien er viktig for reisen. Ved å forstå AGI-s iterative forbedringer – sammen med dens implikasjoner – vil mennesker og bedrifter være i stand til å ansvarlig adoptere denne utviklende teknologien. Dette er kjernen i ansvarlig AGI-utvikling, der virkelige interaksjoner informerer hvordan vi navigerer denne nye frontieren.