Navigering af vejen til kunstig almindelig intelligens (AGI) sammen: En balanceret tilgang

Da kunstig almindelig intelligens (AGI) hurtigt udvikler sig, skifter samtalen fra filosofisk debat til en mere praktisk relevans, med enorme muligheder for at transformere globale virksomheder og menneskelig potentiale.

Turing’s AGI Icons-arrangementsserie samler AI-innovatører for at diskutere praktiske og ansvarlige fremskridt i AGI-løsninger. Den 24. juli afholdt Turing vores anden AGI Icons-begivenhed på SHACK15, San Franciscos eksklusive hub for iværksættere og teknologi-innovatører. Modereret af Anita Ramaswamy, finanskolonne-skribent hos The Information, sad jeg ned med Quora-direktør, Adam D’Angelo, for at diskutere vejen til AGI og dele indsigt i udviklingstidsplaner, virkelige anvendelser og principper for ansvarlig udrulning.

Vejen fra AI til AGI

Den “nordstjerne”, der driver AI-forskning, er jagten på menneske-lignende “intelligens”. Det, der adskiller AGI fra standard-AI, er dets fremgang forbi snæver funktionalitet mod større almenhed (bredde) og præstation (dybde), endda overgående menneskelige evner.

Dette er “vejen til AGI”, hvor AI udvikler sig til mere autonome systemer, overlegen resonans, forbedret kapacitet og forbedret funktionalitet. Disse fremskridt er opdelt i fem taksonomiske niveauer:

• Niveau 0: Ingen AI – Simple værktøjer som lommeregner
• Niveau 1: Fremkomende AGI – Nuværende LLM’er som ChatGPT
• Niveau 2: Kompetent AGI – AI-systemer, der matcher dygtige voksne på bestemte opgaver
• Niveau 3: Eksperimenterende AGI – AI-systemer på 90. percentilen af dygtige voksne
• Niveau 4: Virtuos AGI – AI-systemer på 99. percentilen
• Niveau 5: Overmenneskelig AGI – AI-systemer, der overgår alle mennesker

Kilde

Under vores diskussion definerede Adam AGI-begrebet som “software, der kan gøre alt, hvad et menneske kan gøre”. Han forestiller sig en fremtid, hvor AI forbedrer sig selv, til sidst overtager komplekse menneskelige opgaver, der håndteres af maskinelæring-forskere.

Jeg sammenlignede mine synspunkter på AGI med et “kunstigt hjerte”, der kan udføre diverse opgaver som “maskinoversættelse, komplekse forespørgsler og kodning”. Det er forskellen på AGI og mere forudsigelige AI og snævre former for ML, der kom før det. Det føles som emergent adfærd.

Realistiske udviklingstidsplaner på vejen til AGI

Ligesom på en vejrejse er den øverste tankegang om AGI “Er vi der endnu?” Det korte svar er nej, men da AI-forskning accelererer, er den rigtige spørgsmål at spørge “Hvordan kan vi balancere AGI ambition med realistiske forventninger?”

Adam fremhævede, at øget automatisering fra AGI vil skifte menneskelige roller snarere end eliminere dem, hvilket fører til hurtigere økonomisk vækst og mere effektiv produktivitet. “Når denne teknologi bliver mere kraftfuld, vil vi nå et punkt, hvor 90% af det, folk gør i dag, er automatiseret, men alle vil have skiftet til andre ting.”

For tiden er en stor del af verdensøkonomien begrænset af antallet af mennesker, der er til rådighed til at arbejde. Når vi opnår AGI, kan vi vokse økonomien med en langt hurtigere rate, end det er muligt i dag.

Vi kan ikke give en definitiv tidsplan for, hvornår sand AGI vil blive realiseret, men Adam og jeg citerede flere eksempler på AI-fremgang, der baner vej for fremtidige AGI-fremskridt. For eksempel viste Turing’s eksperimenter med AI-udvikler-værktøjer en 33% stigning i udvikler-produktivitet, hvilket antyder endnu større potentiale.

Virkelige anvendelser og effekter

En af de mest lovende anvendelser af AGI ligger inden for software-udvikling. Større sprogmodeller (LLM’er), en forløber for AGI, bruges allerede til at forbedre software-udvikling og forbedre kodekvalitet. Jeg ser denne æra af AI som nærmere biologi end fysik, hvor alle former for videnarbejde vil forbedres. Der vil være så meget mere produktivitet låst op fra og for menneskeheden.

Min synsvinkel kommer fra erfaring, hvor jeg har oplevet en 10-dobbelt personlig produktivitetsstigning, da jeg har brugt LLM’er og AI-udvikler-værktøjer. Vi bruger også AI på Turing til at evaluere teknisk talent og matche de rette software-ingeniører og PhD-niveau-domæne-eksperter til de rette job.

Hvad jeg ser i LLM-træningsrummet, for eksempel, er, at trænere udnytter disse modeller til at forbedre udvikler-produktivitet og accelerere projekt-tidsplaner. Ved at automatisere rutine-kodningsopgaver og give intelligente kode-forslag, frigør LLM’er udviklere til at fokusere på mere strategiske og kreative aspekter af deres arbejde.

Adam afsluttede: “”LLM’er vil ikke skrive all kode, men forståelse af software-fundamenterne er stadig afgørende. Lommeregner eliminerede ikke behovet for at lære aritmetik.” Han tilføjede: “Udviklere bliver mere værdifulde, når de bruger disse modeller. Tilstedeværelsen af LLM’er er en positiv for udvikler-job og der vil være mange gevinster for udviklere.”

Vi er ved at indtræde i en gylden æra for software-udvikling, hvor en enkelt software-ingeniør kan være 10 gange mere produktiv, skabe mere og gavne verden.

Tekniske og styre-udfordringer

Trods AGI’s lovende potentiale, må udfordringer være adresseret. Robust evaluering og regulering er nødvendig for at balancere AGI-innovation med offentlig sikkerhed.

Adam fremhævede behovet for omfattende test og sandbox til at begrænse værst-case-scenarier. “Du vil have en slags robust evaluering… og få den distribution, du tester imod, til at være så tæt på den virkelige verden som muligt.”

Og jeg er enig. Flaskehalsen for AGI-fremgang er nu menneskelig intelligens, snarere end beregningskraft eller data. Menneskelig ekspertise er afgørende for finjustering og tilpasning af AI-modeller, hvilket er hvorfor Turing fokuserer på at finde og matche top-niveau-tekniske fagfolk for at balancere modeller med menneskelig intelligens.

Vi må adresse AGI-udfordringer frontalt ved at fokusere på kapaciteter over processer, almenhed og præstation, samt potentiale.

Perspektiver på udfordringer: Forbedring af menneske-AGI-interaktioner

Nogle af de bedste praksis for at adresse AGI-udfordringer inkluderer:

• Fokusere på kapaciteter eller “hvad AGI kan gøre” snarere end processer eller “hvordan det gøres”.
• Balance almenhed og præstation som essentielle komponenter af AGI.
• Fokusere på kognitive/metakognitive opgaver og lærings-evner over fysiske opgaver/outputs.
• Måle AGI efter dets potentiale og kapaciteter.
• Fokusere på økologisk validitet ved at aligne benchmarks med virkelige opgaver, som mennesker værdsætter.
• Husk, at vejen til AGI ikke er et enkelt endpoint, men en iterativ proces.

Tilføjet til disse bedste praksis, fremhævede Adam og jeg vigtigheden af at forbedre menneske-AGI-interaktioner. Adam fremhævede værdien af at lære, hvordan og hvornår man bruger disse modeller, og ser dem som kraftfulde læringsværktøjer, der kan lære enhver subdomæne af programmering, mens man fremhæver vigtigheden af at forstå fundamentet.

Ligesom jeg foreslår, at det at gøre hver menneske til en power-bruger af LLM’er kunne betydeligt forbedre produktivitet og forståelse på tværs af forskellige fag. LLM’er kan gøre kompleks information tilgængelig for alle, og forbedre produktivitet på tværs af forskellige fag. Men det kræver en faset, iterativ tilgang: startende med AI-kopiloter, der assisterer mennesker, derefter flytter til agenter med menneskelig overvågning, og til sidst opnår fuldt autonome agenter i vel-evaluerede opgaver.

Med det, er post-træning-differentiering kritisk, og involverer supervised finjustering (SFT) og udnytter menneskelig intelligens til at bygge brugerdefinerede modeller. Virksomheder, der kan finde og matche trænere, ingeniører og andre, vil accelerere deres finjusterings- og tilpasnings-kapaciteter. Samarbejde med førende virksomheder som OpenAI og Anthropic er også nødvendig for at anvende disse modeller på tværs af diverse industrier.

Principper for ansvarlig AGI-udvikling

“AGI-udvikling må være ansvarlig og etisk, sikre sikkerhed og gennemsigtighed, mens det fremmer innovation.” – Adam D’Angelo

Ansvarlig udvikling af AGI kræver overholdelse af flere kerneprincipper:

• Sikkerhed og sikkerhed: Sikre, at AGI-systemer er pålidelige og modstandsdygtige over for misbrug, især da modeller skalerer til at imødekomme nye data-indtastninger eller algoritmer.
• Gennemsigtighed: Være realistisk om AGI’s kapaciteter, begrænsninger og “hvordan det fungerer”.
• Etiske overvejelser: Tackle fairness, bias og hvordan AGI vil påvirke beskæftigelse og andre socioøkonomiske faktorer.
• Regulering: Arbejde med regeringer og andre organisationer for at udvikle rammer, der balancerer fremgang med offentlig sikkerhed.
• Benchmarking: Fremtidige benchmarks må kvantificere AGI-adfærd og kapaciteter i forhold til etiske overvejelser og taksonomi-niveauer.

Konklusion: Fokusere på vejen til AGI, ikke et enkelt endpoint

Vejen til AGI er kompleks, men hver stop på vejen er vigtig for rejsen. Ved at forstå AGI’s iterative forbedringer – samt dets implikationer – vil mennesker og virksomheder være i stand til at ansvarligt adoptere denne udviklende teknologi. Dette er kernen i ansvarlig AGI-udvikling, hvor virkelige interaktioner informerer, hvordan vi navigerer denne nye grænseflade.