Vejen til kunstig almindelig intelligens (AGI) sammen: En balanceret tilgang

Som kunstig almindelig intelligens (AGI) hurtigt udvikler sig, skifter samtalen fra filosofisk debat til en mere praktisk relevans, med enorme muligheder for at transformere globale virksomheder og menneskelig potentiale.

Turing’s AGI Icons-arrangement bringer sammen AI-innovatører for at diskutere praktiske og ansvarlige fremskridt i AGI-løsninger. Den 24. juli afholdt Turing vores andet AGI Icons-arrangement på SHACK15, San Franciscos eksklusive hub for iværksættere og teknologi-innovatører. Under ledelse af Anita Ramaswamy, finansielle kommentator på The Information, sad jeg ned med Quora-direktør Adam D’Angelo for at diskutere vejen til AGI og dele indsigt i udviklingstidslinjer, virkelige anvendelser og principper for ansvarlig udvikling.

Vejen fra AI til AGI

Det “nordlige stjernepunkt”, der driver AI-forskning, er jagten på menneske-lignende “intelligens”. Det, der adskiller AGI fra standard-AI, er dets fremgang forbi snæver funktionalitet mod større generel og præstation (dybde), endda overgående menneskelige evner.

Dette er “vejen til AGI”, hvor AI udvikler sig til mere autonome systemer, forbedret ræsonnement, forbedrede evner og forbedret funktionalitet. Disse fremskridt er inddelt i fem taksonomiske niveauer:

• Niveau 0: Ingen AI – Simple værktøjer som regnemaskiner
• Niveau 1: Fremvoksende AGI – Nuværende LLM’er som ChatGPT
• Niveau 2: Kompetent AGI – AI-systemer, der matcher dygtige voksne på bestemte opgaver
• Niveau 3: Ekspert AGI – AI-systemer på 90. percentilen af dygtige voksne
• Niveau 4: Virtuose AGI – AI-systemer på 99. percentilen
• Niveau 5: Overmenneskelig AGI – AI-systemer, der overgår alle mennesker

Kilde

Under vores diskussion definerede Adam AGI-begrebet som “software, der kan gøre alt, hvad et menneske kan gøre”. Han forestiller sig en fremtid, hvor AI forbedrer sig selv og til sidst overtager komplekse menneskelige opgaver, der håndteres af maskinelæringseksperter.

Jeg sammenlignede mine synspunkter på AGI med et “kunstigt hjerte”, der er i stand til diverse opgaver som “maskinoversættelse, komplekse forespørgsler og kodning”. Det er forskellen på AGI og mere prædiktiv AI og snævre former for ML, der kom før det. Det føles som emergent adfærd.

Realistiske udviklingstidslinjer på vejen til AGI

Ligesom på en vejrejse er den øverste tanke om AGI “Er vi der endnu?” Det korte svar er nej, men da AI-forskning accelererer, er det rigtige spørgsmål at spørge “Hvordan kan vi balancere AGI ambition med realistiske forventninger?”

Adam fremhævede, at øget automatisering fra AGI vil ændre menneskelige roller snarere end eliminere dem, hvilket fører til hurtigere økonomisk vækst og mere effektiv produktivitet. “Når denne teknologi bliver mere kraftfuld, vil vi nå et punkt, hvor 90% af det, mennesker gør i dag, er automatiseret, men alle vil have skiftet til andre ting.”

For tiden er en stor del af verdensøkonomien begrænset af antallet af mennesker, der er til rådighed til at arbejde. Når vi opnår AGI, kan vi vokse økonomien med en langt hurtigere rate end det er muligt i dag.

Vi kan ikke give en definitiv tidsplan for, hvornår sand AGI vil blive realiseret, men Adam og jeg nævnte flere eksempler på AI-fremskridt, der baner vejen for fremtidige AGI-fremskridt. For eksempel viste Turing’s eksperimenter med AI-udvikler-værktøjer en 33% øgning i udviklerproduktivitet, hvilket antyder endnu større potentiale.

Virkelige anvendelser og effekter

En af de mest lovende anvendelser af AGI ligger inden for softwareudvikling. Store sprogmodeller (LLM’er), en forløber for AGI, bruges allerede til at forbedre softwareudvikling og forbedre kodekvalitet. Jeg ser denne æra af AI som tættere på biologi end fysik, hvor alle former for videnarbejde vil forbedres. Der vil være så meget mere produktivitet låst op fra og for menneskeheden.

Min synsvinkel kommer fra erfaring, hvor jeg har oplevet en 10-dobbelt personlig produktivitetsøgning, når jeg har brugt LLM’er og AI-udvikler-værktøjer. Vi bruger også AI på Turing til at evaluere teknisk talent og matche de rette softwareingeniører og PhD-niveau-domæneeksperter til de rette job.

Hvad jeg ser i LLM-træningsrummet, for eksempel, er, at trænere udnytter disse modeller til at forbedre udviklerproduktivitet og accelerere projekttidslinjer. Ved at automatisere rutinemæssige kodningsopgaver og give intelligente kodeforslag, frigør LLM’er udviklere til at fokusere på mere strategiske og kreative aspekter af deres arbejde.

Adam afsluttede med “LLM’er vil ikke skrive all kode, men at forstå software-fundamenterne er stadig afgørende. Lommeregnerne eliminerede ikke behovet for at lære aritmetik.” Han tilføjede “Udviklere bliver mere værdifulde, når de bruger disse modeller. Tilstedeværelsen af LLM’er er en positiv for udviklerjob og der vil være mange gevinster for udviklere.”

Vi er ved at indtræde i en gylden æra for softwareudvikling, hvor en enkelt softwareingeniør kan være 10 gange mere produktiv, skabe mere og gavne verden.

Tekniske og styreudfordringer

Trods AGI’s lovende potentiale, må udfordringerne være adresseret. Robuste evalueringsprocesser og reguleringssystemer er nødvendige for at balancere AGI-innovation med offentlig sikkerhed.

Adam fremhævede behovet for omfattende testning og sandboxing for at begrænse værste-scenarier. “Du vil have en slags robust evalueringsproces… og få den distribution, du tester imod, til at være så tæt på den virkelige verden som muligt.”

Og jeg er enig. Flaskehalsen for AGI-fremskridt er nu menneskelig intelligens, snarere end beregningskraft eller data. Menneskelig ekspertise er afgørende for at finjustere og tilpasse AI-modeller, hvilket er hvorfor Turing fokuserer på at finde og matche top-niveau-tekniske fagfolk for at balancere modeller med menneskelig intelligens.

Vi må adresse AGI-udfordringerne direkte ved at fokusere på evner over processer, generel og præstation, og potentiale.

Perspektiver på udfordringer: Forbedring af menneske-AGI-interaktioner

Nogle af de bedste praksisser for at adresse AGI-udfordringerne omfatter:

• Fokus på evner eller “hvad AGI kan gøre” snarere end processer eller “hvordan det gøres”.
• Balance generel og præstation som essentielle komponenter af AGI.
• Fokus på kognitive/metakognitive opgaver og læringsfærdigheder over fysiske opgaver/outputs.
• Mål AGI efter dets potentiale og evner.
• Fokus på økologisk gyldighed ved at tilpasse benchmarks med virkelige opgaver, som mennesker værdsætter.
• Husk, at vejen til AGI ikke er et enkelt endpoint, men en iterativ proces.

Tilføjet til disse bedste praksisser, fremhævede Adam og jeg vigtigheden af at forbedre menneske-AGI-interaktioner. Adam fremhævede værdien af at lære, hvordan og hvornår man skal bruge disse modeller, og se dem som kraftfulde læringsværktøjer, der kan lære enhver subdomæne af programmering, mens man fremhæver vigtigheden af at forstå fundamentet.

Lignende jeg foreslår, at det at gøre hver menneske til en power-bruger af LLM’er kunne forbedre produktivitet og forståelse på tværs af forskellige fag. LLM’er kan gøre kompleks information tilgængelig for alle, og forbedre produktivitet på tværs af forskellige fag. Men det kræver en faset, iterativ tilgang: startende med AI-co-piloter, der assisterer mennesker, derefter flytter til agenter med menneskelig overvågning, og til sidst opnår fuldt autonome agenter i vel-evaluerede opgaver.

Med det, er post-træning-differentiering kritisk, og involverer overvåget finjustering (SFT) og udnytter menneskelig intelligens til at bygge brugerdefinerede modeller. Virksomheder, der kan finde og matche trænere, ingeniører og andre, vil accelerere deres finjusterings- og tilpasningsmuligheder. Samarbejde med førende virksomheder som OpenAI og Anthropic er også afgørende for at anvende disse modeller på tværs af forskellige industrier.

Principper for ansvarlig AGI-udvikling

“AGI-udvikling skal være ansvarlig og etisk, og sikre sikkerhed og gennemsigtighed, samtidig med at den fremmer innovation.” – Adam D’Angelo

Ansvarlig udvikling af AGI kræver overholdelse af flere kerneprincipper:

• Sikkerhed og sikkerhed: Sikre, at AGI-systemer er pålidelige og modstandsdygtige over for misbrug, især når modeller skalerer til at omfatte nye data-indtastninger eller algoritmer.
• Gennemsigtighed: Være realistisk om AGI’s evner, begrænsninger og “hvordan det virker”.
• Etiske overvejelser: Tackle fairness, bias og hvordan AGI vil påvirke beskæftigelse og andre socioøkonomiske faktorer.
• Regulering: Arbejde med regeringer og andre organisationer for at udvikle rammer, der balancerer fremskridt med offentlig sikkerhed.
• Benchmarking: Fremtidige benchmarks skal kvantificere AGI-adfærd og evner i forhold til etiske overvejelser og taksonomi-niveauer.

Konklusion: Fokus på vejen til AGI, ikke et enkelt endpoint

Vejen til AGI er kompleks, men hver stoppested langs vejen er vigtigt for rejsen. Ved at forstå AGI’s iterative forbedringer – sammen med dets implikationer – vil mennesker og virksomheder være i stand til at ansvarligt adoptere denne udviklende teknologi. Dette er kernen i ansvarlig AGI-udvikling, hvor virkelige interaktioner informerer, hvordan vi navigerer denne nye grænseflade.