Navigarea drumului către Inteligența Artificială Generală (AGI) Împreună: O Abordare Echilibrată

Pe măsură ce inteligența artificială generală (AGI) progresează rapid, conversația se mută de la dezbateri filosofice la una de relevanță practică, cu oportunități imense de a transforma afaceri globale și potențialul uman.

Seria de evenimente AGI Icons a lui Turing adună inovatori în domeniul IA pentru a discuta despre progresele practice și responsabile ale soluțiilor AGI. La 24 iulie, Turing a găzduit al doilea eveniment AGI Icons la SHACK15, hub-ul exclusiv pentru antreprenori și inovatori tehnologici din San Francisco. Moderat de Anita Ramaswamy, columnista financiară a The Information, m-am așezat alături de CEO-ul Quora, Adam D’Angelo, pentru a discuta despre drumul către AGI și pentru a împărtăși perspective asupra termenelor de dezvoltare, aplicațiilor din lumea reală și principiilor pentru o implementare responsabilă.

Drumul de la IA la AGI

“Steaua polară” care conduce cercetarea IA este urmărirea “inteligenței” la nivel uman. Ceea ce separă AGI de IA standard este progresul său dincolo de funcționalitatea îngustă către o mai mare generalitate (lățime) și performanță (adâncime), chiar depășind capacitățile umane.

Acesta este “drumul către AGI”, unde IA progresează către sisteme mai autonome, raționament superior, capacități îmbunătățite și funcționalități îmbunătățite. Aceste progrese sunt împărțite în cinci niveluri taxonomice:

• Nivelul 0: Fără IA – Unelte simple, cum ar fi calculatoarele
• Nivelul 1: AGI emergent – LLM-urile actuale, cum ar fi ChatGPT
• Nivelul 2: AGI competent – Sisteme de IA care se potrivesc cu adulții pricepuți pe anumite sarcini
• Nivelul 3: AGI expert – Sisteme de IA la percentilele 90 ale adulților pricepuți
• Nivelul 4: AGI virtuoz – Sisteme de IA la percentilele 99
• Nivelul 5: AGI suprauman – Sisteme de IA care depășesc toți oamenii

Sursă

În timpul discuției noastre, Adam a definit conceptul de AGI ca “software care poate face tot ce poate face un om”. El își imaginează un viitor în care IA își îmbunătățește singură, în cele din urmă preluând sarcinile complexe ale oamenilor, gestionate de cercetătorii în domeniul învățării automate.

Ducând acest lucru mai departe, am comparat perspectivele mele asupra AGI cu cele ale unui “creier artificial” capabil de sarcini diverse, cum ar fi “traducere automată, interogări complexe și programare”. Acesta este distinctia dintre AGI și IA mai predictivă și forme înguste de ML care au precedat-o. Se simte ca un comportament emergent.

Termene de dezvoltare realiste pe drumul către AGI

La fel ca într-o călătorie cu mașina, întrebarea principală despre AGI este “Am ajuns?” Răspunsul scurt este nu, dar pe măsură ce cercetarea IA accelerează, întrebarea corectă de a face este “Cum putem echilibra ambiția AGI cu așteptări realiste?”

Adam a subliniat că automatizarea crescută din AGI va schimba rolurile umane, mai degrabă decât le va elimina, conducând la o creștere economică mai rapidă și la o productivitate mai eficientă. “Pe măsură ce această tehnologie devine mai puternică, vom ajunge la un punct în care 90% din ceea ce fac oamenii astăzi va fi automatizat, dar toată lumea se va fi mutat în alte lucruri”.

În prezent, o mare parte a economiei mondiale este constrânsă de numărul de oameni disponibili pentru a lucra. Odată ce vom atinge AGI, putem crește economia la o rată mult mai rapidă decât este posibil astăzi.

Nu putem oferi un termen definitiv pentru când va fi realizat AGI adevărat, dar Adam și eu am menționat mai multe exemple de progrese ale IA care deschid calea pentru progresele viitoare ale AGI. De exemplu, experimentele lui Turing cu unelte de dezvoltare IA au arătat o creștere cu 33% a productivității dezvoltatorilor, sugerând un potențial și mai mare.

Apliicații și efecte din lumea reală

Una dintre cele mai promițătoare aplicații ale AGI se află în domeniul dezvoltării software. Modelele de limbaj larg (LLM), un precursor al AGI, sunt deja folosite pentru a îmbunătăți dezvoltarea software și a îmbunătăți calitatea codului. Văd această eră a IA ca fiind mai aproape de biologie decât de fizică, unde toate tipurile de lucrări cu cunoașterea se vor îmbunătăți. Va fi mult mai multă productivitate deblocată pentru și de la oameni.

Perspectiva mea vine din experiență, unde am fost martor la o creștere de 10 ori a productivității personale atunci când am folosit LLM și unelte de dezvoltare IA. De asemenea, folosim IA la Turing pentru a evalua talentul tehnic și a potrivi ingineri software și experți în domeniu cu doctorat cu joburile potrivite.

Ce văd în spațiul de antrenament LLM, de exemplu, este că antrenorii folosesc aceste modele pentru a îmbunătăți productivitatea dezvoltatorilor și a accelera termenele proiectelor. Prin automatizarea sarcinilor de codare rutiniere și oferirea de sugestii de cod inteligente, LLM-urile eliberează dezvoltatorii pentru a se concentra pe aspectele mai strategice și creative ale muncii lor.

Adam a încheiat, “LLM-urile nu vor scrie tot codul, dar înțelegerea fundamentelor software rămâne esențială. Calculatoarele nu au eliminat nevoia de a învăța aritmetică.” El a adăugat, “Dezvoltatorii devin mai valoroși atunci când folosesc aceste modele. Prezența LLM-urilor este un lucru pozitiv pentru joburile dezvoltatorilor și va exista multă câștiguri pentru dezvoltatori”.

Intrăm într-o eră de aur a dezvoltării software, în care un singur inginer software poate fi de 10 ori mai productiv, poate crea mai mult și poate beneficia lumea.

Provocări tehnice și de guvernanță

În ciuda potențialului promițător al AGI, provocările trebuie abordate. Procese robuste de evaluare și cadre de reglementare sunt necesare pentru a echilibra inovația AGI cu siguranța publică.

Adam a subliniat nevoia de testare și sandboxing cuprinzătoare pentru a limita scenariile în cel mai rău caz. “Vrei să ai un fel de proces de evaluare robust… și să obții acea distribuție pe care o testezi împotriva utilizării reale din lume, cât mai aproape posibil.”

Și eu sunt de acord. Gâtul de sticlă pentru progresul AGI este acum inteligența umană, mai degrabă decât puterea de calcul sau datele. Expertiza umană este esențială pentru ajustarea și personalizarea modelelor IA, ceea ce este motivul pentru care Turing se concentrează pe găsirea și potrivirea profesioniștilor tehnici de top pentru a echilibra modelele cu inteligența umană.

Trebuie să abordăm provocările AGI direct, concentrându-ne pe capacități mai degrabă decât pe procese, generalitate și performanță, și potențial.

Perspective asupra provocărilor: Îmbunătățirea interacțiunilor umane-AGI

Unele dintre cele mai bune practici pentru a aborda provocările AGI includ:

• Concentrați-vă pe capacități sau “ce poate face AGI” mai degrabă decât pe procese sau “cum face acest lucru”.
• Echilibrați generalitatea și performanța ca componente esențiale ale AGI.
• Concentrați-vă pe sarcini cognitive / metacognitive și capacități de învățare mai degrabă decât pe sarcini fizice / ieșiri.
• Măsurați AGI prin potențialul și capacitățile sale.
• Concentrați-vă pe validitatea ecologică, aliniindu-vă benchmark-urile cu sarcinile din lumea reală pe care oamenii le prețuiesc.
• Aduceți-vă aminte că drumul către AGI nu este un singur punct de sosire, ci un proces iterativ.

Adăugând la aceste practici, Adam și eu am subliniat importanța îmbunătățirii interacțiunilor umane-AGI. Adam a subliniat valoarea învățării despre cum și când să se utilizeze aceste modele, privindu-le ca instrumente de învățare puternice care pot preda rapid orice subdomeniu de programare, subliniind importanța înțelegerii fundamentelor.

La fel, eu sugerez că transformarea fiecărui om într-un utilizator puternic al LLM-urilor poate îmbunătăți semnificativ productivitatea și înțelegerea în diverse domenii. LLM-urile pot face informații complexe accesibile tuturor, îmbunătățind productivitatea în diverse domenii. Dar necesită o abordare fazată, iterativă: începând cu copiloți IA care asistă oamenii, apoi mutându-vă la agenți cu supraveghere umană și, în final, atingând agenți complet autonomi în sarcini bine evaluate.

Cu aceasta, diferențierea post-antrenament este critică, implicând ajustarea supravegheată (SFT) și utilizarea inteligenței umane pentru a construi modele personalizate. Companiile care pot găsi și potrivi antrenori, ingineri și alții vor accelera capacitățile lor de ajustare și inginerie personalizată. Colaborarea cu companii de top, cum ar fi OpenAI și Anthropic, este, de asemenea, cheia pentru aplicarea acestor modele în diverse industrii.

Principiile dezvoltării responsabile a AGI

“Dezvoltarea AGI trebuie să fie responsabilă și etică, asigurând siguranța și transparența, în timp ce promovează inovația.” – Adam D’Angelo

Dezvoltarea responsabilă a AGI necesită respectarea mai multor principii de bază:

• Siguranță și securitate: Asigurarea că sistemele AGI sunt fiabile și rezistente la utilizarea abuzivă, mai ales pe măsură ce modelele se extind pentru a acomoda noi intrări de date sau algoritmi.
• Transparență: A fi realist despre capacitățile, limitările și “cum funcționează” AGI.
• Considerații etice: Abordarea problemelor de echitate, prejudecată și modul în care AGI va afecta ocuparea forței de muncă și alte factori socio-economici.
• Reglementare: Lucrarea cu guverne și alte organizații pentru a dezvolta cadre care echilibrează progresul cu siguranța publică.
• Benchmarking: Benchmark-urile viitoare trebuie să cuantifice comportamentul și capacitățile AGI împotriva considerațiilor etice și nivelurilor taxonomice.

Concluzie: Concentrați-vă pe drumul către AGI, nu pe un singur punct de sosire

Drumul către AGI este complex, dar fiecare oprire de pe drum este importantă pentru călătorie. Prin înțelegerea îmbunătățirilor iterative ale AGI, precum și a implicațiilor sale, oamenii și afacerile vor putea să adopte în mod responsabil această tehnologie în evoluție. Acesta este nucleul dezvoltării AGI responsabile, unde interacțiunea din lumea reală informează modul în care navigăm această frontieră nouă.