Navigarea drumului către Inteligența Artificială Generală (AGI) Împreună: O abordare echilibrată

Pe măsură ce inteligența artificială generală (AGI) avansează rapid, conversația se mută de la dezbateri filosofice la una de relevanță practică, cu oportunități imense de a transforma afaceri globale și potențialul uman.

Seria de evenimente AGI Icons a lui Turing adună inovatori în domeniul inteligenței artificiale pentru a discuta despre progresele practice și responsabile ale soluțiilor AGI. La 24 iulie, Turing a găzduit al doilea eveniment AGI Icons la SHACK15, hub-ul exclusiv pentru antreprenori și inovatori tehnologici din San Francisco. Moderat de Anita Ramaswamy, columnista financiară a The Information, am stat de vorbă cu Adam D’Angelo, CEO al Quora, pentru a discuta despre drumul către AGI și pentru a împărtăși perspective asupra termenelor de dezvoltare, aplicațiilor din lumea reală și principiilor pentru o implementare responsabilă.

Drumul de la IA la AGI

“Steaua polară” care conduce cercetarea inteligenței artificiale este urmărirea “inteligenței” la nivel uman. Ceea ce separă AGI de IA standard este progresul său dincolo de funcționalitatea îngustă spre o mai mare generalitate (lățime) și performanță (adâncime), chiar depășind capacitățile umane.

Acesta este “drumul către AGI”, unde IA progresează spre sisteme mai autonome, raționament superior, capacități îmbunătățite și funcționalitate îmbunătățită. Aceste progrese sunt împărțite în cinci niveluri taxonomice:

• Nivelul 0: Fără IA – Unelte simple, cum ar fi calculatoarele
• Nivelul 1: AGI emergent – LLM-urile actuale, cum ar fi ChatGPT
• Nivelul 2: AGI competent – Sisteme de IA care se potrivesc cu adulți pricepuți pe sarcini specifice
• Nivelul 3: AGI expert – Sisteme de IA la percentilele 90 ale adulților pricepuți
• Nivelul 4: AGI virtuoz – Sisteme de IA la percentilele 99
• Nivelul 5: AGI superuman – Sisteme de IA care depășesc toate capacitățile umane

Sursă

În timpul discuției noastre, Adam a definit conceptul de AGI ca “software care poate face tot ceea ce poate face un om”. El își imaginează un viitor în care IA își îmbunătățește singură, eventual preluând sarcinile complexe umane gestionate de cercetătorii în domeniul învățării automatizate.

Ducând mai departe această idee, am comparat perspectivele mele asupra AGI cu cele ale unui “creier artificial” capabil de diverse sarcini, cum ar fi “traducere automată, întrebări complexe și programare”. Aceasta este distincția dintre AGI și forme mai predictive de IA și forme înguste de învățare automatizată care au precedat-o. Se simte ca un comportament emergent.

Termene de dezvoltare realiste pe drumul către AGI

La fel ca într-o călătorie, întrebarea principală despre AGI este “Am ajuns?” Răspunsul scurt este nu, dar pe măsură ce cercetarea în domeniul inteligenței artificiale se accelerează, întrebarea corectă de a fi pusă este “Cum putem echilibra ambiția AGI cu așteptări realiste?”

Adam a subliniat că automatizarea crescută din AGI va schimba rolurile umane, mai degrabă decât să le elimine, conducând la o creștere economică mai rapidă și la o productivitate mai eficientă. “Pe măsură ce această tehnologie devine mai puternică, vom ajunge la un punct în care 90% din ceea ce fac oamenii astăzi va fi automatizat, dar toată lumea se va fi mutat în alte domenii.”

În prezent, o mare parte a economiei mondiale este constrânsă de numărul de oameni disponibili pentru a lucra. Odată ce vom atinge AGI, putem crește economia la un ritm mult mai rapid decât este posibil astăzi.

Nu putem oferi un termen definitiv pentru când va fi realizată AGI adevărată, dar Adam și eu am menționat mai multe exemple de progrese în domeniul inteligenței artificiale care fac loc pentru progresele viitoare ale AGI. De exemplu, experimentele lui Turing cu unelte de dezvoltare de IA au arătat o creștere de 33% a productivității dezvoltatorilor, sugerând un potențial și mai mare.

Aficerați și efecte în lumea reală

Una dintre cele mai promițătoare aplicații ale AGI se află în domeniul dezvoltării de software. Modelele de limbaj de mare anvergură (LLM), un precursor al AGI, sunt deja utilizate pentru a îmbunătăți dezvoltarea de software și a îmbunătăți calitatea codului. Văd această eră a IA ca fiind mai aproape de biologie decât de fizică, unde toate tipurile de cunoaștere vor fi îmbunătățite. Va fi deblocată o productivitate atât de mare pentru și de la oameni.

Perspectiva mea vine din experiență, unde am fost martor la o creștere de 10 ori a productivității personale atunci când am utilizat LLM și unelte de dezvoltare de IA. De asemenea, utilizăm IA la Turing pentru a evalua talentul tehnic și a asocia ingineri de software și experți în domeniu cu doctorat cu joburile potrivite.

Ceea ce văd în spațiul de antrenament LLM, de exemplu, este că antrenorii folosesc aceste modele pentru a îmbunătăți productivitatea dezvoltatorilor și a accelera termenele proiectelor. Prin automatizarea sarcinilor de codare rutiniere și oferirea de sugestii inteligente de cod, LLM-urile eliberează dezvoltatorii pentru a se concentra pe aspectele strategice și creative ale muncii lor.

Adam a încheiat, “LLM-urile nu vor scrie tot codul, dar înțelegerea fundamentelor software rămâne esențială. Calculatoarele nu au eliminat nevoia de a învăța aritmetică.” El a adăugat, “Dezvoltatorii devin mai valoroși atunci când utilizează aceste modele. Prezența LLM-urilor este un lucru pozitiv pentru joburile de dezvoltatori și vor exista multe beneficii pentru dezvoltatori.”

Intrăm într-o eră de aur a dezvoltării de software, în care un inginer de software poate fi de 10 ori mai productiv, poate crea mai mult și poate beneficia lumea.

Provocări tehnice și de guvernanță

În ciuda potențialului promițător al AGI, provocările trebuie abordate. Procese robuste de evaluare și cadre de reglementare sunt necesare pentru a echilibra inovația AGI cu siguranța publică.

Adam a subliniat nevoia de teste cuprinzătoare și sandboxing pentru a limita scenariile de caz defavorabile. “Vrei să ai un proces de evaluare robust… și să obții o distribuție care să fie testată împotriva utilizării reale din lume, cât mai aproape de realitate.”

Și eu sunt de acord. Sticla de gât pentru progresul AGI este acum inteligența umană, mai degrabă decât puterea de calcul sau datele. Expertiza umană este esențială pentru ajustarea și personalizarea modelelor de IA, ceea ce face ca Turing să se concentreze pe găsirea și asocierea profesioniștilor tehnici de top pentru a echilibra modelele cu inteligența umană.

Trebuie să abordăm provocările AGI direct, concentrându-ne pe capacități mai degrabă decât pe procese, generalitate și performanță, și potențial.

Perspective asupra provocărilor: Îmbunătățirea interacțiunilor umane-AGI

Unele dintre cele mai bune practici pentru a aborda provocările AGI includ:

• Concentrarea pe capacități sau “ce poate face AGI” mai degrabă decât pe procese sau “cum o face”.
• Echilibrarea generalității și performanței ca componente esențiale ale AGI.
• Concentrarea pe sarcini cognitive/metacognitive și abilități de învățare mai degrabă decât pe sarcini fizice/rezultate.
• Măsurarea AGI prin potențial și capacități.
• Concentrarea pe validitatea ecologică prin alinierea benchmark-urilor cu sarcini din lumea reală pe care oamenii le prețuiesc.
• Amintiți-vă că drumul către AGI nu este un singur punct final, ci un proces iterativ.

Adăugând la aceste practici, Adam și eu am subliniat importanța îmbunătățirii interacțiunilor umane-AGI. Adam a subliniat valoarea învățării cum și când să se utilizeze aceste modele, privindu-le ca instrumente de învățare puternice care pot preda rapid orice subdomeniu de programare, subliniind importanța înțelegerii fundamentelor.

La fel, eu sugerez că făcând ca fiecare om să fie un utilizator puternic al LLM-urilor poate îmbunătăți semnificativ productivitatea și înțelegerea în diverse domenii. LLM-urile pot face informații complexe accesibile tuturor, îmbunătățind productivitatea în diverse domenii. Dar necesită o abordare iterativă, treptată: începând cu copiloți de IA care asistă oamenii, apoi trecând la agenți cu supraveghere umană și, în final, ajungând la agenți complet autonomi în sarcini bine evaluate.

Cu aceasta, diferențierea post-antrenament este critică, implicând ajustarea supravegheată (SFT) și utilizarea inteligenței umane pentru a construi modele personalizate. Companiile care pot găsi și asocia instructori, ingineri și alți specialiști vor accelera capacitățile lor de ajustare și inginerie personalizată. Colaborarea cu companii de top, cum ar fi OpenAI și Anthropic, este, de asemenea, cheia pentru a aplica aceste modele în diverse industrii.

Principiile dezvoltării responsabile a AGI

“Dezvoltarea AGI trebuie să fie responsabilă și etică, asigurând siguranța și transparența, în timp ce promovează inovația.” – Adam D’Angelo

Dezvoltarea responsabilă a AGI necesită respectarea mai multor principii de bază:

• Siguranță și securitate: Asigurarea că sistemele AGI sunt fiabile și rezistente la utilizare necorespunzătoare, mai ales pe măsură ce modelele se extind pentru a acomoda noi intrări de date sau algoritmi.
• Transparență: A fi realist în ceea ce privește capacitățile, limitările și “cum funcționează” AGI.
• Considerații etice: Abordarea problemelor de echitate, prejudecată și modul în care AGI va afecta ocuparea forței de muncă și alte factori socio-economici.
• Reglementare: Lucrul cu guverne și alte organizații pentru a dezvolta cadre care să echilibreze progresul cu siguranța publică.
• Benchmarking: Benchmark-urile viitoare trebuie să cuantifice comportamentul și capacitățile AGI în raport cu considerații etice și niveluri taxonomice.

Concluzie: Concentrați-vă pe drumul către AGI, nu pe un singur punct final

Drumul către AGI este complex, dar fiecare oprire de pe drum este importantă pentru călătorie. Prin înțelegerea îmbunătățirilor iterative ale AGI – împreună cu implicațiile sale – oamenii și afacerile vor putea adopta în mod responsabil această tehnologie în evoluție. Acesta este nucleul dezvoltării AGI responsabile, unde interacțiunea din lumea reală informează modul în care navigăm această frontieră nouă. Pe drum este important pentru călătorie. Prin înțelegerea îmbunătățirilor iterative ale AGI – împreună cu implicațiile sale – oamenii și afacerile vor putea adopta în mod responsabil această tehnologie în evoluție. Acesta este nucleul dezvoltării AGI responsabile, unde interacțiunea din lumea reală informează modul în care navigăm această frontieră nouă.