Navigare la strada per l’Intelligenza Artificiale Generale (AGI) Insieme: un approccio equilibrato

Man mano che l’intelligenza artificiale generale (AGI) si evolve rapidamente, la conversazione si sta spostando dalla discussione filosofica a una di rilevanza pratica, con immense opportunità di trasformare le aziende globali e il potenziale umano.

La serie di eventi AGI Icons di Turing riunisce innovatori dell’AI per discutere progressi pratici e responsabili delle soluzioni AGI. Il 24 luglio, Turing ha ospitato il nostro secondo evento AGI Icons presso SHACK15, l’esclusivo hub di San Francisco per imprenditori e innovatori tecnologici. Moderato da Anita Ramaswamy, columnist finanziario di The Information, ho discusso con il CEO di Quora, Adam D’Angelo, sulla strada per l’AGI e condiviso approfondimenti sui tempi di sviluppo, le applicazioni nel mondo reale e i principi per un utilizzo responsabile.

La strada dall’AI all’AGI

La “stella polare” che guida la ricerca sull’AI è la ricerca dell'”intelligenza” umana. Ciò che distingue l’AGI dall’AI standard è la sua progressione oltre la funzionalità ristretta verso una maggiore generalità (ampiezza) e prestazioni (profondità), anche superando le capacità umane.

Questa è “la strada per l’AGI”, dove l’AI progredisce verso sistemi più autonomi, ragionamento superiore, capacità migliorate e funzionalità migliorate. Queste progressioni sono suddivise in cinque livelli tassonomici:

• Livello 0: Nessun AI – Strumenti semplici come calcolatrici
• Livello 1: AGI emergente – LLM attuali come ChatGPT
• Livello 2: AGI competente – Sistemi AI che eguagliano gli adulti esperti in compiti specifici
• Livello 3: AGI esperto – Sistemi AI al 90° percentile degli adulti esperti
• Livello 4: AGI virtuoso – Sistemi AI al 99° percentile
• Livello 5: AGI superumano – Sistemi AI che superano tutte le capacità umane

Fonte

Durante la nostra discussione, Adam ha definito il concetto di AGI come “software che può fare tutto ciò che può fare un essere umano”. Egli immagina un futuro in cui l’AI migliora se stessa, alla fine prendendo il controllo dei compiti umani complessi gestiti dai ricercatori di apprendimento automatico.

Portando questo concetto un passo più in là, ho paragonato le mie opinioni sull’AGI a quelle di un “cervello artificiale” in grado di eseguire compiti diversi come “traduzione automatica, query complesse e codifica”. Questa è la distinzione tra AGI e forme più predittive di AI e forme più ristrette di ML che l’hanno preceduta. Sembra un comportamento emergente.

Tempi di sviluppo realistici sulla strada per l’AGI

Come in un viaggio, la domanda principale sull’AGI è “Siamo già arrivati?” La risposta breve è no, ma poiché la ricerca sull’AI si accelera, la domanda giusta da porre è “Come possiamo bilanciare l’ambizione dell’AGI con aspettative realistiche?”

Adam ha sottolineato che l’aumento dell’automazione dell’AGI sposterà i ruoli umani piuttosto che eliminarli, portando a una crescita economica più rapida e a una produttività più efficiente. “Man mano che questa tecnologia diventa più potente, arriveremo a un punto in cui il 90% di ciò che le persone fanno oggi sarà automatizzato, ma tutti si saranno spostati in altre cose”.

Attualmente, gran parte dell’economia mondiale è limitata dal numero di persone disponibili per lavorare. Una volta che raggiungeremo l’AGI, potremo far crescere l’economia a un ritmo molto più veloce di quanto sia possibile oggi.

Non possiamo fornire una data certa per quando sarà realizzato il vero AGI, ma Adam e io abbiamo citato diversi esempi di progressi dell’AI che aprono la strada a future progressioni dell’AGI. Ad esempio, gli esperimenti di Turing con strumenti di sviluppo AI hanno mostrato un aumento del 33% della produttività degli sviluppatori, suggerendo un potenziale ancora maggiore.

Applicazioni e effetti nel mondo reale

Una delle applicazioni più promettenti dell’AGI si trova nel campo dello sviluppo del software. I modelli linguistici di grandi dimensioni (LLM), un precursore dell’AGI, sono già utilizzati per migliorare lo sviluppo del software e aumentare la qualità del codice. Io vedo questa era dell’AI come più vicina alla biologia che alla fisica, dove tutti i tipi di lavoro della conoscenza saranno migliorati. Ci sarà così tanto più lavoro produttivo sbloccato per e dall’umanità.

La mia prospettiva deriva dall’esperienza, dove ho assistito a un aumento di produttività personale di 10 volte quando ho utilizzato LLM e strumenti di sviluppo AI. Stiamo anche utilizzando l’AI in Turing per valutare il talento tecnico e abbinare gli ingegneri del software e gli esperti di dominio di livello PhD ai lavori giusti.

Ciò che sto vedendo nello spazio di formazione LLM, ad esempio, è che i formatori sfruttano questi modelli per migliorare la produttività degli sviluppatori e accelerare i tempi di progetto. Automatizzando i compiti di codifica di routine e fornendo suggerimenti di codice intelligenti, gli LLM liberano gli sviluppatori per concentrarsi su aspetti più strategici e creativi del loro lavoro.

Adam ha concluso, “Gli LLM non scriveranno tutto il codice, ma capire i fondamenti del software rimane cruciale. Le calcolatrici non hanno eliminato la necessità di imparare l’aritmetica”. Ha aggiunto, “Gli sviluppatori diventano più preziosi quando utilizzano questi modelli. La presenza degli LLM è un fattore positivo per i lavori degli sviluppatori e ci saranno molti vantaggi per gli sviluppatori”.

Stiamo entrando in un’era dorata dello sviluppo del software in cui un ingegnere del software può essere 10 volte più produttivo, creare di più e beneficare il mondo.

Sfide tecniche e di governance

Nonostante il potenziale promettente dell’AGI, è necessario affrontare le sfide. Processi di valutazione robusti e quadri normativi sono necessari per bilanciare l’innovazione dell’AGI con la sicurezza pubblica.

Adam ha sottolineato la necessità di un processo di valutazione approfondito e di sandboxing per limitare gli scenari peggiori. “Vorresti avere un tipo di processo di valutazione robusto… e ottenere quella distribuzione che stai testando per essere il più vicino possibile all’uso reale”.

E io sono d’accordo. L’ostacolo per il progresso dell’AGI è ora l’intelligenza umana, piuttosto che la potenza di calcolo o i dati. L’esperienza umana è cruciale per la regolazione e la personalizzazione dei modelli AI, ed è per questo che Turing si concentra sull’individuazione e sull’abbinamento di professionisti tecnici di alto livello per bilanciare i modelli con l’intelligenza umana.

Dobbiamo affrontare le sfide dell’AGI frontalmente concentrandoci sulle capacità più che sui processi, sulla generalità e sulle prestazioni, e sul potenziale.

Prospettive sulle sfide: migliorare le interazioni uomo-AGI

Alcune delle migliori pratiche per affrontare le sfide dell’AGI includono:

• Concentrarsi sulle capacità o “ciò che l’AGI può fare” piuttosto che sui processi o “come lo fa”.
• Bilanciare la generalità e le prestazioni come componenti essenziali dell’AGI.
• Concentrarsi sui compiti cognitivi/metacognitivi e sulle capacità di apprendimento più che sui compiti fisici/uscite.
• Misurare l’AGI in base al suo potenziale e alle sue capacità.
• Concentrarsi sulla validità ecologica allineando i benchmark con compiti del mondo reale che le persone valorizzano.
• Ricordare che la strada per l’AGI non è un singolo punto di arrivo, ma un processo iterativo.

Aggiungendo a queste migliori pratiche, Adam e io abbiamo sottolineato l’importanza di migliorare le interazioni uomo-AGI. Adam ha sottolineato il valore dell’apprendimento di come e quando utilizzare questi modelli, considerandoli strumenti di apprendimento potenti che possono insegnare rapidamente qualsiasi subdominio di programmazione, sottolineando l’importanza di capire i fondamenti.

Allo stesso modo, suggerisco che rendere ogni essere umano un utente esperto di LLM potrebbe migliorare significativamente la produttività e la comprensione in vari campi. Gli LLM possono rendere le informazioni complesse accessibili a tutti, migliorando la produttività in vari campi. Ma richiede un approccio graduale e iterativo: iniziando con copiloti AI che assistono gli esseri umani, poi passando ad agenti con supervisione umana e infine raggiungendo agenti completamente autonomi in compiti ben valutati.

Con ciò, la differenziazione post-formazione è critica, coinvolgendo la regolazione supervisionata (SFT) e sfruttando l’intelligenza umana per costruire modelli personalizzati. Le aziende che possono individuare e abbinare formatori, ingegneri e altri saranno in grado di accelerare le loro capacità di regolazione e ingegneria personalizzata. Collaborare con aziende leader come OpenAI e Anthropic è anche fondamentale per applicare questi modelli in vari settori.

Principi di sviluppo responsabile dell’AGI

“Lo sviluppo dell’AGI deve essere responsabile e etico, garantendo la sicurezza e la trasparenza mentre si favorisce l’innovazione.” – Adam D’Angelo

Lo sviluppo responsabile dell’AGI richiede l’adesione a diversi principi fondamentali:

• Sicurezza e sicurezza: garantire che i sistemi AGI siano affidabili e resistenti all’uso improprio, soprattutto man mano che i modelli si espandono per accogliere nuovi input di dati o algoritmi.
• Trasparenza: essere realistici sulle capacità, i limiti e il “funzionamento” dell’AGI.
• Considerazioni etiche: affrontare la questione della equità, della parzialità e di come l’AGI impatterà sull’occupazione e altri fattori socioeconomici.
• Regolamentazione: lavorare con i governi e altre organizzazioni per sviluppare quadri che bilancino il progresso con la sicurezza pubblica.
• Benchmarking: i benchmark futuri devono quantificare il comportamento e le capacità dell’AGI rispetto a considerazioni etiche e livelli tassonomici.

Conclusione: concentrarsi sul percorso verso l’AGI, non su un singolo punto di arrivo

La strada per l’AGI è complessa, ma ogni fermata lungo il cammino è importante per il viaggio. Comprendendo i miglioramenti iterativi dell’AGI e le sue implicazioni, le persone e le aziende saranno in grado di adottare responsabilmente questa tecnologia in evoluzione. Questo è il cuore dello sviluppo responsabile dell’AGI, dove l’interazione con il mondo reale informa la nostra navigazione in questo nuovo frontier.