Navigare la strada per l’Intelligenza Artificiale Generale (AGI) insieme: un approccio equilibrato

Mentre l’intelligenza artificiale generale (AGI) si evolve rapidamente, la conversazione si sposta dalla discussione filosofica a una di rilevanza pratica, con immense opportunità di trasformare le aziende globali e il potenziale umano.

La serie di eventi AGI Icons di Turing riunisce gli innovatori dell’AI per discutere progressi pratici e responsabili delle soluzioni AGI. Il 24 luglio, Turing ha ospitato il nostro secondo evento AGI Icons presso SHACK15, l’esclusivo hub di San Francisco per imprenditori e innovatori tecnologici. Moderato da Anita Ramaswamy, columnist finanziario di The Information, mi sono seduto con il CEO di Quora, Adam D’Angelo, per discutere la strada per l’AGI e condividere approfondimenti sui tempi di sviluppo, le applicazioni nel mondo reale e i principi per il dispiegamento responsabile.

La strada dall’AI all’AGI

La “stella polare” che guida la ricerca sull’AI è la ricerca dell'”intelligenza” di livello umano. Ciò che separa l’AGI dall’AI standard è la sua progressione oltre la funzionalità ristretta verso una maggiore generalità (ampiezza) e prestazioni (profondità), anche superando le capacità umane.

Questo è “la strada per l’AGI”, dove l’AI progredisce verso sistemi più autonomi, ragionamento superiore, capacità migliorate e funzionalità migliorate. Queste progressioni sono suddivise in cinque livelli tassonomici:

• Livello 0: Nessun AI – Strumenti semplici come le calcolatrici
• Livello 1: AGI emergente – LLM attuali come ChatGPT
• Livello 2: AGI competente – Sistemi AI che eguagliano gli adulti esperti in compiti specifici
• Livello 3: AGI esperto – Sistemi AI al 90° percentile degli adulti esperti
• Livello 4: AGI virtuoso – Sistemi AI al 99° percentile
• Livello 5: AGI sovrumano – Sistemi AI che superano tutti gli esseri umani

Source

Durante la nostra discussione, Adam ha definito il concetto di AGI come “software che può fare tutto ciò che può fare un essere umano”. Egli si figura un futuro in cui l’AI migliora se stessa, alla fine prendendo il controllo di compiti umani complessi gestiti da ricercatori di apprendimento automatico.

Andando oltre, ho paragonato le mie opinioni sull’AGI a quelle di un “cervello artificiale” in grado di eseguire compiti diversi come “traduzione automatica, query complesse e codifica”. Questa è la distinzione tra AGI e AI più prevedibile e forme più ristrette di ML che l’hanno preceduta. Sembra un comportamento emergente.

Tempi di sviluppo realistici sulla strada per l’AGI

Come in un viaggio in auto, la domanda principale sull’AGI è “Siamo già arrivati?”. La risposta breve è no, ma poiché la ricerca sull’AI si accelera, la domanda giusta da fare è “Come possiamo bilanciare l’ambizione dell’AGI con aspettative realistiche?”.

Adam ha sottolineato che l’aumento dell’automazione dall’AGI sposterà i ruoli umani piuttosto che eliminarli, portando a una crescita economica più rapida e a una produttività più efficiente. “Man mano che questa tecnologia diventa più potente, arriveremo a un punto in cui il 90% di ciò che le persone fanno oggi sarà automatizzato, ma tutti si saranno spostati in altre cose”.

Attualmente, gran parte dell’economia mondiale è limitata dal numero di persone disponibili per lavorare. Una volta che raggiungeremo l’AGI, potremo far crescere l’economia a un ritmo molto più veloce di quanto sia possibile oggi.

Non possiamo fornire una tempistica definitiva per quando verrà realizzato il vero AGI, ma Adam e io abbiamo citato diversi esempi di progressi dell’AI che aprono la strada ai progressi futuri dell’AGI. Ad esempio, gli esperimenti di Turing con gli strumenti di sviluppo AI hanno mostrato un aumento del 33% della produttività degli sviluppatori, facendo presagire un potenziale ancora maggiore.

Applicazioni e effetti nel mondo reale

Una delle applicazioni più promettenti dell’AGI si trova nel campo dello sviluppo software. I modelli linguistici di grandi dimensioni (LLM), un precursore dell’AGI, sono già utilizzati per migliorare lo sviluppo software e migliorare la qualità del codice. Io vedo questa era dell’AI come più vicina alla biologia che alla fisica, dove tutti i tipi di lavoro della conoscenza saranno migliorati. Ci sarà una produttività molto più grande sbloccata per e dall’umanità.

La mia prospettiva deriva dall’esperienza, dove ho assistito a un aumento di produttività personale di 10 volte quando utilizzo LLM e strumenti di sviluppo AI. Stiamo anche utilizzando l’AI in Turing per valutare il talento tecnico e abbinare gli sviluppatori di software e gli esperti di dominio di livello PhD ai lavori giusti.

Ciò che sto vedendo nello spazio di formazione LLM, ad esempio, è che gli allenatori sfruttano questi modelli per migliorare la produttività degli sviluppatori e accelerare i tempi di progetto. Automatizzando i compiti di codifica di routine e fornendo suggerimenti di codice intelligenti, i LLM liberano gli sviluppatori per concentrarsi su aspetti più strategici e creativi del loro lavoro.

Adam ha concluso: “I LLM non scriveranno tutto il codice, ma capire i fondamenti del software rimane fondamentale. Le calcolatrici non hanno eliminato la necessità di imparare l’aritmetica”. Ha aggiunto: “Gli sviluppatori diventano più preziosi quando utilizzano questi modelli. La presenza dei LLM è un fattore positivo per i lavori degli sviluppatori e ci saranno molti guadagni per gli sviluppatori”.

Stiamo entrando in un’era d’oro dello sviluppo software in cui un ingegnere software può essere 10 volte più produttivo, creare di più e beneficare il mondo.

Sfide tecniche e di governance

Nonostante il potenziale promettente dell’AGI, le sfide devono essere affrontate. Processi di valutazione robusti e quadri normativi sono necessari per bilanciare l’innovazione dell’AGI con la sicurezza pubblica.

Adam ha sottolineato la necessità di test approfonditi e sandbox per limitare gli scenari peggiori. “Vuoi avere un qualche tipo di processo di valutazione robusto… e ottenere che la distribuzione che stai testando sia il più vicino possibile all’uso reale”.

E io sono d’accordo. Il collo di bottiglia per i progressi dell’AGI è ora l’intelligenza umana, piuttosto che la potenza di calcolo o i dati. L’esperienza umana è fondamentale per regolare e personalizzare i modelli di AI, ed è per questo che Turing si concentra sull’individuazione e sull’abbinamento di professionisti tecnici di alto livello per bilanciare i modelli con l’intelligenza umana.

Dobbiamo affrontare le sfide dell’AGI a viso aperto, concentrandoci sulle capacità più che sui processi, sulla generalità e sulle prestazioni, e sul potenziale.

Prospettive sulle sfide: migliorare le interazioni uomo-AGI

Alcune delle migliori pratiche per affrontare le sfide dell’AGI includono:

• Concentrarsi sulle capacità o “ciò che l’AGI può fare” piuttosto che sui processi o “come lo fa”.
• Bilanciare la generalità e le prestazioni come componenti essenziali dell’AGI.
• Concentrarsi su compiti cognitivi/metacognitivi e capacità di apprendimento più che su compiti fisici/output.
• Misurare l’AGI in base al suo potenziale e alle sue capacità.
• Concentrarsi sulla validità ecologica allineando i benchmark con compiti del mondo reale che le persone apprezzano.
• Ricordare che il percorso per l’AGI non è un singolo punto di arrivo, ma un processo iterativo.

Aggiungendo a queste migliori pratiche, Adam e io abbiamo sottolineato l’importanza di migliorare le interazioni uomo-AGI. Adam ha sottolineato il valore di imparare come e quando utilizzare questi modelli, considerandoli come potenti strumenti di apprendimento che possono insegnare rapidamente qualsiasi subdominio di programmazione, sottolineando l’importanza di capire i fondamenti.

Allo stesso modo, suggerisco che rendere ogni essere umano un utente avanzato dei LLM potrebbe migliorare notevolmente la produttività e la comprensione in vari campi. I LLM possono rendere le informazioni complesse accessibili a tutti, migliorando la produttività in vari campi. Ma richiede un approccio fase per fase, iterativo: iniziando con copiloti AI che assistono gli esseri umani, poi spostandosi su agenti con supervisione umana e infine raggiungendo agenti completamente autonomi in compiti ben valutati.

Con questo, la differenziazione post-formazione è critica, coinvolgendo la regolazione fine (SFT) e sfruttando l’intelligenza umana per costruire modelli personalizzati. Le aziende che possono individuare e abbinare allenatori, ingegneri e altri saranno in grado di accelerare le loro capacità di regolazione fine e ingegneria personalizzata. Collaborare con aziende leader come OpenAI e Anthropic è anche fondamentale per applicare questi modelli in vari settori.

Principi di sviluppo responsabile dell’AGI

“Lo sviluppo dell’AGI deve essere responsabile e etico, assicurando la sicurezza e la trasparenza mentre si favorisce l’innovazione”. – Adam D’Angelo

Lo sviluppo responsabile dell’AGI richiede l’adesione a diversi principi fondamentali:

• Sicurezza e sicurezza: assicurare che i sistemi AGI siano affidabili e resistenti all’uso improprio, soprattutto man mano che i modelli si espandono per accogliere nuovi input di dati o algoritmi.
• Trasparenza: essere realistici sulle capacità, i limiti e il “funzionamento” dell’AGI.
• Considerazioni etiche: affrontare la questione della equità, della parzialità e di come l’AGI influenzerà l’occupazione e altri fattori socioeconomici.
• Regolamentazione: lavorare con i governi e altre organizzazioni per sviluppare quadri che bilancino il progresso con la sicurezza pubblica.
• Benchmarking: i benchmark futuri devono quantificare il comportamento e le capacità dell’AGI rispetto a considerazioni etiche e livelli tassonomici.

Conclusione: concentrarsi sul percorso per l’AGI, non su un singolo punto di arrivo

La strada per l’AGI è complessa, ma ogni fermata lungo il cammino è importante per il viaggio. Comprendendo i miglioramenti iterativi dell’AGI, nonché le sue implicazioni, le persone e le aziende saranno in grado di adottare responsabilmente questa tecnologia in evoluzione. Questo è il nucleo centrale dello sviluppo responsabile dell’AGI, dove l’interazione con il mondo reale informa come navighiamo in questa nuova frontiera.