I sistemi di intelligenza artificiale potrebbero preferire il linguaggio umano anziché i dati numerici

Nuova ricerca condotta dalla Columbia Engineering suggerisce che i sistemi di intelligenza artificiale (AI) preferiscono il linguaggio umano anziché i dati numerici come 1 e 0. Lo studio è stato condotto dal professor di Ingegneria Meccanica Hod Lipson e dal dottorando Boyuan Chen e ha dimostrato che i sistemi di intelligenza artificiale possono raggiungere livelli di prestazione più elevati se programmato con file audio del linguaggio umano.

In un confronto diretto, i ricercatori hanno scoperto che una rete neurale addestrata con file audio ha raggiunto livelli di prestazione più elevati nell’identificazione di oggetti rispetto alla rete addestrata con input binari semplici.

Lipson è professore di Innovazione James e Sally Scapa e membro dell’Istituto di Scienza dei Dati della Columbia.

“Per capire perché questo risultato è significativo, è utile capire come vengono solitamente programmato le reti neurali e perché utilizzare il suono della voce umana è un esperimento radicale”, ha detto.

Utilizzare numeri binari è compatto e preciso, mentre il linguaggio umano è più complesso e non binario quando catturato in un file digitale. I programmatori di solito non si discostano dai numeri quando sviluppano una rete neurale poiché è altamente efficiente.

Il team ha intrapreso questa ricerca dopo aver pensato che le reti neurali non stessero raggiungendo il loro pieno potenziale e che potessero essere più veloci e migliori se addestrate con la voce umana e parole specifiche.

Addestramento delle reti

Quando si testa una nuova tecnica di apprendimento automatico, i ricercatori di intelligenza artificiale spesso addestrano una rete neurale a riconoscere oggetti e animali specifici in una collezione di fotografie.

Il team, che includeva Chen, Lipson, Yu Li e Susan Raghupathi, ha allestito un esperimento controllato per testare la loro ipotesi e ha creato due nuove reti neurali. Hanno deciso di addestrarle a riconoscere 10 tipi di oggetti diversi tra 50.000 fotografie chiamate “immagini di addestramento”.

Uno dei sistemi di intelligenza artificiale è stato addestrato in modo più tradizionale con valori numerici, mentre la rete neurale sperimentale è stata addestrata in modo molto diverso. È stato alimentato con un tableau di dati con righe contenenti una fotografia di un animale o un oggetto e la seconda colonna aveva un file audio della voce umana, che pronunciava la parola per l’animale o l’oggetto. Non c’erano 1 e 0 coinvolti nella rete sperimentale.

Entrambi i sistemi di intelligenza artificiale sono stati addestrati per un totale di 15 ore. I risultati hanno mostrato che la rete originale ha risposto con una serie di dieci 1 e 0, mentre la rete neurale sperimentale ha prodotto una voce che stava chiaramente cercando di “dire” cosa fosse l’oggetto nell’immagine. Mentre la voce originale non era comprensibile, alla fine ha raggiunto un punto di essere per lo più corretta.

Le due reti hanno eseguito altrettanto bene, identificando l’animale o l’oggetto in modo corretto il 92% delle volte. I ricercatori hanno quindi deciso di eseguire l’esperimento per la seconda volta, ma questa volta hanno utilizzato meno fotografie durante il processo.

La rete tradizionale ha eseguito male a causa dei dati scarsi, come ci si aspettava, scendendo a circa il 35% di accuratezza. Tuttavia, la rete sperimentale ha fatto il doppio, con il 70% di accuratezza, nonostante avesse meno dati.

https://www.youtube.com/watch?v=Iq2YjHCAPRQ

Risultati sorprendenti

La prossima volta, il team ha utilizzato immagini più difficili, come un’immagine corrotta di un cane. Anche con le immagini più difficili, la rete neurale addestrata con la voce è stata corretta circa il 50% delle volte, mentre la rete tradizionale è stata solo il 20% precisa.

Boyuan Chen è il ricercatore principale dello studio.

“I nostri risultati vanno direttamente contro come molti esperti sono stati addestrati a pensare ai computer e ai numeri; è un’ipotesi comune che gli input binari siano un modo più efficiente per trasmettere informazioni a una macchina rispetto a flussi audio di informazioni simili ‘ricchezza'”, ha spiegato Chen. “In realtà, quando abbiamo presentato questa ricerca a una grande conferenza di intelligenza artificiale, un revisore anonimo ha rifiutato il nostro articolo semplicemente perché riteneva che i nostri risultati fossero ‘troppo sorprendenti e non intuitivi’.”

“Se si pensa al fatto che il linguaggio umano è stato soggetto a un processo di ottimizzazione per decine di migliaia di anni, allora ha senso che le nostre parole parlato abbiano trovato un buon equilibrio tra rumore e segnale”, ha detto Lipson. “Quindi, quando visto attraverso la lente dell’entropia di Shannon, ha senso che una rete neurale addestrata con il linguaggio umano superi una rete neurale addestrata con semplici 1 e 0.”

Lo studio sarà presentato alla Conferenza internazionale su rappresentazioni di apprendimento il 3 maggio 2021.

“Dovremmo pensare a utilizzare modi nuovi e migliori per addestrare i sistemi di intelligenza artificiale invece di raccogliere dataset più grandi”, ha detto Chen. “Se ripensiamo a come presentiamo i dati di addestramento alla macchina, potremmo fare un lavoro migliore come insegnanti.”

“Una delle più grandi misteri dell’evoluzione umana è come i nostri antenati abbiano acquisito il linguaggio e come i bambini imparano a parlare con tanta facilità”, aggiunge Lipson. “Se i bambini umani imparano meglio con istruzioni verbali ripetute, forse i sistemi di intelligenza artificiale possono farlo anche loro.”