Il Caso per la Decentralizzazione della Tua Tecnologia AI

Gran parte della conversazione sullo sviluppo dell’intelligenza artificiale è diventata dominata da un dibattito filosofico e futuristico – dovremmo avvicinarci all’intelligenza artificiale generale, dove l’AI diventerà abbastanza avanzata da eseguire qualsiasi compito come un essere umano? È possibile?

Mentre la discussione sull’accelerazione versus decelerazione è importante e tempestiva con progressi come il modello Q-star, altri aspetti sono importanti. Principalmente, l’importanza di decentralizzare il tuo stack tecnologico e come farlo senza renderlo troppo oneroso. Queste due sfide possono sembrare in contrasto: costruire e distribuire modelli è incredibilmente costoso, ma affidarsi eccessivamente a un modello può essere dannoso a lungo termine. Conosco questa sfida personalmente come fondatore di AI.

Per costruire l’intelligenza, hai bisogno di talento, dati e calcolo scalabile. Per accelerare il tempo di mercato e fare di più con meno, molte aziende sceglieranno di costruire su modelli esistenti, piuttosto che costruire da zero. E l’approccio ha senso quando ciò che stai costruendo è così intensivo in termini di risorse. Questa sfida è aggravata dal fatto che, a differenza del software, la maggior parte dei guadagni finora nell’AI sono stati ottenuti aggiungendo più scala, che richiede più potenza di calcolo e quindi costo.

Ma cosa succede quando l’azienda in cui hai costruito la tua soluzione sperimenta un fallimento di governance o un guasto del prodotto? Dal punto di vista pratico, affidarsi a un singolo modello per costruire il tuo prodotto significa che ora fai parte di un effetto a catena negativo per qualsiasi cosa che accada.

Dobbiamo anche ricordare i rischi di lavorare con sistemi che sono probabilistici. Non siamo abituati a questo e il mondo in cui viviamo finora è stato progettato e costruito per funzionare con una risposta definitiva. I modelli sono fluidi in termini di output e le aziende li aggiornano costantemente, il che significa che il codice che hai scritto per supportarli e i risultati sui quali i tuoi clienti si affidano possono cambiare senza la tua conoscenza o controllo.

La centralizzazione crea anche problemi di sicurezza perché introduce un punto di fallimento unico. Ogni azienda lavora nell’interesse di se stessa. Se c’è un problema di sicurezza o di rischio con un modello, hai molto meno controllo nel risolvere quel problema o meno accesso a soluzioni alternative.

Dove ci lascia questo?

L’AI migliorerà indiscutibilmente il modo in cui viviamo. C’è così tanto che può realizzare e risolvere, dalla raccolta di informazioni alla comprensione di grandi quantità di dati. Ma con questa opportunità arriva anche il rischio. Se ci affidiamo eccessivamente a un singolo modello, tutte le aziende si espongono a sfide di sicurezza e di prodotto.

Per risolvere questo problema, dobbiamo ridurre i costi di inferenza e rendere più facile per le aziende avere un approccio multi-modello. E naturalmente, tutto si riduce ai dati. I dati e la proprietà dei dati saranno importanti. Più i dati sono unici, di alta qualità e disponibili, più saranno utili.

Per molti problemi, puoi ottimizzare i modelli per un’applicazione specifica. L’ultimo miglio dell’AI sono le aziende che costruiscono logica di routing, valutazioni e strati di orchestrazione su questi diversi modelli, specializzandoli per diversi settori.

Ci sono stati molti investimenti sostanziali in questo settore che ci stanno avvicinando a questo obiettivo. Il recente (e impressionante) round di finanziamento di Mistal è uno sviluppo promettente verso un’alternativa a OpenAI. Ci sono anche aziende che aiutano altri fornitori di AI a rendere la multiplexing tra modelli una realtà e a ridurre i costi di inferenza tramite hardware, software e distillazione dei modelli specializzati, solo per citarne alcuni.

Stiamo anche per vedere il decollo del software open-source e i governi devono consentire che l’open-source rimanga aperto. Con i modelli open-source, è più facile avere il controllo. Tuttavia, le lacune di prestazioni sono ancora presenti.

Presumo che finiremo in un mondo in cui avrai modelli junior ottimizzati per eseguire compiti meno complessi su larga scala, mentre modelli super-intelligenti più grandi agiranno come oracoli per gli aggiornamenti e saranno sempre più impegnati a risolvere problemi più complessi. Non avrai bisogno di un modello con un trilione di parametri per rispondere a una richiesta di servizio clienti. Lo paragono a non avere un dirigente senior che gestisce un compito che un tirocinante può gestire. Allo stesso modo, abbiamo ruoli multipli per i nostri omologhi umani, la maggior parte delle aziende si affiderà anche a una raccolta di modelli con diversi livelli di sofisticazione.

Per raggiungere questo equilibrio, hai bisogno di una chiara divisione dei compiti e di una valutazione, considerando il tempo, la complessità computazionale, il costo e la scala richiesta. A seconda del caso d’uso, puoi dare priorità di conseguenza. Determina una verità di base, un risultato ideale per il confronto e un esempio di dati di input e output, in modo da poter eseguire prompt diversi per ottimizzare e ottenere il risultato più vicino alla verità di base.

Se le aziende di AI possono decentralizzare con successo il loro stack tecnologico e costruire su più modelli, possiamo migliorare la sicurezza e l’affidabilità di questi strumenti e massimizzare così l’impatto positivo dell’AI. Non siamo più in un luogo per dibattiti teorici – è il momento di concentrarsi su come mettere l’AI al lavoro per rendere queste tecnologie più efficaci e resilienti.