Il Problema Ovunque: Perché “Dati Ovunque” Sta Diventando la Sfida di Infrastruttura Definente dell’Era dell’Intelligenza Artificiale

La questione più consequenziale nell’intelligenza artificiale oggi non è quale modello sia il più intelligente. È dove vivono i dati e se l’intelligenza può raggiungerli.

Per la maggior parte di un decennio, l’industria dell’intelligenza artificiale ha operato sotto una premessa rassicurante: centralizzare i dati, centralizzare il calcolo e la genialità seguirà. Il modello hyperscaler — centralizzare enormi set di dati di formazione in grandi cluster cloud e applicare un enorme calcolo GPU per comprimere i parametri del modello — ha prodotto risultati straordinari, ma anche un’architettura che ora è sotto sforzo a causa del peso del proprio successo.

Chiamatelo il “problema dei dati ovunque”. Mentre l’intelligenza artificiale si diffonde dal laboratorio di ricerca e nel tessuto operativo degli ospedali, delle fabbriche, delle istituzioni finanziarie e dei governi sovrani, i dati che devono informare questi sistemi sono intrinsecamente distribuiti, vincolati giurisdizionalmente e operativamente immobili. I regolatori in Europa insistono che i record finanziari dei cittadini non lascino il continente. I dati di prova clinica di un’azienda farmaceutica a Basilea non possono legalmente coabitare un bucket cloud con un set di dati di genomica da Seoul.

Qualunque sia il caso, l’intelligenza deve andare dove sono i dati. I dati, con enfasi, non verranno dall’intelligenza.

L’Economia del Cambiamento

Questa tensione strutturale è resa acuta da una rivoluzione simultanea nell’economia dell’intelligenza artificiale. L’industria sta subendo un ribilanciamento tettonico da un’economia basata sulla formazione a un’economia basata sull’inferenza, e le implicazioni per l’architettura dei dati sono profonde.

Deloitte ha stimato che i carichi di lavoro di inferenza rappresentavano la metà di tutti i calcoli di intelligenza artificiale nel 2025, una cifra che salirà a due terzi nel 2026. Il rapporto si sta invertendo con una velocità sorprendente. Gli analisti stimano che entro il 2026, la domanda di inferenza supererà la domanda di formazione di 118 volte. Entro il 2030, l’inferenza potrebbe rappresentare il 75% del calcolo totale di intelligenza artificiale, guidando un investimento di infrastrutture di 7 trilioni di dollari.

La matematica dei costi è altrettanto vertiginosa. Per ogni miliardo di dollari spesi per la formazione di un modello di intelligenza artificiale, le organizzazioni affrontano costi di inferenza di 15-20 miliardi di dollari nel corso della vita di produzione del modello: un rapporto illustrato in modo netto da GPT-4, il cui costo di formazione è stato di circa 150 milioni di dollari, ma i costi cumulativi di inferenza hanno raggiunto 2,3 miliardi di dollari alla fine del 2024. La formazione, un tempo l’ossessione principale degli investitori e degli ufficiali di approvvigionamento di intelligenza artificiale, sta essere ridefinita come una tassa di iscrizione una tantum. L’inferenza è il costo operativo perpetuo dell’intelligenza e ora è l’elemento dominante.

Yet, qui si trova il paradosso: i costi di inferenza per un sistema di livello GPT-3.5 sono scesi più di 280 volte tra novembre 2022 e ottobre 2024, con i costi di hardware in calo del 30% all’anno e l’efficienza energetica migliorata del 40% all’anno. I prezzi scendono; il consumo accelera più velocemente. I costi di inferenza per unità sono scesi di 100 volte, mentre Microsoft e Google hanno segnalato un aumento del 31% dei carichi di lavoro di intelligenza artificiale in metà di quel periodo.

Il paradosso di Jevons, dove i guadagni di efficienza guidano un uso maggiore di risorse, ha trovato un’espressione moderna nei cluster GPU.

Dove Vivono i Dati, L’intelligenza Deve Seguire

L’economia dell’inferenza ridisegna fondamentalmente le esigenze di infrastruttura e, in nessun luogo più che intorno alla gravità dei dati. L’inferenza, a differenza della formazione, non è un lavoro batch eseguito una volta in un centro dati. È un servizio continuo, sensibile alla latenza, distribuito geograficamente e solo così buono come i dati che può raggiungere nel momento della query.

Questo è il nucleo centrale della sfida dei dati ovunque.

Ad esempio, un modello di linguaggio che ragiona su una telemetria ICU in tempo reale non può permettersi un viaggio di andata e ritorno di 200 millisecondi a un cluster hyperscaler sulla costa orientale. Un modello di frode dei servizi finanziari che esegue l’inferenza al punto di transazione non può esfiltrare i dati del conto a una giurisdizione in cui violerebbe il GDPR. Un dispiegamento di intelligenza artificiale sovrano non può essere basato su un’infrastruttura di proprietà e gestita da un’entità commerciale straniera.

I laboratori di frontiera sono acutamente consapevoli di questo. L’accordo di Anthropic con Google Cloud per fino a un milione di TPUs, che fornisce più di un gigawatt di capacità di calcolo di intelligenza artificiale entro il 2026, segnala come i laboratori leader stanno investendo a una scala senza precedenti per plasmare l’impronta infrastrutturale globale dell’inferenza.

Una Tassonomia dell’Intensità dei Dati

Non tutti i sistemi di intelligenza artificiale affrontano questa sfida in modo identico e è istruttivo considerare una tassonomia approssimativa, poiché ci sono vari tipi di modelli di intelligenza artificiale e complessità. Analizziamolo con tre esempi fondamentali: LLM, immagini e modelli fisici.

I grandi modelli di linguaggio — le famiglie di Claude, GPT e Gemini — trattano principalmente token di linguaggio: relativamente leggeri, compressibili e adatti a tecniche di preservazione della privacy come la privacy differenziale o l’apprendimento federato. Il loro problema dei dati ovunque è molto complesso.

I modelli visuali generativi presentano un caso ancora più difficile. Sistemi come Black Forest Labs’ FLUX.2 possono produrre immagini fotorealistiche ad alta risoluzione in meno di un secondo su hardware potente, ma generare una singola immagine richiede molto più dati e calcolo rispetto alla generazione di testo. Mentre l’intelligenza artificiale visiva si sposta oltre gli strumenti creativi e si avvicina all’ispezione industriale, all’immagine medica e all’analisi satellitare, i dati sottostanti sono spesso grandi, sensibili e difficili da spostare, aumentando la necessità di eseguire l’intelligenza artificiale dove già risiedono i dati.

La categoria più complessa è l’intelligenza artificiale fisica. NVIDIA’s Jensen Huang ha dichiarato che “l’intelligenza artificiale fisica è arrivata e ogni azienda industriale diventerà un’azienda di robotica”. Nuovi modelli come NVIDIA’s Cosmos 3 mirano a dare alle macchine una comprensione generalizzata del mondo fisico combinando simulazione, visione e ragionamento, mentre aziende come Physical Intelligence stanno addestrando robot su dati di sensori del mondo reale – inclusi input di forza, moto e visivo – per abilitare un comportamento più adattabile e autonomo.

Le stesse dinamiche di scalabilità che hanno migliorato i grandi modelli di ragionamento sono ora applicate a dati del mondo reale come vibrazione, suono e input di sensori. Ma queste informazioni sono intrinsecamente locali. Un robot su un pavimento di fabbrica non può inviare dati visivi e tattili in tempo reale a un cloud lontano per l’elaborazione senza introdurre ritardi che potrebbero creare rischi per la sicurezza, il che significa che l’intelligenza artificiale deve eseguire sempre più azioni al margine, vicino a dove vengono generati i dati.

Fiducia, Spiegabilità e Risultati

Questo è dove la sfida dei dati ovunque si sposta oltre l’infrastruttura e diventa una questione di governance. Mentre l’intelligenza artificiale viene applicata a decisioni ad alto rischio – dalle diagnosi mediche ai modelli di rischio finanziario ai sistemi di controllo fisico – le domande su dove risiedono i dati sono sempre più legate a chi è responsabile dei risultati.

Nell’attuale ambiente regolatorio, la spiegabilità non è opzionale. L’Atto AI dell’UE, ad esempio, richiede che i sistemi ad alto rischio dimostrino la base delle loro uscite, il che è difficile se i dati che informano quelle decisioni sono distribuiti su più sistemi, giurisdizioni e quadri regolatori.

La fiducia, quindi, diventa il requisito preliminare per l’adozione su larga scala. Il controllo sull’ambiente dei dati sta diventando altrettanto importante quanto il controllo sui modelli stessi.

La Prossima Generazione di Infrastrutture di Intelligenza Artificiale

La risoluzione della sfida dei dati ovunque definirà la mappa competitiva dell’intelligenza artificiale per il prossimo decennio. L’inferenza federata, gli ambienti di elaborazione dei dati sicuri, i modelli ottimizzati per il margine e i sistemi di orchestrazione che tengono conto di dove sono autorizzati a risiedere i dati non sono caratteristiche tecniche di nicchia, ma condizioni preliminari per l’espansione dell’intelligenza artificiale oltre i casi d’uso in cui i dati possono essere centralizzati liberamente.

Le aziende e i governi che costruiscono infrastrutture in grado di fornire un’inferenza attendibile, spiegabile e sovrana — intelligenza che raggiunge i dati piuttosto che esigere che i dati viaggino verso di essa — comanderanno la più duratura barriera dell’era dell’intelligenza artificiale. Formare un modello più intelligente è sempre più un problema risolto e commodizzato. Deployarlo in modo responsabile, al margine, attraverso i confini giurisdizionali, contro i dati che non possono muoversi, è il problema che rimane.

I dati ovunque non sono uno slogan. È il problema più difficile irrisolto nell’intelligenza artificiale aziendale. E determinerà se la straordinaria capacità sbloccata dal decennio di investimenti nella formazione si tradurrà, su larga scala, in risultati che il mondo può fidarsi.