L’IA privata ha bisogno di un’infrastruttura capace di evolversi con i carichi di lavoro

Due anni fa, quasi tutte le aziende con cui parlavo davano per scontato che l’IA significasse chiamare un modello di frontiera tramite un’API. Oggi questa convinzione sta venendo meno. I modelli con pesi aperti sono diventati abbastanza validi per molte attività quotidiane e, di solito, ciò che rende preziosa un’applicazione di IA aziendale sono i dati dell’azienda stessa, non il modello che la alimenta. Una volta compreso questo, tenere il modello vicino ai propri dati e sotto il proprio controllo è semplicemente una scelta di buon senso.

È questo che si intende per IA privata. Si esegue il modello nel proprio ambiente, lo si adatta ai propri dati e si decide dove opera e a quali risorse può accedere. Se si è una banca o un’azienda farmaceutica, non ci si sarebbe mai sentiti a proprio agio nel mettere ricerche proprietarie o dati dei clienti nell’ambiente di un’altra azienda. Per tutte le altre imprese, la spinta viene dai costi dell’inferenza su larga scala e dalla volontà di non dipendere da un unico fornitore per qualcosa che sta diventando essenziale per il funzionamento dell’azienda. Secondo una ricerca della Linux Foundation, il 63% delle aziende intervistate utilizzava un modello di IA aperto, a dimostrazione di quanto queste alternative siano già ampiamente adottate.

Un aspetto che molti sottovalutano è che, quando si porta il modello all’interno dell’azienda, con esso arriva anche l’infrastruttura necessaria: energia, raffreddamento, capacità di calcolo, sede e connessione con tutto il resto. Prima erano problemi del fornitore cloud. Ora sono problemi vostri. La maggior parte delle aziende non ha mai dovuto prendere decisioni di questo tipo e la tecnologia cambia più rapidamente di quanto si riesca a gettare il cemento. Se si dimensiona male l’infrastruttura, ci si ritrova con una capacità inadatta ai carichi di lavoro che poi si dovranno gestire. La flessibilità va prevista fin dall’inizio. Adeguare le infrastrutture esistenti, quando possibile, può essere costoso; alcuni fornitori, inoltre, non possono semplicemente farlo, perché le loro strutture non sono mai state progettate per una densità di questo tipo.

Costruire la capacità di base, noleggiare quella per i picchi

Per cominciare, bisogna riconoscere che non serve il modello più grande per ogni attività. Riassumere documenti, classificare ticket e rispondere a domande usando la propria base di conoscenze sono tutte attività che un modello con pesi aperti può svolgere in privato, a un costo prevedibile. Riservate i modelli di frontiera alle attività che ne hanno davvero bisogno.

Questo indica quale forma dovrebbe avere l’infrastruttura. Create una capacità privata per soddisfare la domanda costante che sapete di dover affrontare ogni settimana. Per i picchi e per le attività più impegnative, che superano la capacità disponibile, ricorrete a risorse esterne a noleggio. Da tempo le aziende gestiscono così le risorse di calcolo e l’IA non cambia questa logica: aumenta semplicemente la densità della capacità di base e amplia l’escursione dei picchi.

La difficoltà sta nel dimensionare con precisione la capacità di base e, al tempo stesso, fare in modo che l’ambiente privato e quello a noleggio funzionino come un unico sistema. Entrambi devono poter accedere agli stessi dati e operare secondo gli stessi controlli, senza costringere le aziende a ricostruire la pipeline ogni volta che un carico di lavoro passa da un ambiente all’altro.

Dove collocare l’infrastruttura?

Si scopre che acquistare le GPU è la decisione più semplice. Poi bisogna collocarle da qualche parte, alimentarle, raffreddarle e collegarle al resto dell’infrastruttura aziendale. L’hardware per l’IA ad alta densità non può essere inserito in un normale centro dati aziendale senza modifiche significative ai sistemi di alimentazione e raffreddamento, e non è adatto a tutte le sedi operative. Nell’indagine 2025 di Uptime Institute sull’infrastruttura per l’IA, il 37% degli intervistati ha indicato la disponibilità di energia come uno dei principali fattori che determinano dove eseguire i carichi di lavoro di inferenza dell’IA.

La maggior parte delle aziende opta per una combinazione di colocation e cloud. A determinare la scelta, di solito, sono i dati: sono già distribuiti in più luoghi, spostarli è costoso e, nei settori regolamentati, alcuni non possono lasciare un determinato Paese o ambiente. Riunire tutto in un unico edificio accanto alle GPU sembra una soluzione semplice, ma quasi mai si realizza.

La questione, quindi, non è soltanto dove si trovano le risorse di calcolo. È capire come farle accedere ai dati necessari in modo sicuro, senza accumulare costi e complessità di cui ci si pentirà fra tre anni. Consideratela la terza grande svolta. La prima è stata Internet, e la connettività ha risolto il problema. La seconda è stata il cloud, e il fabric ha fornito la soluzione, consentendo un’interconnessione definita dal software che permetteva alle aziende di collegarsi a diversi fornitori da un’unica sede. La terza è l’IA, e il fabric da solo non basta. Serve energia, in grande quantità, nello stesso luogo in cui si trova il fabric. Le aziende che sapranno gestire bene l’IA privata saranno quelle che collocheranno le risorse di calcolo dove si incontrano energia e connettività, anziché gestirle con due processi di approvvigionamento separati.

Connettere l’IA privata mentre cambiano i carichi di lavoro

L’IA agentica rende più urgente la questione della connettività. Un’applicazione tradizionale riceve un prompt, chiama un modello e restituisce una risposta. Un agente, invece, è in movimento per tutto il tempo: chiama diversi modelli, interroga più sistemi, recupera dati ovunque si trovino e passa il lavoro ad altri agenti. Ognuno di questi passaggi attraversa un confine, introduce latenza e solleva la questione di chi sia autorizzato ad accedere a cosa.

Ora immaginiamo che il modello si trovi in un luogo e i dati in un altro, con la regola che una parte di quei dati debba restare entro i confini di un determinato Paese o in un ambiente privato. Le aziende hanno bisogno di un controllo effettivo su questi percorsi: quali sistemi possono accedere a quali dati, cosa succede quando un carico di lavoro viene spostato e come integrare un nuovo modello senza interferire con tutto ciò che è già in funzione.

Ecco perché l’infrastruttura deve essere programmabile. I collegamenti tra modelli, dati e ambienti dovrebbero poter essere configurati e modificati, senza trasformare ogni volta l’intervento in un progetto di ingegneria. Sempre più spesso, a occuparsi della configurazione non sarà una persona. Standard come il Model Context Protocol, o MCP, offrono a un agente un modo condiviso per comunicare con gli strumenti e i sistemi che lo circondano. Un agente che ha bisogno di collegarsi a una nuova fonte di dati o a un nuovo modello potrebbe richiedere la connessione, proprio come richiederebbe qualsiasi altro servizio, mantenendo in vigore le politiche e i controlli appropriati. In pratica, è questo che significa avere un’infrastruttura programmabile. Ogni pochi mesi arrivano nuovi modelli. Le nuove applicazioni avranno bisogno di percorsi che oggi non esistono. Se ogni modifica richiede di ricostruire tutto, si perde proprio la flessibilità che si cercava scegliendo un ambiente privato.

Rendere sostenibile il modello economico

Dimensionare correttamente la capacità è un fattore critico per il successo, e non conta soltanto la quantità complessiva. Le aziende che gestiscono bene questo aspetto comprendono chiaramente il rapporto tra la potenza impiegata e i token generati. Il rapporto tra potenza e token è l’unità di misura economica dell’IA privata; se lo si conosce per i propri carichi di lavoro, si può dimensionare l’ambiente con piena sicurezza. L’altro elemento è il margine di capacità. Ogni trimestre arrivano sul mercato nuove funzionalità e le aziende che pianificano con attenzione lasciano sempre spazio a ciò che verrà, invece di dimensionare l’infrastruttura al limite esatto delle esigenze attuali. Il piano migliore combina questi due aspetti. Conoscete a fondo il rapporto tra potenza e token dei vostri carichi di lavoro, quindi prevedete un margine ragionevole al di sopra del fabbisogno.

E le GPU sono solo una parte dei costi. Ospitarle, raffreddarle, alimentarle e collegarle al resto dell’azienda può costare quanto l’hardware stesso. Poi c’è il personale. La maggior parte delle aziende non ha mai gestito un ambiente di calcolo ad alta densità, e non basta un trimestre per assumere personale con queste competenze.

Ecco perché sono importanti sia la capacità di base sia quella necessaria a coprire i picchi. Costruite una capacità privata sufficiente a gestire il carico normale e prendete a noleggio risorse aggiuntive quando la domanda la supera: così evitate di pagare hardware che rimane inattivo per gran parte dell’anno. Inoltre, mantenete la possibilità di cambiare rotta man mano che evolvono i modelli e le applicazioni, cosa che accadrà.

Pianificare ciò che verrà

Alla base di tutto c’è un problema di tempistiche. La costruzione di un centro dati richiede circa due anni. Nell’arco di due anni, i modelli, l’hardware e le applicazioni che le aziende vorranno utilizzare saranno molto diversi da quelli di oggi. Qualunque scelta facciate ora dovrà sostenere carichi di lavoro che nessuno è ancora in grado di descrivere del tutto.

Le aziende stanno ancora valutando quali carichi di lavoro debbano essere gestiti in un ambiente privato e quando serva ricorrere a capacità esterne, ed è una situazione del tutto ragionevole. L’importante è evitare di prendere impegni infrastrutturali che sottraggano loro questa decisione prima che abbiano avuto modo di valutarla. Lasciate spazio a modelli diversi, a una maggiore capacità quando serve e alla possibilità di spostare i carichi di lavoro.

Nel lungo periodo, il successo dell’IA privata dipenderà meno dal modello scelto e più dalla capacità dell’infrastruttura di stare al passo, man mano che i requisiti diventano più chiari. Progettate l’infrastruttura per i carichi di lavoro di oggi, mantenete programmabili i collegamenti e collocate la capacità di calcolo dove l’infrastruttura di rete incontra l’alimentazione elettrica.