Il ciclo di vita di un grande modello linguistico (LLM) comprende due fasi principali: l’addestramento, durante il quale il modello viene sviluppato, e l’inferenza, durante la quale viene messo a disposizione degli utenti.
Nvidia detiene un monopolio di fatto nel mercato dei chip per l’addestramento (GPU), sebbene stia iniziando a subire una certa concorrenza da parte dei fornitori cinesi.
Il panorama dei chip per l’inferenza è più aperto e competitivo, con diversi operatori dell’UE che stanno guadagnando terreno e numerose grandi aziende che sviluppano i propri chip.
L’addestramento richiede comunicazioni a bassissima latenza e ad alta larghezza di banda, il che significa che tutte le GPU devono trovarsi vicine tra loro, in genere all’interno dello stesso data center, poiché lavorano congiuntamente su un unico compito computazionale.
L’inferenza è più tollerante alla latenza e può quindi essere distribuita su più sedi. Infatti, le prestazioni possono migliorare quando gli utenti sono serviti da risorse di calcolo situate più vicino a loro.
Già oggi, poco più della metà dei chip installati è dedicata all’inferenza.
Nei prossimi tre-cinque anni, grazie alle innovazioni algoritmiche e hardware (anche grazie alle startup europee), i chip di inferenza aumenteranno le loro prestazioni fino a tre ordini di grandezza a parità di consumo energetico, riducendo sostanzialmente l’energia richiesta per utente.
Gli Stati Uniti perseguono un modello integrato verticalmente, incentrato su laboratori di IA all’avanguardia che coprono l’intera catena del valore, dalla ricerca e dallo sviluppo dei modelli alla loro implementazione e fornitura come servizio. Questo modello si basa necessariamente su data center su larga scala per lo sviluppo dei modelli e, una volta che tale infrastruttura è operativa, ne favorisce l’utilizzo anche per l’inferenza.
La Cina persegue un modello meno integrato verticalmente, con alcuni laboratori incentrati sulla ricerca e altri che rilasciano modelli open weight, spesso a titolo gratuito, che possono poi essere implementati da un’ampia gamma di attori, tra cui fornitori di servizi di terze parti, clienti finali e, in alcuni casi, persino gli stessi laboratori. Nella catena del valore, il modello stesso sta diventando un input standardizzato. Non è un caso. Fa parte della strategia di politica industriale cinese applicata ai settori del futuro. I fornitori di modelli, quindi, non devono necessariamente possedere un’infrastruttura dedicata di data center: parte di questa capacità viene sviluppata dallo Stato, mentre i clienti finali possono anche eseguire i modelli sui propri server.
Riassumendo per quanto riguarda l’inferenza (fornitura al cliente finale):
- Nel modello di mercato statunitense, i laboratori all’avanguardia forniscono modelli proprietari come servizio
- Nel modello di mercato cinese, i fornitori di servizi offrono come servizio modelli open weight, sempre più con il supporto di un’infrastruttura pubblica, a costi molto inferiori rispetto agli Stati Uniti
- Da un punto di vista tecnico, l’inferenza può essere distribuita (non sono necessari data center colossali), i modelli stanno diventando prodotti di largo consumo, i chip sono competitivi e l’energia rappresenta il principale costo operativo.
Esiste una certa analogia con quanto accaduto con la posta elettronica: ogni azienda può gestire il proprio server, ma si tratta di un’operazione relativamente complessa e il servizio viene spesso acquistato rivolgendosi a fornitori di servizi. Il personale competente presso le aziende clienti rappresenta il vero collo di bottiglia.
Il divario di prestazioni tra i modelli all’avanguardia dei laboratori statunitensi e quelli cinesi open weight si sta rapidamente riducendo e i due tipi di modelli stanno convergendo asintoticamente. L’UE ha giustamente avviato un’iniziativa per sviluppare un modello open weight realizzato nell’Unione, e altre iniziative simili sono state avviate dagli Stati membri.
L’Europa potrebbe puntare a favorire la crescita dei fornitori di servizi di inferenza (in gran parte privi di data center) mettendo a disposizione delle aziende clienti dei «nodi di inferenza», collegati a una rete a banda larga e ultralarga, gestiti da remoto (con la gestione sia dei carichi computazionali che di quelli elettrici, sfruttando anche i bassi costi dell’energia rinnovabile durante le ore diurne – quando i modelli vengono utilizzati) e basati su modelli open source europei.
Questi nodi potrebbero garantire il servizio alle aziende clienti e, grazie alla loro capacità computazionale in eccesso, anche a terzi. Un approccio simile consente alle aziende clienti di mitigare i rischi informatici relativi al trattamento dei dati personali e alla proprietà intellettuale, che sono invece strutturali nei grandi modelli forniti centralmente secondo il modello statunitense, oppure i rischi di fiducia, anch’essi strutturali, associati ai modelli open weight cinesi. A tal fine è necessario integrare alcuni software di gestione (una sorta di AI-OSS), anch’essi prodotti da varie startup europee.
L’energia rappresenta circa il 50–70% dell’OPEX (il 60–70% è una stima realistica per cluster di GPU molto densi). In Europa, l’attività di questi fornitori potrebbe essere sostenuta indirettamente, tra le altre misure, garantendo agli operatori di inferenza distribuita condizioni simili a quelle delle aziende ad alto consumo energetico. Le grandi industrie ad alto consumo energetico (consumo superiore a 70–150 GWh/anno) pagano in genere un prezzo finale dell’energia elettrica solo leggermente superiore al prezzo all’ingrosso, poiché molte tariffe regolamentate sono ridotte o esentate.
Inoltre, con questo modello, si sfruttano gli investimenti immobiliari già sostenuti dalle aziende clienti, ottenendo così un ulteriore vantaggio in termini di base di costo, dell’ordine di grandezza dell’incidenza dei costi non informatici sui data center.
I fornitori di servizi di inferenza AI destinati agli utenti dell’UE dovrebbero altresì essere tenuti a garantire l’adozione di pratiche volte a mitigare l’impatto ambientale (controllo delle emissioni, piani di decarbonizzazione, riduzione delle emissioni che alterano il clima, uso efficiente di energia, acqua e materie prime, misure compensative).
Stefano Quintarelli, Presidente Copernicani



Articoli recenti
Copernicani è ora anche su Instagram. Ecco dove seguirci
Il nuovo profilo si aggiunge ai canali della nostra Associazione. Qui potete trovare tutti i [...]
Nov
Copernicani al POLIMI – Martedì 17 novembre ore 18:30 – Guerra intelligenziata: come l’AI modifica i conflitti armati
La tecnologia sta portando l’automazione delle operazioni di guerra e il funzionamento dei sistemi d’arma [...]
Nov
Una prospettiva per LLM in Europa
Perché l’inferenza dei modelli linguistici può essere distribuita in Europa: nodi decentralizzati, energia rinnovabile e [...]
Nov
Problematiche introdotte dalle procedure previste per il voto fuori sede dalla legge elettorale (Atto Camera 2822-B)
Il presente documento è stato redatto da un gruppo di lavoro ad hoc dell’Associazione Copernicani [...]
Ott
Martedì 6 ottobre ore 18:30 – Visioni dal futuro. Copernicani al Polimi – “Lavoro, giovani e AI”
La Gen Z è tra le più avanzate nell’adozione dell’intelligenza artificiale ma è anche quella [...]
Set
Martedì 9 giugno ore 18:30 – Visioni dal futuro. Copernicani al Polimi – “Il futuro della conoscenza”
Nuovo appuntamento “Il futuro della conoscenza” del ciclo di incontri intitolato “Visioni dal futuro”. E [...]
Mag
Sottoscritto il Manifesto Menomanels. Copernicani ETS è la prima associazione nazionale a aderire.
Nel panorama politico, sociale e culturale contemporaneo, la predominanza maschile tra gli speaker degli eventi [...]
Apr
Giovedì 2 aprile ore 21:00 – La sfida industriale e realizzativa della Sovranità digitale
Un dialogo copernicano con l’economista Cristina Caffarra e l’esperto di policy EU Innocenza Genna. Il [...]
Mar
Voto via internet: la democrazia non è un atto di fede
Il 16 gennaio 2026 segna un punto di svolta nel dibattito globale sulla sicurezza elettorale. [...]
Gen