Con la continua espansione delle applicazioni di intelligenza artificiale (AI), anche i costi operativi dei data center sono in aumento. Secondo il Wall Street Journal, alcuni data center negli Stati Uniti sono stati costretti ad aumentare i prezzi per i propri clienti per far fronte alle spese aggiuntive causate dall'IA. Nel frattempo, i dati indicano che la domanda di data center su larga scala e data center in hosting è in rapido aumento, mentre la domanda di capacità per i data center costruiti a livello aziendale è relativamente in calo.
I data center affrontano pressioni sui costi non solo a causa del consumo energetico, ma anche della capacità di elaborazione, dei chip avanzati, delle sfide della supply chain e della tecnologia AI. Il Wall Street Journal riporta: "Le applicazioni di intelligenza artificiale consumano più energia del software tradizionale perché devono elaborare più dati. In pochi giorni, un singolo modello di intelligenza artificiale può consumare decine di migliaia di chilowattora di elettricità. I modelli di intelligenza artificiale generativa, come la tecnologia utilizzata nel chatbot ChatGPT di OpenAI, consuma 100 volte di più rispetto agli strumenti di intelligenza artificiale standard." Inoltre, i costi di costruzione, manodopera e servizi pubblici sono in continuo aumento.
All'aumento dei costi dei data center corrisponde la rapida espansione del mercato dei servizi cloud. Secondo i dati di Synergy Research Group, la spesa aziendale per i servizi cloud è cresciuta a un tasso annuo di circa il 42% nell'ultimo decennio, passando da $ 10 miliardi nel 2012 a $ 227 miliardi nel 2022. Al contrario, la spesa per hardware e software per data center da parte delle imprese è cresciuto solo del 2% circa all'anno.
Synergy Research Group fornisce anche dati di distribuzione sull'utilizzo della capacità del data center globale. Nel 2022, i data center su larga scala rappresentavano il 37% della capacità totale dei data center globali, rispetto a solo il 17% nel 2017. I data center su larga scala si riferiscono a quelle strutture di grandi dimensioni gestite o affittate da giganti dei servizi cloud come Amazon, Microsoft, e Google. La metà di questi sono data center di proprietà e l'altra metà sono data center in affitto. Le strutture ospitate non di grandi dimensioni rappresentano il 23 percento della quota. Nel frattempo, i data center costruiti dalle imprese detenevano una quota del 40% nel 2022, un calo significativo rispetto al 60% nel 2017.
Synergy Research Group prevede che nei prossimi cinque anni, "mentre la percentuale di data center costruiti dalle imprese nella capacità totale diminuirà di oltre due punti percentuali ogni anno, la loro capacità effettiva diminuirà solo leggermente. La percentuale di strutture ospitate in totale la capacità rimarrà relativamente stabile." La società prevede inoltre che entro il 2027 i data center su larga scala rappresenteranno oltre il 50% della quota di capacità, mentre i data center costruiti dalle imprese scenderanno a meno del 30%.