RAM e GPU: perché il computer che volevi costa il doppio

Chi ha provato a configurare un computer nuovo negli ultimi mesi se n'è accorto senza bisogno di leggere un report: la stessa macchina che un anno fa stava dentro un preventivo ragionevole oggi costa molto di più, e la colpa non è del processore. È della memoria e della scheda grafica.

Non è una speculazione passeggera dei rivenditori. È il risultato di una domanda industriale che ha cambiato scala: le aziende che costruiscono infrastrutture per l'intelligenza artificiale comprano memoria e acceleratori in quantità che il mercato consumer non aveva mai dovuto affrontare.

Cosa è successo alla memoria

Un modello linguistico, quando gira, non fa altro che spostare numeri dentro la memoria a una velocità enorme. Non basta averne tanta, deve essere anche veloce. Per questo i produttori hanno spostato buona parte delle linee produttive verso la memoria ad alta banda destinata agli acceleratori, quella montata direttamente accanto al chip.

Ogni fabbrica che converte una linea alla memoria per data center è una linea che smette di produrre moduli per computer normali. La capacità produttiva non si crea in un trimestre: un impianto nuovo richiede anni e miliardi. Nel frattempo l'offerta per il mercato di tutti i giorni si restringe, e il prezzo fa quello che fa sempre quando l'offerta si restringe.

Cosa è successo alle schede grafiche

La GPU è nata per disegnare triangoli sullo schermo. Si è scoperto che la stessa architettura, migliaia di piccole unità di calcolo che lavorano in parallelo, è esattamente quello che serve per addestrare e far girare le reti neurali. Da lì il gioco è cambiato.

Chi costruisce acceleratori oggi vende a chi costruisce data center, non a chi gioca. Le stesse fonderie, gli stessi processi produttivi avanzati, la stessa memoria ad alta banda: tutta la filiera è contesa. La scheda per il PC di casa e l'acceleratore da rack litigano per lo stesso posto in fabbrica, e a vincere è quello che genera più margine.

Perché riguarda anche chi non compra hardware

Sembra un problema di appassionati. Non lo è. Il costo dell'hardware si scarica a valle su tutto quello che ci gira sopra.

• I server costano di più, quindi l'hosting e i servizi cloud aggiustano i listini.
• Le chiamate ai modelli AI hanno un costo per token che riflette il prezzo del calcolo.
• Un software scritto male, che spreca memoria o fa il triplo delle richieste necessarie, oggi ha un conto salato che prima si nascondeva nel rumore.
• I tempi di consegna delle macchine si allungano, e un progetto che dipende da una fornitura hardware slitta.

L'efficienza è tornata a essere una voce di bilancio, non un vezzo tecnico.

Cosa facciamo noi, in pratica

Per come lavoriamo in Beezy la risposta è meno drammatica di quanto sembri, perché parte da una scelta fatta prima: i siti e le applicazioni che costruiamo girano su infrastruttura distribuita, servita dal nodo più vicino al visitatore, e non su una macchina fisica da comprare e sostituire.

• Codice essenziale: meno peso da spostare significa meno risorse consumate a ogni visita.
• Cache aggressiva: una pagina già calcolata non va ricalcolata per il visitatore successivo.
• Modelli AI scelti per compito: non serve il modello più grande per classificare un modulo di contatto.
• Automazioni che partono da un evento reale, non processi che girano a vuoto ogni cinque minuti.

Il punto non è inseguire il prezzo della memoria. Il punto è che quando il calcolo costa, la differenza tra un lavoro fatto bene e uno fatto in fretta smette di essere invisibile e diventa una riga sulla fattura mensile.

Cosa aspettarsi nei prossimi mesi

La capacità produttiva sta crescendo, ma con i tempi dell'industria dei semiconduttori, che sono lunghi. Nel frattempo la domanda per l'AI non dà segni di rallentare. Chi deve rinnovare macchine farebbe bene a pianificare invece di aspettare il momento buono, perché il momento buono non è dietro l'angolo.

Per tutto il resto vale una regola semplice: costruire leggero. È l'unica strategia che funziona indipendentemente da come si muove il mercato.