I token dell'AI diventano sempre più economici, ma la memoria diventa sempre più costosa. I costi dell'inferenza sono diminuiti di 280 volte in soli due anni; nonostante ciò, la spesa delle imprese per l'AI è triplicata e i prezzi contrattuali della DRAM hanno appena registrato un aumento record del 90-95% in un solo trimestre. William Stanley Jevons aveva già osservato questo fenomeno nel 1865 con il carbone. Uno sguardo a ciò che riequilibrerà davvero il mercato dei chip e al motivo per cui la risposta sono le nuove fabbriche di semiconduttori previste per la fine del 2027, non modelli più intelligenti o ASIC.

buysellram.com/blog/cheaper-to…

#AI #Semiconduttori #DRAM #CarenzaDiMemoria #DataCenter #HBM #GPU #SSD #ITAD #BuySellRam #ParadossoDiJevons #Hardware #Tecnologia

Ti sei mai chiesto come i modelli di intelligenza artificiale trasferiscono i dati alla GPU? Questo articolo spiega in modo semplice i diversi livelli di memoria all'interno di un server AI, perché la memoria della GPU è diventata un collo di bottiglia e quali nuove tecnologie potrebbero migliorare le prestazioni dell'intelligenza artificiale.

buysellram.com/blog/inside-the…

#HBM #HBM4 #GPUMemory #AIInfrastructure #DataCenter #CXL #HighBandwidthFlash #AIHardware #MemoryHierarchy #AIInference #NVMe #ITAD

La Corea del Sud ha appena annunciato **550 miliardi di dollari** di nuovi investimenti negli impianti di produzione di memoria da parte di Samsung e SK Hynix, all'interno di un piano di investimenti aziendali molto più ampio da **3.100 miliardi di dollari**. La maggior parte della nuova capacità produttiva sarà dedicata a **DRAM per server** e **HBM**, piuttosto che alla memoria tradizionale utilizzata nei normali PC e server.

Secondo le previsioni del settore, un reale miglioramento dell'offerta difficilmente arriverà prima della fine del **2027**, mentre alcuni analisti iniziano già a segnalare un possibile rischio di eccesso di offerta negli anni successivi.

Scopri tutti i dettagli:
buysellram.com/blog/will-samsu…

#DRAM #Semiconduttori #MemoryShortage #SKHynix #Samsung #Micron #HBM #SupplyChain #DataCenter #ITAD #CXMT #AIInfrastructure

Running AI in production? A lot of the bill is memory. Every token a model generates is served from fast memory next to the GPU — and that memory, HBM, is scarce and expensive.
High Bandwidth Flash (HBF) is built to attack that cost: much of HBM's bandwidth at a fraction of the price per GB. A new explainer covers what HBF is, how it could lower inference costs, and how close it actually is.

How HBF could make AI inference cheaper

#HBF #HighBandwidthFlash #AIinference #HBM #AImemory #GPU #DataCenter #Semiconductors #NAND #SKhynix #SanDisk #MemoryWall

The AI boom is starting to impact everyday consumers. Apple warns that soaring memory costs, fueled by massive AI data center investments, could eventually lead to higher prices for future devices.

bbc.com/news/articles/c3wyxvqd…

#Apple #iPhone #AI #Memory #DRAM #HBM #Semiconductor #DataCenter #AIInfrastructure #TechNews #ConsumerElectronics #SupplyChain

AMD's newest acquisition isn't a chip maker. It's MEXT, whose software makes NAND flash look like DRAM to the operating system, so a server runs on far less expensive memory. An AI engine predicts which data is about to be needed and moves it into DRAM before the app asks. With DRAM prices up sharply in 2026, here's the logic behind the deal, and why a 50x cost gap won't land in your budget intact.

buysellram.com/blog/amd-mext-f…

#AMD #MEXT #DRAM #NANDFlash #MemoryTiering #AIInfrastructure #DataCenter #ServerHardware #SSD #ITAD #Semiconductors #HBM