Didorong oleh tingginya permintaan akan server AI, memori bandwidth tinggi (HBM) mengalami pertumbuhan pesat. Micron dan SK Hynix secara resmi mengatakan bahwa pasokan HBM mereka terjual habis untuk tahun 2024 dan sebagian besar tahun 2025. Akibatnya, harga memori HBM diperkirakan akan meningkat sebesar 5% hingga 10% tahun depan, menurut analis dari TrendForce. Selain itu, harga DRAM jenis lain kemungkinan juga akan meningkat, dengan DDR5 diperkirakan akan meningkat sebesar 15% hingga 20% karena produsen memori mengalihkan prioritas ke produksi HBM.
HBM jauh lebih mahal dibandingkan tipe DRAM standar, harganya sekitar lima kali lebih mahal dibandingkan DDR5. Biaya yang lebih tinggi ini dibenarkan oleh keunggulan kinerja dan kapasitas substansial yang dimiliki HBM dibandingkan DRAM komoditas. Membangun perangkat dan tumpukan memori HBM juga jauh lebih sulit dibandingkan IC dan modul DDR tradisional. Pembuat memori harus mencurahkan lebih banyak kapasitas produksi untuk HBM, sehingga mengurangi kapasitas yang tersedia untuk jenis memori lain, yang tentu saja akan menaikkan harga DRAM.
TrendForce baru-baru ini menyesuaikan perkiraannya untuk harga kontrak DRAM server kuartal kedua. Perusahaan riset pasar tersebut awalnya memperkirakan harga DRAM akan meningkat sebesar 3% hingga 8%, namun kini memproyeksikan kenaikan sebesar 15% hingga 20%. Pembaruan ini mewakili pertumbuhan persentase dua digit harga DRAM pada kuartal ketiga berturut-turut, mulai dari Q4 2023. Pada bulan April saja, harga DRAM server di semua kategori naik sebesar 9% menjadi 19%.
Dari perspektif pangsa pasar, porsi HBM terhadap total kapasitas bit DRAM ditetapkan untuk peningkatan pesat. Diperkirakan akan tumbuh dari hanya 2% pada tahun 2023 menjadi 5% pada tahun 2024, dan pada akhirnya melebihi 10% pada akhir tahun 2025. Perluasan ini mencerminkan meningkatnya permintaan terhadap subsistem memori akibat aplikasi AI yang mutakhir. Hasilnya, kontribusi HBM terhadap total pasar DRAM diperkirakan akan tumbuh pesat, berpotensi mendominasi lebih dari 30% nilai pasar pada tahun 2025.
Diskusi mengenai harga HBM untuk tahun 2025 dimulai pada kuartal kedua tahun 2024, didorong oleh terbatasnya kapasitas DRAM secara keseluruhan. Keterbatasan ini menyebabkan kenaikan harga awal antara 5% dan 10%. Penyesuaian ini mencerminkan ekspektasi pasar akan tingginya permintaan AI meskipun hasil produksi TSV HBM3e saat ini hanya berkisar antara 40% dan 60%.
Ke depan, penyedia solusi AI besar akan fokus pada peningkatan kinerja dan kapasitas HBM, khususnya adopsi HBM3E dan peningkatan penggunaan produk tumpukan 12-Hi. Perkiraan TrendForce menunjukkan bahwa permintaan HBM akan hampir mencapai tingkat pertumbuhan 200% pada tahun 2024 dan diperkirakan akan meningkat dua kali lipat pada tahun 2025.