Micron saat ini tidak diunggulkan dalam pasar memori bandwidth tinggi, namun tampaknya segalanya berubah dengan cepat ketika perusahaan mengatakan bahwa pasokan memori HBM3E telah terjual habis pada tahun 2024 dan dialokasikan untuk sebagian besar tahun 2025. Untuk saat ini, Micron telah mengatakan bahwa HBM3E-nya akan muncul di GPU H200 Nvidia untuk kecerdasan buatan dan komputasi kinerja tinggi, jadi sepertinya Micron siap untuk meraih pangsa pasar HBM yang cukup besar.
“HBM kami telah terjual habis pada kalender 2024, dan sebagian besar pasokan kami pada tahun 2025 telah dialokasikan,” kata Sanjay Mehrotra, kepala eksekutif Micron, dalam sambutannya untuk laporan pendapatan perusahaan minggu ini. “Kami terus mengharapkan pembagian bit HBM setara dengan keseluruhan pembagian bit DRAM kami pada kalender tahun 2025.”
Tumpukan HBM3E awal Micron adalah modul 24 GB 8Hi yang menampilkan kecepatan transfer data 9,2 GT/dtk dan bandwidth memori puncak lebih dari 1,2 TB/dtk per perangkat. Enam dari tumpukan ini akan digunakan untuk GPU Nvidia H200 untuk AI dan HPC untuk mengaktifkan total memori bandwidth tinggi sebesar 141 GB. Karena Micron adalah perusahaan pertama yang memulai pengiriman HBM3E secara komersial, Micron akan menjual banyak paket HBM3E-nya.
“Kami berada di jalur yang tepat untuk menghasilkan pendapatan beberapa ratus juta dolar dari HBM pada tahun fiskal 2024 dan memperkirakan pendapatan HBM akan meningkat terhadap DRAM kami dan margin kotor keseluruhan mulai pada kuartal ketiga fiskal,” kata Mehrotra.
Kepala Micron mengatakan bahwa mereka telah mulai mengambil sampel kubus HBM3E 12-Hi, yang meningkatkan kapasitas memori sebesar 50% dan oleh karena itu memungkinkan pelatihan AI untuk model bahasa yang lebih besar. Kubus HBM3E 36 GB ini akan digunakan untuk prosesor AI generasi berikutnya dan produksinya akan meningkat pada tahun 2025.
Karena pembuatan HBM melibatkan produksi DRAM khusus, peningkatan HBM akan sangat memengaruhi kemampuan Micron dalam membuat IC DRAM untuk aplikasi umum.
“Peningkatan produksi HBM akan menghambat pertumbuhan pasokan produk non-HBM,” kata Mehrotra. “Di seluruh industri, HBM3E mengonsumsi sekitar tiga kali lipat pasokan wafer dibandingkan DDR5 untuk menghasilkan sejumlah bit tertentu dalam node teknologi yang sama.”