Memori HBM3E dengan kecepatan transfer data sebesar 9,6 GT/s melalui antarmuka 1024-bit baru saja mencapai produksi massal, namun tuntutan industri kecerdasan buatan (AI) dan komputasi kinerja tinggi (HPC) berkembang pesat, sehingga memori HBM4 dengan antarmuka 2048-bit tinggal sekitar dua tahun lagi. Wakil presiden SK Hynix baru-baru ini mengatakan bahwa perusahaannya berada di jalur yang tepat untuk memproduksi HBM4 secara massal pada tahun 2026, lapor Business Korea.
“Dengan munculnya era komputasi AI, AI generatif berkembang pesat,” kata Chun-hwan Kim, wakil presiden SK hynix, di SEMICON Korea 2024. “Pasar AI generatif diperkirakan akan tumbuh pada tingkat tahunan sebesar 35 %.”
Pesatnya pertumbuhan pasar AI generatif memerlukan prosesor berkinerja lebih tinggi, yang pada gilirannya memerlukan bandwidth memori lebih tinggi. Akibatnya, HBM4 diperlukan untuk meningkatkan throughput DRAM secara radikal. SK Hynix berharap untuk mulai membuat HBM generasi berikutnya pada tahun 2026, yang berarti akhir tahun 2025. Hal ini menguatkan rencana Micron untuk menyediakan HBM4 pada awal tahun 2026.
Dengan kecepatan transfer data 9,6 GT/s, satu tumpukan memori HBM3E dapat menawarkan bandwidth puncak teoritis sebesar 1,2 TB/s, yang berarti bandwidth sebesar 7,2 TB/s untuk subsistem memori yang terdiri dari enam tumpukan. Namun, bandwidth tersebut masih bersifat teoritis. Misalnya, H200 Nvidia 'hanya' menawarkan hingga 4,8 TB/dtk dengan H200, mungkin karena masalah keandalan dan daya.
Menurut Micron, HBM4 akan menggunakan antarmuka 2048-bit untuk meningkatkan bandwidth memori puncak teoritis per tumpukan hingga lebih dari 1,5 TB/s. Untuk mencapainya, HBM4 perlu menampilkan kecepatan transfer data sekitar 6 GT/s, yang akan memungkinkan konsumsi daya DRAM generasi berikutnya tetap terkendali. Sementara itu, antarmuka memori 2048-bit akan memerlukan perutean yang sangat canggih pada interposer atau hanya menempatkan tumpukan HBM4 di atas sebuah chip. Dalam kedua kasus tersebut, HBM4 akan lebih mahal daripada HBM3 dan HBM3E.
Sentimen SK Hynix mengenai HBM4 tampaknya juga dimiliki oleh Samsung, yang menyatakan pihaknya berada di jalur yang tepat untuk memproduksi HBM4 pada tahun 2026. Menariknya, Samsung juga mengembangkan solusi memori HBM yang disesuaikan untuk klien terpilih.
“HBM4 sedang dalam pengembangan dengan pengambilan sampel pada tahun 2025 dan jadwal produksi massal pada tahun 2026,” kata Jaejune Kim, Wakil Presiden Eksekutif, Memory, di Samsung, pada panggilan pendapatan terbaru dengan analis dan investor (melalui SeekingAlpha). “Permintaan untuk HBM yang disesuaikan juga semakin meningkat, didorong oleh AI generatif sehingga kami juga mengembangkan tidak hanya produk standar, namun juga HBM khusus yang mengoptimalkan kinerja untuk setiap pelanggan dengan menambahkan chip logika. Spesifikasi terperinci sedang dibahas dengan key pelanggan.”