Nvidia pada hari Kamis menerbitkan sebuah video yang memberikan gambaran sekilas kepada publik tentang arsitektur Eos, superkomputer terbarunya yang berorientasi perusahaan yang dirancang untuk pengembangan AI tingkat lanjut pada skala pusat data, dan superkomputer AI tercepat milik perusahaan.
Mesin Eos, yang saat ini digunakan oleh Nvidia sendiri, menduduki peringkat superkomputer dengan performa tertinggi No. 9 di dunia dalam daftar Top 500 terbaru, yang diukur dalam FP64; dalam tugas AI murni, ini mungkin yang tercepat. Sementara itu, cetak birunya juga dapat digunakan untuk membangun superkomputer berorientasi perusahaan untuk perusahaan lain.
“Setiap hari EOS bangkit untuk memenuhi tantangan ribuan pengembang internal Nvidia yang melakukan penelitian AI, membantu mereka memecahkan masalah yang sebelumnya tidak dapat dipecahkan,” kata Nvidia dalam video tersebut.
Eos Nvidia dilengkapi dengan 576 sistem DGX H100, masing-masing berisi delapan GPU Nvidia H100 untuk beban kerja kecerdasan buatan (AI) dan komputasi kinerja tinggi (HPC). Secara total, sistem ini mengemas 1.152 prosesor Intel Xeon Platinum 8480C (dengan 56 core per CPU) serta 4.608 GPU H100, memungkinkan Eos mencapai kinerja Rmax 121,4 FP64 PetaFLOPS yang mengesankan serta kinerja 18,4 FP8 ExaFLOPS untuk HPC dan AI.
Desain Eos (yang mengandalkan arsitektur DGX SuperPOD) dibuat khusus untuk beban kerja AI serta skalabilitas, sehingga menggunakan Mellanox Quantum-2 InfiniBand milik Nvidia dengan teknologi In-Network Computing yang menghadirkan kecepatan transfer data hingga 400 Gb/ s, yang sangat penting untuk melatih model AI besar secara efektif serta memperluas skalanya.
Selain perangkat keras yang kuat, Eos Nvidia juga dilengkapi dengan perangkat lunak yang kuat, sekali lagi, dibuat khusus untuk pengembangan dan penerapan AI, kata perusahaan itu. Hasilnya, Eos Nvidia dapat menangani berbagai aplikasi, mulai dari AI generatif seperti ChatGPT hingga pabrik AI.
“Eos memiliki tumpukan perangkat lunak terintegrasi yang mencakup perangkat lunak pengembangan dan penerapan AI, [including] orkestrasi dan manajemen klaster, penyimpanan komputasi dan perpustakaan jaringan yang dipercepat, dan sistem operasi yang dioptimalkan untuk beban kerja AI,” kata Nvidia dalam video tersebut. “Eos – dibangun berdasarkan pengetahuan yang diperoleh dari superkomputer Nvidia DGX sebelumnya seperti Saturn 5 dan Selene – adalah yang terbaik contoh terbaru dari keahlian Nvidia AI dalam beraksi. […] Dengan mendirikan pabrik AI seperti Eos, perusahaan dapat mengerjakan proyek-proyek mereka yang paling menuntut dan mencapai aspirasi AI mereka saat ini dan di masa depan.”
Kami tidak tahu berapa biaya Eos, dan tidak ada salahnya jika harga sistem DGX H100 Nvidia bersifat rahasia dan bergantung pada banyak faktor, seperti volume. Sementara itu, mengingat fakta bahwa setiap Nvidia H100 dapat berharga $30.000 — $40.000 tergantung volumenya, maka orang dapat mulai memikirkan seberapa tinggi angka yang kita dapatkan di sini.