Perkuat Infrastruktur AI, Mark Zuckerberg Berencana Borong 350 Ribu GPU Nvidia H100
JAKARTA, iNews.id - CEO Meta Mark Zuckerberg berencana memborong 350.000 GPU Nvidia H100. Ini dalam rangka memperkuat infrastruktur artificial intelligence (AI).
Investasi besar-besaran akan berlangsung pada akhir 2024. Langkah ini, kata Zuckerberg, mengintensifkan upaya AI sumber terbuka yang mampu mendukung segala hal. Mulai dari produktivitas, pengembangan hingga teknologi yang dapat dikenakan dan asisten yang didukung AI.
Investasi infrastruktur AI Meta dikatakan diperlukan demi membangun kecerdasan umum buatan (AGI) yang mampu memberikan penalaran, perencanaan, pengkodean, dan kemampuan lainnya kepada peneliti, pencipta, dan konsumen di seluruh dunia.
CEO Meta bermaksud secara bertanggung jawab mengembangkan model AI baru sebagai produk sumber terbuka, memastikan tingkat ketersediaan tertinggi bagi pengguna dan organisasi dari semua ukuran, sebagaimana dikutip dari TechSpot.
Tingginya permintaan terhadap H100 telah menyebabkan waktu tunggu yang lama, sehingga membuat beberapa perusahaan menunggu di belakang pesaing mereka.
Omdia melaporkan, waktu tunggu pemesanan Nvidia H100 berkisar antara 36 hingga 52 bulan karena meningkatnya permintaan. Peningkatan daya komputasi dan kecepatan pemrosesan merupakan pendorong terbesar bagi Meta dan perusahaan lain yang ingin mendapatkan sumber daya AI.
Menurut Nvidia, H100 dengan InfiniBand Interconnect hingga 30 kali lebih cepat dibandingkan Nvidia A100 pada model AI mainstream dan komputasi kinerja tinggi (HPC). Unit ini juga memiliki kecepatan pemrosesan IEEE FP64 dan FP32 tiga kali lipat jika dibandingkan dengan A100 sebelumnya.
Peningkatan disebabkan oleh kinerja clock-for-clock per streaming multiprocessor (SM), jumlah SM tambahan, dan kecepatan clock yang lebih tinggi. Dengan harga 30.000 dolar AS atau setara Rp 450 jutaan per GPU, investasi pada H100 tentu bukanlah langkah main-main.
Editor: Dini Listiyani