Omdia melaporkan, waktu tunggu pemesanan Nvidia H100 berkisar antara 36 hingga 52 bulan karena meningkatnya permintaan. Peningkatan daya komputasi dan kecepatan pemrosesan merupakan pendorong terbesar bagi Meta dan perusahaan lain yang ingin mendapatkan sumber daya AI.
Menurut Nvidia, H100 dengan InfiniBand Interconnect hingga 30 kali lebih cepat dibandingkan Nvidia A100 pada model AI mainstream dan komputasi kinerja tinggi (HPC). Unit ini juga memiliki kecepatan pemrosesan IEEE FP64 dan FP32 tiga kali lipat jika dibandingkan dengan A100 sebelumnya.
Peningkatan disebabkan oleh kinerja clock-for-clock per streaming multiprocessor (SM), jumlah SM tambahan, dan kecepatan clock yang lebih tinggi. Dengan harga 30.000 dolar AS atau setara Rp 450 jutaan per GPU, investasi pada H100 tentu bukanlah langkah main-main.