Jakarta –
Kesuksesan chip H100 mendongkrak kapitalisasi Nvidia, dan kini Blackwell memamerkan penerusnya, B200 dan GB200.
Nvidia menyebut kedua chip baru ini sebagai chip AI tercepat di dunia. Misalnya, B200 menggunakan 208 miliar transistor untuk menyediakan daya komputasi FP4 hingga 20 petaflops.
Sementara itu, GB200 menggabungkan dua B200 dengan Grace CPU untuk menghadirkan kinerja 30x lebih cepat untuk penghitungan inferensi model bahasa skala besar (LLM), sekaligus mempertahankan konsumsi daya yang diklaim 25x lebih efisien dibandingkan H100.
iklan
Gulir untuk melanjutkan konten.
Menurut Nvidia, sebelumnya melatih 1,8 triliun pengukuran membutuhkan 8000 GPU Hopper dan menghabiskan 15 megawatt. Namun kini, CEO NVIDIA Jensen Huang mengatakan GPU Blackwell 2000 dapat melakukan hal yang sama hanya dengan konsumsi daya 4 megawatt.
Sedangkan untuk L.M.L.M. Dengan GPT-3 pada 175 miliar pengukuran, NVIDIA mengklaim GB200 bekerja tujuh kali lebih cepat dibandingkan H100, dan pelatihan empat kali lebih cepat, demikian detikINET dari The Verge, Selasa (19/3/2024).
Menurut Nvidia, keunggulan utama kedua chip baru ini adalah daya komputasi, bandwidth, dan ukuran dua kali lipat mesin trafo generasi kedua model tersebut.
Lalu perbedaan utama yang kedua adalah pengguna dapat menghubungkan GPU ini ke switch NVLink generasi baru, yang dapat menghubungkan hingga 576 GPU secara bersamaan, dengan bandwidth hingga 1,8TB per detik.
Perusahaan seperti Nvidia, Amazon, Google, Microsoft dan Oracle sudah berencana untuk menawarkan rak NVL72 di layanan cloud mereka. Namun belum diketahui berapa jumlah chip Blackwell yang akan mereka pesan.
Sistem Blackwell ini dirancang untuk beroperasi pada volume tinggi, hingga puluhan ribu chip GB200, dengan jaringan 800Gbps melalui Quantum-X800 InfiniBand (hingga 144 koneksi) atau Spectrum-x800 Ethernet (over). menjadi 64 koneksi).
Menonton video”Saham Nivea melonjak 16,4%, mengungguli Amazon-Fidel“
[Gambas:Video 20detik]
(asj/asj)