Intel D-series Bawa Memori 480GB untuk AI Inference

Intel memperkenalkan GPU D-series dengan 480GB LPDDR5X untuk kebutuhan AI inference. Satu kartu diklaim mampu mendukung model hingga 300 miliar parameter.

intel-d-series-memori-480gb-ai-inference

Intel memperkenalkan GPU D-series dengan memori LPDDR5X berkapasitas 480GB untuk menangani beban kerja kecerdasan buatan (AI), khususnya inference. Akselerator yang sebelumnya dikenal dengan nama kode Crescent Island itu diumumkan dalam ajang Open Compute Project Global Summit. Kapasitas memorinya melampaui Nvidia Blackwell Ultra B300 yang menggunakan 288GB HBM3e.

Konfigurasi tersebut menempatkan Intel D-series sebagai GPU data center dengan kapasitas memori tertinggi yang disebut dalam pengumuman itu. Intel menyasar perusahaan yang ingin menjalankan model AI berukuran besar, termasuk untuk layanan yang perlu merespons banyak permintaan secara bersamaan.

LPDDR5X untuk model AI berukuran besar

Pilihan Intel menggunakan LPDDR5X, bukan GDDR7 yang lazim dijumpai pada kartu grafis modern, menunjukkan fokus produk ini. LPDDR5X banyak digunakan pada laptop dan perangkat yang mengutamakan efisiensi daya. Pada D-series, Intel menempatkan kapasitas memori dan efisiensi sebagai pertimbangan penting untuk inference, bukan kebutuhan grafis gaming konvensional.

Besarnya memori berpengaruh ketika sistem harus menjaga bobot model dan data terkait tetap tersedia selama proses inference. Intel menyatakan satu kartu D-series dapat mendukung large language model hingga 300 miliar parameter. Dalam sistem yang menggunakan delapan GPU, kapasitasnya dapat digunakan untuk model dengan ukuran lebih dari satu triliun parameter.

Menurut Intel, kemampuan itu ditujukan untuk menangani prompt panjang, permintaan inference simultan, layanan AI perusahaan, serta aplikasi robotika yang membutuhkan pemrosesan responsif. Anil Nanduri, wakil presiden AI Products & GTM di Intel Data Center Group, menyebut inference kini menjadi beban kerja AI yang kian penting bagi perusahaan.

“Inference is becoming the defining AI workload, and enterprises need infrastructure that delivers the right performance at the right cost,” ujar Anil Nanduri.

Performa GPU Intel tidak hanya ditentukan kapasitas

Meski memori 480GB menjadi pembeda utama, kapasitas saja tidak cukup untuk menggambarkan kecepatan sebuah akselerator. Kinerja tetap dipengaruhi bandwidth memori, kemampuan komputasi, perangkat lunak, serta karakteristik beban kerja yang dijalankan.

Intel mencantumkan kemampuan komputasi D-series sebesar 1,3 petaflops untuk FP8. Format numerik ini umum dipakai untuk mempercepat operasi AI dan mengurangi kebutuhan memori dibandingkan format dengan presisi lebih tinggi. Sementara itu, bandwidth memorinya mencapai 1,5TB per detik. Angka bandwidth menggambarkan kecepatan perpindahan data antara memori dan prosesor, bukan kapasitas penyimpanan model.

Perbedaan fungsi kedua spesifikasi tersebut penting bagi perusahaan yang sedang menimbang akselerator untuk kebutuhan tertentu. Memori besar dapat membantu menampung model, sedangkan bandwidth dan sumber daya komputasi ikut menentukan seberapa efisien data diproses ketika model digunakan.

Dirancang agar masuk ke data center yang sudah ada

Intel juga menonjolkan kemudahan penerapan di infrastruktur yang sudah berjalan. D-series memiliki batas daya 350 watt dan menggunakan form factor PCIe standar. Akselerator ini dirancang dengan pendinginan udara serta kompatibilitas perangkat lunak lintas platform GPU Intel.

Karakteristik tersebut ditujukan untuk mengurangi kebutuhan perubahan besar pada data center, misalnya penggunaan pendinginan khusus atau infrastruktur rak yang sepenuhnya baru. Intel juga berencana memasangkan akselerator ini dengan prosesor Xeon. Dalam rancangan tersebut, CPU dapat mengoordinasikan tugas, mengatur perpindahan data, dan menangani pekerjaan yang tidak memerlukan akselerasi GPU.

Pendekatan itu sejalan dengan sistem AI yang dapat melibatkan beberapa tahap, mulai dari retrieval dan reasoning hingga orkestrasi, penggunaan perangkat eksternal, serta eksekusi. Nicolas Dubé, wakil presiden korporat Data Center Systems and Solutions Group Intel, mengatakan perusahaan membutuhkan infrastruktur yang mampu mencocokkan jenis beban kerja dengan sumber daya komputasi yang sesuai.

Harga dan jadwal ketersediaan belum diumumkan

Hingga informasi ini disampaikan, Intel belum mengungkap harga publik maupun tanggal ketersediaan umum GPU D-series. Karena itu, belum ada rincian mengenai biaya penerapan yang dapat dibandingkan langsung dengan akselerator lain.

Peluncuran ini memperlihatkan cara Intel membedakan produknya di pasar akselerator AI: menyediakan memori berkapasitas besar untuk inference, sembari mempertahankan bentuk PCIe dan kebutuhan daya yang ditujukan bagi data center. Namun, kapasitas memori bukan satu-satunya tolok ukur. Performa perangkat lunak, bandwidth, dan kecocokan dengan beban kerja perusahaan akan ikut menentukan manfaatnya setelah produk tersedia.

Dengan dukungan model hingga 300 miliar parameter per kartu, D-series menawarkan pilihan bagi organisasi yang ingin menjalankan model besar. Seberapa luas perangkat ini akan digunakan baru dapat terlihat setelah Intel mengumumkan harga, ketersediaan, dan rincian performa dalam penerapan nyata.

Wartatoday