Dari DGX Spark ke DSX POD: Memilih Infrastruktur AI NVIDIA

Dua skala untuk kebutuhan AI yang berbeda

Infrastruktur AI NVIDIA mencakup perangkat ringkas untuk komputasi lokal hingga pusat data modular yang dirakit di pabrik, memberi organisasi pilihan berdasarkan skala kerja, kebutuhan privasi, dan kesiapan fasilitas.

NVIDIA DGX Spark 64GB ditujukan bagi pengembang yang ingin membangun dan menjalankan AI di perangkat sendiri, tanpa selalu mengandalkan cloud atau layanan pihak ketiga. Sebaliknya, NVIDIA DSX POD menyatukan komputasi, jaringan, distribusi listrik, dan pendingin cair untuk mempercepat pembangunan kapasitas pusat data. Keduanya bukan produk yang saling menggantikan: Spark mendekatkan komputasi ke tim dan data, sedangkan POD mengatasi persoalan waktu serta koordinasi dalam deployment berskala besar.

Perbedaan itu penting bagi keputusan investasi. Tim kecil dapat menghargai kendali lokal dan privasi, sementara operator besar mungkin lebih mementingkan seberapa cepat kapasitas produksi dapat tersedia. Pilihan yang tepat bukan yang paling besar atau paling baru, melainkan yang sesuai dengan hambatan utama organisasi.

DGX Spark: kendali lokal dengan batas yang jelas

Dengan memori terpadu 64GB dan sistem Grace Blackwell, DGX Spark menawarkan cara praktis untuk menguji model dan agen AI pada perangkat lokal. Satu unit diklaim mampu menjalankan model hingga 100 miliar parameter; dua unit dapat dihubungkan untuk memperluas kapasitas kerja, dengan perangkat lunak dan sistem operasi NVIDIA sudah tersedia.

Nilai utamanya bukan sekadar ukuran ringkas, melainkan kendali atas data. Pengguna dapat bereksperimen dengan model dan informasi privat tanpa mengirim setiap tugas ke komputasi jarak jauh, sehingga pendekatan ini menarik bagi pengembang yang perlu menjaga kerahasiaan. Namun, perangkat lokal bukan berarti tanpa kompromi: kapasitas tetap dibatasi oleh sistem yang tersedia, dan beban kerja besar mungkin tetap memerlukan sumber daya tambahan.

DGX Spark paling masuk akal sebagai infrastruktur AI lokal untuk pengembangan, inferensi, dan eksperimen mandiri—bukan sebagai pengganti otomatis bagi pusat data. Kehadirannya memperluas pilihan bagi tim yang ingin mengurangi ketergantungan pada server jarak jauh.

DSX POD: cepat, jika lokasi sudah siap

NVIDIA mengklaim DSX POD dapat memangkas deployment dari enam bulan menjadi 14 hari dengan memindahkan pekerjaan integrasi ke pabrik. Kontainer dikirim dengan perangkat komputasi, jaringan, sambungan daya, dan pipa pendingin yang telah dirakit serta diuji. Secara desain, ini mengurangi pekerjaan pemasangan di lokasi dan dapat membawa kapasitas AI ke tahap operasional lebih awal.

Akan tetapi, angka 14 hari bukan jalan pintas untuk melewati pembangunan fasilitas. Klaim itu bergantung pada kesiapan lokasi: daya, pendinginan, jaringan, dan sistem pendukung harus tersedia sebelum unit tiba. Karena itu, DSX POD paling menarik bagi operator yang sudah memiliki prasyarat tersebut dan ingin mengurangi risiko keterlambatan akibat integrasi di lapangan. Pengiriman diperkirakan dimulai pada awal 2027.

Pendekatan modular ini layak diperhatikan, tetapi waktu pemasangan bukan satu-satunya ukuran keberhasilan. Organisasi tetap perlu menilai kebutuhan energi, pendinginan, dan operasi jangka panjang; kontainer pabrik mempercepat proses, bukan menghapus pekerjaan perencanaan.

Umur akselerator mengubah hitungan investasi

Jensen Huang mengklaim akselerator AI NVIDIA dapat tetap produktif selama delapan tahun atau lebih, menantang anggapan bahwa GPU hanya bernilai guna sekitar empat tahun. Ia juga mendorong investor dan lembaga keuangan agar menilai ulang umur serta nilai jangka panjang infrastruktur AI.

Argumennya bertumpu pada fleksibilitas perangkat dan kemajuan perangkat lunak: optimasi model serta teknik inferensi dapat meningkatkan performa akselerator lama tanpa mengganti komponennya. NVIDIA A100 dan H100 dilaporkan mempertahankan nilai jual kembali di atas perkiraan awal, sementara B200 pernah diperdagangkan di pasar sekunder hingga 158 persen dari harga pembelian awalnya.

Klaim umur panjang tetap perlu diperlakukan sebagai masukan, bukan jaminan. Nilai aktual bergantung pada beban kerja, dukungan perangkat lunak, konsumsi energi, dan kondisi pasar sekunder. Namun, jika akselerator AI NVIDIA benar-benar dapat digunakan produktif lebih lama, keputusan antara perangkat lokal dan deployment modular seharusnya menghitung biaya sepanjang masa pakai, bukan hanya kecepatan memperoleh kapasitas. Kesimpulannya, Spark unggul untuk kendali lokal, DSX POD untuk percepatan skala besar, dan durabilitas menentukan seberapa kuat keduanya sebagai investasi.