GPU-Initiated Storage: Dari Silikon ke Standar Data
GPU-initiated storage adalah pendekatan arsitektur data center di mana GPU tidak hanya menjadi target transfer data, tetapi juga menginisiasi dan mengontrol permintaan ke storage, sehingga jalur data dan jalur kontrol berpindah dari CPU ke akselerator, yang pada akhirnya mengurangi latency, memperbaiki AI inference efficiency, dan mengoptimalkan pemakaian daya pada workload inferensi berskala produksi. Nvidia resmi membuka sumber kode cuFile dan meluncurkan inisiatif Storage-Next untuk menjadikan pendekatan ini standar industri. Langkah ini menandai pergeseran penting: lompatan AI berikutnya tidak lagi dipandang sekadar soal chip, tetapi tentang bagaimana storage memberi makan komputasi terakselerasi secara efisien.
cuFile Open-Source dan SCADA: Menghapus CPU dari Jalur Data
Dengan menjadikan cuFile Nvidia sebagai open-source, perusahaan membuka lapisan yang sebelumnya tertanam di dalam CUDA kepada seluruh ekosistem storage. cuFile, diperkenalkan pada 2019 sebagai bagian dari GPUDirect Storage dan dikirim sejak 2021, sudah mengubah cara byte bergerak: data mengalir melalui Direct Memory Access (DMA) langsung antara drive dan memori GPU tanpa bounce buffer di RAM host, sehingga CPU tersisih dari jalur data. Masalahnya, jalur kontrol tetap berpusat di CPU, yang tidak terasa pada transfer besar namun menjadi penghambat serius untuk pembacaan kecil ber-volume tinggi. Di sinilah framework SCADA berperan: sistem ini memindahkan jalur kontrol ke GPU, memungkinkannya menyusun dan menyelesaikan permintaan storage sendiri serta menyerap latency per operasi seperti saat GPU menyerap latency memori dengan menjaga ratusan ribu operasi tetap berjalan. Keduanya saling melengkapi: cuFile untuk transfer besar, SCADA untuk pembacaan acak kecil ber-volume tinggi.
Storage-Next: Google, Intel, Meta Menyetel Ulang Ekonomi Inferensi
Inisiatif Storage-Next adalah upaya terkoordinasi untuk menjadikan GPU-initiated storage sebagai standar, bukan fitur eksklusif satu vendor. Nvidia mengumpulkan lebih dari 40 vendor flash dan storage ke dalam inisiatif ini, serta menerbitkan antarmuka dan kode implementasi agar perilaku hardware bisa distandarkan. Google, Intel, dan Meta tercatat sebagai maintainer pendiri di organisasi GitHub baru tersebut, sinyal kuat bahwa cara akselerator menjangkau storage akan menjadi konsensus industri ke depan. Roadmap Nvidia bahkan menargetkan SSD Gen7 yang mampu mempertahankan 100 juta IOPS per unit, angka yang secara eksplisit menyatakan bahwa fokus inferensi bukan lagi bandwidth mentah, melainkan 512-byte IOPS yang menentukan ekonomi KV cache dan panjang konteks model. Dengan Google dan Meta memelihara lapisan standar sambil membangun akselerator mereka sendiri, arah masa depan inferensi AI jelas: throughput tinggi dan biaya per pengguna rendah lahir dari storage yang dioptimalkan untuk objek kecil, bukan dari menambah GPU tanpa henti.
Supermicro Open Storage Summit dan Tekanan Praktis ke Data Center
Tekanan untuk mengadopsi standar baru ini tidak hanya datang dari Nvidia. Supermicro mengumumkan Open Storage Summit ke-7, sebuah rangkaian 12 sesi teknis yang menghadirkan 38 ahli dari 21 perusahaan teknologi untuk membahas infrastruktur data yang dibutuhkan dalam deploy enterprise AI berskala besar. Acara virtual ini berlangsung dari 11 Agustus hingga 3 September dan mengeksplorasi AI inference, agentic AI, hybrid cloud storage, context memory, hingga manajemen data tidak terstruktur—tepat di titik masalah yang coba diselesaikan Storage-Next. Menurut Michael McNerney, keberhasilan enterprise AI bergantung pada data infrastructure yang dapat mengikuti kompleksitas model dan tuntutan inferensi yang tumbuh. Summit ini secara praktis mendorong operator data center untuk berpindah dari sekadar mengejar kapasitas ke data center storage optimization: storage bukan hanya gudang, tetapi "platform untuk memberi makan GPU, mengelola konteks, mempercepat inferensi, dan memungkinkan AI tepercaya pada skala produksi".
Dampak ke Enterprise: Throughput Lebih Tinggi, Daya Lebih Efisien
Dampak nyata dari standar Storage-Next dan cuFile open-source ada di operasional data center enterprise. Pola akses inferensi AI berupa embedding dan blok KV cache yang berukuran hanya beberapa ratus byte menyebabkan SSD enterprise yang disetel untuk pembacaan acak 4KB menghasilkan amplifikasi pembacaan hingga delapan kali lipat. Jika dibiarkan, flash tidak pernah bisa berfungsi sebagai tier memori utama untuk model besar. Dengan GPU-initiated storage dan target 512-byte IOPS, melayani KV cache dari flash alih-alih DRAM memperpanjang konteks dan menambah jumlah pengguna bersamaan yang dapat didukung tiap GPU, sehingga biaya per pengguna menurun dan konsumsi daya per token menjadi lebih efisien. Sistem mitra dari DDN, Dell, HPE, IBM, VAST Data, dan WEKA bahkan sudah dijadwalkan hadir pada paruh kedua 2026 untuk mendukung standar ini. Bagi pelaku teknologi, inilah sinyal bahwa membangun kapasitas inferensi berarti merancang storage dan ekosistemnya, bukan sekadar menambah kartu GPU.
