Penyimpanan Jadi Faktor Penentu di Era Inferensi AI
Inovasi penyimpanan flash data center dan SSD NVMe enterprise AI adalah rangkaian teknologi memori dan storage berperforma tinggi yang dirancang untuk memberi bandwidth besar, latensi rendah, serta skalabilitas penyimpanan agar inferensi AI berskala besar dapat berjalan lebih cepat, efisien, dan hemat daya di pusat data maupun perangkat edge generasi berikutnya. Di FMS: the Future of Memory and Storage yang digelar 4–6 Agustus di Santa Clara, perusahaan seperti Kioxia, Longsys, Sandisk, dan KOWIN menunjukkan bahwa masa depan AI bukan lagi hanya soal GPU dan CPU, tetapi soal desain ulang arsitektur penyimpanan. Agenda utama mereka jelas: mengurangi bottleneck memori, memperluas kapasitas efektif HBM dan DRAM lewat high bandwidth flash storage, serta menghadirkan solusi storage AI inferensi yang sanggup mengikuti laju pertumbuhan model 70–122 miliar parameter.
Kioxia: GP Series Menang Best of Show dan Menyerang ‘Memory Wall’
Kioxia muncul sebagai bintang FMS berkat SSD KIOXIA GP Series PCIe NVMe yang meraih penghargaan Best of Show kategori “Specialized Storage”. GP1 adalah SSD Super High IOPS PCIe 6.0 pertama yang dioptimalkan untuk akses langsung GPU, didukung XL-FLASH generasi ke‑2 berlatensi rendah dan mampu menembus 10 juta IOPS untuk akses 512 byte. Ini bukan sekadar angka marketing: desain tersebut menjadikan flash sebagai lapisan perluasan memori berkinerja tinggi, memperluas HBM sehingga node AI tidak selalu dipaksa menambah DRAM mahal. Di sisi lain, Kioxia juga menegaskan komitmen pada penyimpanan flash data center lewat CM10 Series PCIe 6.0 dan NX1 Series E1.S PCIe 5.0 NVMe, yang mendukung pendinginan cair langsung untuk lingkungan AI dan pusat data modern. Pendekatan agresif terhadap kinerja dan pendinginan menunjukkan bahwa vendor ini melihat penyimpanan sebagai komponen arsitektural, bukan lagi sekadar periferal.
Longsys: Edge AI Storage Fusion dan SSD Gen5 sebagai Otak Baru Perangkat Edge
Sementara Kioxia menyerang pusat data, Longsys mengincar edge dengan tema Edge AI Storage Fusion yang meliputi AI Agent Hosts (AI BOX), AI PC, dan embedded AI mobile. Pendekatan end‑to‑end ini menarik karena menggabungkan AIDIMM memori high‑bandwidth, iSA (Intelligent Storage Agent), dan AISSD untuk mengatasi bottleneck memori, ekspansi KV cache, dan latensi deployment LLM lokal. Dalam demo yang dikembangkan bersama SixUnion, sistem mampu menjalankan model 70B, 80B, dan 122B hanya dengan 64GB AIDIMM, dengan penggunaan memori lebih rendah dan efisiensi inferensi lebih tinggi. Di ranah AI PC, Longsys mengandalkan SPU 5nm untuk menggerakkan SSD PCIe Gen5 tanpa DRAM yang sanggup mencapai 14,8 GB/s baca dan 13 GB/s tulis pada daya ≤6,3W, sekitar 10% lebih rendah dibanding kontroler sekelas. Ini langkah berani yang mengirim pesan jelas: efisiensi dan kecerdasan manajemen data sama pentingnya dengan sekadar menambah kapasitas.
Sandisk dan HBF: Menempatkan High Bandwidth Flash di Pusat Inferensi AI
Sandisk datang ke FMS dengan sikap konfrontatif terhadap paradigma lama yang terlalu memuja komputasi dan mengabaikan lalu lintas data. Mereka menegaskan bahwa kemampuan menyimpan, memindahkan, dan mengakses data kini sama pentingnya dengan kemampuan komputasi. Kuncinya ada pada inovasi memori NAND generasi berikutnya dan High Bandwidth Flash (HBF), yang dikembangkan khusus untuk meruntuhkan batas kecepatan proses inferensi AI berskala masif. BiCS10 QLC NAND diarahkan untuk kepadatan tinggi, performa, dan efisiensi daya bagi cloud dan pusat data raksasa, menjawab kebutuhan penyimpanan flash data center yang kian rakus kapasitas. Diskusi panel bertema “Breaking the Memory Wall with High Bandwidth Flash” bersama pemain besar lain menandai ambisi Sandisk menjadikan high bandwidth flash storage sebagai penopang utama workload RAG, data lake super cepat, dan manajemen KV cache. Sikap ini patut diapresiasi: mereka tidak sekadar menambah layer cache, tetapi mencoba mendefinisikan ulang cara flash berkontribusi pada pipeline inferensi.
KOWIN: Mengisi Celah dari Wearables hingga Industri, dan Catatan Keterbatasan
Di tengah sorotan terhadap pusat data dan edge PC, KOWIN memilih jalur yang lebih menyeluruh: portofolio lengkap meliputi embedded storage, SSD, modul DRAM, dan penyimpanan removable. eMMC berukuran kecil untuk kacamata pintar AI, ePOP untuk jam tangan pintar, serta eMMC industrial untuk sistem kontrol tangguh menunjukkan fokus pada AI wearables dan kontrol industri yang membutuhkan daya rendah dan keandalan tinggi. SSD berkapasitas besar untuk mini PC dan modul SODIMM/UDIMM untuk laptop serta desktop AI menambah lapisan penting dalam ekosistem penyimpanan. Dengan jajaran ini, KOWIN mengklaim efektif mengakomodasi AI wearables, AI PC, dan sistem kontrol industri, mendorong pertumbuhan industri AI global. Namun, semua vendor di FMS berbagi satu catatan: spesifikasi dan informasi produk dapat berubah tanpa pemberitahuan, dan data performa Longsys masih berbasis pengujian internal sehingga hasil nyata bisa berbeda. Artinya, arsitek data center dan pengembang AI perlu bersikap kritis, menguji sendiri, dan menyesuaikan desain dengan kebutuhan workload mereka.
