TPU masuk ke jalur utama PyTorch
Ekosistem akselerator hardware PyTorch adalah lapisan perangkat lunak terbuka yang memungkinkan model dan alur kerja PyTorch berjalan pada beragam prosesor tanpa harus ditulis ulang untuk setiap jenis chip. Arah itu makin nyata ketika Google mengumumkan TorchTPU sebagai sumber terbuka di GitHub pada 20 Oktober 2026. Repositori torch_tpu tersedia di organisasi google-pytorch dengan lisensi Apache 2.0, dan dikembangkan bersama tim PyTorch di Meta.Tumpukan ini dirancang agar beban kerja PyTorch yang sudah ada berjalan di TPU dengan sedikit perubahan kode. Dukungan untuk pelatihan, penyajian, dan penerapan mencakup alat seperti vLLM, SGLang, TorchTitan, Ray, serta Hugging Face. Developer dapat menguji model dalam mode eager lalu memakai torch.compile untuk kinerja produksi. Integrasi ini juga mendukung Distributed Data Parallel, FSDPv2, dan DTensor. Google menyebut TorchTPU telah divalidasi hingga 8.000 TPU Ironwood; pelatihan Qwen 3 8B mencapai utilisasi FLOP model 52% dan skala nyaris linear hingga 8.192 TPU.
Satu jalur optimasi CPU untuk Intel dan AMD
Penyatuan Intel dan AMD di oneDNN menunjukkan bahwa backend PyTorch terbuka dapat mengurangi pekerjaan ganda tanpa menuntut developer memilih jalur optimasi berdasarkan merek prosesor. AMD memindahkan ZenDNN ke oneDNN, pustaka sumber terbuka yang diterbitkan UXL Foundation. Sebelumnya, ZenDNN merupakan versi turunan yang dipelihara terpisah. Rekomendasi penyatuan datang dari x86 Ecosystem Advisory Group, inisiatif kolaborasi yang dibentuk pada 2024. Bagi pengguna, perubahan ini berarti satu backend PyTorch bisa menangani optimasi CPU pada perangkat kedua vendor, alih-alih mengelola jalur berbeda. oneDNN mendeteksi fitur hardware saat program berjalan, lalu memilih kernel yang sesuai dan menyediakan tipe data presisi rendah. Pengujian yang disebutkan dalam sumber mencatat peningkatan 1,24 kali pada Float32 dan 2,21 kali pada BFloat16. Ini langkah praktis untuk optimasi CPU PyTorch, meski penyatuan perangkat lunak tidak menghapus perbedaan karakteristik antarprosesor.
Spyre menjadi backend kelas utama
IBM melengkapi perubahan ini dengan menjadikan akselerator Spyre sebagai backend PyTorch kelas utama melalui pembaruan ekosistem pada paruh kedua 2026. Spyre dirancang untuk inferensi AI di sistem IBM Z, LinuxONE, dan Power, terutama beban kerja yang banyak memakai operasi matriks. Sasaran praktisnya menarik: pengguna dapat mengambil model dari ekosistem seperti Hugging Face dan memakai alur kerja berbasis PyTorch yang pada dasarnya serupa dengan alur di GPU Nvidia. Inti integrasi adalah torch-spyre, yang mengompilasi kode PyTorch biasa untuk dijalankan di perangkat tersebut. IBM beralih dari tumpukan kompilasi sendnn ke backend Inductor milik PyTorch. Ukuran kode yang dilaporkan menyusut dari sekitar 273.000 menjadi 38.600 baris—sekitar tujuh kali lebih sedikit. Pembaruan ini juga mencakup dukungan model sejak hari pertama, integrasi perangkat asli, serta pengujian regresi dan rilis berkelanjutan. Dalam pengukuran yang dilaporkan, optimasi menghasilkan peningkatan hingga 1,7 kali untuk prefill dan 2,4 kali untuk decode.
Standar terbuka memperluas pilihan developer
Arti penting dari tiga langkah ini bukan bahwa semua chip akan bekerja dengan cara yang sama. Nilainya adalah developer tak lagi harus menerima fragmentasi sebagai biaya masuk untuk mencoba hardware AI di luar pilihan yang paling umum. TPU kini menjadi opsi native PyTorch bersama CPU dan GPU, sementara oneDNN menyatukan optimasi CPU Intel dan AMD. Di sisi IBM, titik ekstensi PyTorch bersama menyamarkan sebagian perbedaan arsitektur. Kombinasi itu membuat backend PyTorch terbuka lebih mudah dijangkau tim kecil dan developer independen, yang sering tidak punya sumber daya untuk memelihara integrasi khusus bagi setiap perangkat. Pekerjaan berikutnya tetap penting: rangkaian agen TPU untuk orientasi, diagnostik, dan penyetelan inferensi masih dalam pratinjau awal. Tim IBM juga berencana memasukkan model yang tidak bergantung pada hardware ke pengujian berkelanjutan, menjadikan jalurnya pilihan
