Biaya Token AI: Dari Eksperimen ke Krisis Tata Kelola
Biaya komputasi AI adalah seluruh pengeluaran yang timbul dari penggunaan model kecerdasan buatan, mulai dari token yang dikonsumsi per permintaan hingga kapasitas infrastruktur komputasi AI di pusat data yang menopang pelatihan dan operasi model dalam skala besar, dan hari ini biaya itu melonjak begitu cepat sehingga mengubah cara perusahaan membuat keputusan bisnis tentang adopsi AI enterprise. Lonjakan ini bukan lagi efek samping eksperimen teknologi, tetapi sudah menjelma menjadi variabel utama dalam laporan keuangan dan strategi perusahaan. Ketika penggunaan token AI dibiarkan liar, fenomena tokenmaxxing Microsoft menjadi gejala awal bahwa banyak organisasi mendorong pemakaian AI tanpa pagar biaya yang jelas. Di saat yang sama, kontrak sewa komputasi jangka panjang yang bernilai sangat besar menunjukkan bahwa investasi data center AI kini setara proyek infrastruktur energi strategis.
Tokenmaxxing Microsoft: Angka Ekstrem dan Ilusi Produktivitas
Spreadsheet internal karyawan Microsoft mengungkap pola konsumsi token AI yang timpang: ada karyawan yang mengaku menghabiskan biaya token hingga kisaran sangat tinggi dalam 28 hari, sementara median pemakaian per karyawan per bulan hanya sekitar kisaran menengah. Fenomena ini diberi nama tokenmaxxing, yakni perilaku sengaja mengonsumsi token dalam jumlah besar agar terlihat menonjol di dashboard pelacakan internal. Lebih parah, pola ini bukan monopoli satu divisi; median konsumsi di unit CoreAI, Security, hingga Cloud and AI berbeda-beda, tetapi sama-sama menunjukkan jurang lebar antara pemakaian normal dan ekstrem. Artinya, masalahnya bukan hanya soal teknologi, melainkan insentif organisasi: ketika metrik penggunaan dijadikan simbol antusiasme, sebagian karyawan akan mengejar angka, bukan nilai bisnis.
Respons manajemen cukup tegas. CoreAI EVP Jay Parikh menegaskan bahwa “Tokenmaxxing bukanlah yang kami optimalkan,” seraya meminta fokus pada hasil yang berdampak bagi pelanggan dan bisnis. Pernyataan ini penting karena memotong ilusi produktivitas berbasis volume token. Namun, ucapan saja tidak cukup. Microsoft mulai memantau nilai konsumsi token lebih ketat untuk melacak individu yang menggunakan token dalam jumlah besar. Ini adalah embrio cost governance AI: memadukan dorongan inovasi dengan disiplin biaya. Menariknya, tren tokenmaxxing juga muncul di perusahaan teknologi lain, termasuk pemain besar e-commerce. Artinya, sektor teknologi secara kolektif sedang belajar pahit bahwa tanpa tata kelola biaya sejak awal, program adopsi AI akan cepat berubah menjadi kebocoran anggaran terus-menerus.
Cost Governance AI: Mengendalikan Token Tanpa Mematikan Inovasi
Fenomena pengeluaran token ekstrem memaksa Microsoft menggeser fokus dari sekadar adopsi AI menjadi pengendalian biaya token AI secara sistematis. Kebijakan pemantauan token yang lebih ketat merupakan bagian dari upaya menyeimbangkan dorongan penggunaan AI dengan efisiensi biaya. Ini adalah inti cost governance AI: menetapkan batas, metrik, dan akuntabilitas agar setiap token yang dibakar berkontribusi pada tujuan bisnis. Data internal juga menunjukkan betapa liarnya variasi pemakaian antar divisi—CoreAI, Security, Azure, hingga Experiences and Devices memiliki median konsumsi berbeda-beda, dan sebagian individu menghabiskan token jauh di atas rekan satu tim. Tanpa aturan yang jelas, kesenjangan ini akan menormalisasi pemborosan, karena mereka yang boros tidak segera berhadapan dengan konsekuensi anggaran.
Pelajaran lain: pengelolaan biaya token perlu menjadi pertimbangan utama sejak awal implementasi, bukan setelah masalah muncul. Ketika selama bertahun-tahun perusahaan mendorong karyawan untuk menggunakan AI, budaya “pakai sebanyak mungkin” sudah telanjur terbentuk sebelum payung kebijakan biaya dipasang. Kini, langkah-langkah seperti dashboard konsumsi yang lebih transparan, pembatasan kuota, dan edukasi efisiensi pemakaian menjadi wajib. Fenomena serupa bahkan sempat memaksa lembaga militer memberlakukan kembali batasan penggunaan token setelah personelnya menghabiskan jatah yang diberikan. Pesannya jelas: tanpa cost governance AI, organisasi apa pun—sipil maupun militer—akan tergelincir ke pola konsumsi yang tidak berkelanjutan.
Anthropic dan Investasi Data Center AI Bernilai Puluhan Miliar
Jika Microsoft menjadi contoh bagaimana biaya token AI membengkak di level karyawan, Anthropic menunjukkan betapa besar biaya infrastruktur komputasi AI di level perusahaan. Laporan menyebut Anthropic menyiapkan komitmen sewa bernilai sangat besar untuk kapasitas komputasi awan dari penyedia infrastruktur AI Nscale dalam periode enam tahun. Kontrak ini bukan pembayaran sekaligus, melainkan komitmen jangka panjang untuk akses ke pusat data berkapasitas sekitar 460 megawatt di sebuah kompleks di West Virginia. Skala listrik sebesar itu menggambarkan intensitas energi yang dibutuhkan untuk melatih model keluarga Claude, menjalankan inferensi, dan melayani permintaan pengguna setiap hari. Ini bukan lagi proyek IT biasa, melainkan investasi data center AI yang sejajar dengan pabrik industri berat.
Mengapa komitmen sebesar ini dianggap masuk akal oleh Anthropic? Pertumbuhan layanan seperti Claude dan Claude Code meningkatkan permintaan komputasi, baik untuk pengembangan model baru maupun untuk memproses permintaan pengguna. Di sisi lain, industri AI sedang berlomba mengamankan chip, pasokan listrik, sistem pendingin, dan lahan pusat data. Kontrak jangka panjang memberi kepastian kapasitas, tetapi sekaligus mengunci perusahaan dalam struktur biaya yang besar jika proyeksi permintaan meleset. Selain kontrak sewa ini, Anthropic juga mengumumkan rencana investasi terpisah bernilai besar untuk infrastruktur AI di Amerika Serikat, yang diperkirakan menciptakan ratusan pekerjaan tetap dan ribuan pekerjaan konstruksi dengan sejumlah fasilitas mulai beroperasi bertahap sepanjang 2026.
Implikasi Jangka Panjang bagi Adopsi AI Enterprise
Kombinasi tokenmaxxing di level pengguna dan komitmen sewa komputasi berskala puluhan miliar di level perusahaan menunjukkan satu hal: biaya operasional AI bukan lagi pengeluaran pelengkap, melainkan faktor kritis dalam keputusan bisnis. Fenomena tokenmaxxing yang juga terlihat di perusahaan teknologi lain menandakan bahwa budaya “pakai dulu, hitung belakangan” tersebar luas di industri. Sementara itu, komitmen kapasitas pusat data raksasa untuk melayani model generasi Claude menunjukkan betapa agresifnya perusahaan AI mengunci slot daya dan chip sebelum kompetitor merebutnya. Dalam jangka panjang, perusahaan yang gagal membangun cost governance AI akan kesulitan membedakan antara pengeluaran yang menghasilkan nilai dan sekadar konsumsi token tanpa arah.
Ke depan, dua tren akan berjalan bersamaan. Di satu sisi, Microsoft akan terus memperketat pemantauan konsumsi token untuk menekan perilaku boros, sembari berupaya tidak mematikan semangat inovasi internal. Di sisi lain, proyek infrastruktur Anthropic akan mulai beroperasi bertahap sepanjang 2026, menguji apakah permintaan nyata terhadap layanan mereka sepadan dengan komitmen biayanya. Bagi perusahaan lain yang sedang merancang strategi AI enterprise, pesan utamanya jelas: jangan terpesona oleh narasi transformasi AI tanpa menghitung biaya token AI dan infrastruktur komputasi AI secara realistis. AI bukan lagi sekadar eksperimen teknologi; ia adalah keputusan anggaran besar yang bisa memperkuat atau justru menekan kesehatan finansial perusahaan.
