Google tengah mengembangkan teknologi baru bernama TurboQuant, sebuah algoritma kompresi memori berbasis kecerdasan buatan (AI) yang ditujukan untuk meningkatkan efisiensi penggunaan memori pada sistem AI. Inovasi ini muncul di tengah lonjakan kebutuhan komputasi AI yang turut mendorong kenaikan harga RAM dalam beberapa waktu terakhir.
TurboQuant dikembangkan oleh Google Research dengan fokus pada tahap inferensi, yakni ketika model AI dijalankan untuk menghasilkan keluaran, bukan saat proses pelatihan. Pada tahap ini, kebutuhan memori dapat menjadi kendala utama, terutama terkait keterbatasan “working memory” yang dibutuhkan model untuk memproses dan mempertahankan konteks data.
Salah satu komponen yang menjadi sasaran TurboQuant adalah KV cache, yaitu memori sementara yang dipakai model untuk menyimpan informasi konteks selama pemrosesan berlangsung. Keterbatasan kapasitas pada bagian ini kerap menjadi bottleneck dalam sistem AI modern.
Secara teknis, TurboQuant mengandalkan pendekatan vector quantization, metode yang menyederhanakan representasi data numerik berbentuk vektor agar lebih ringkas tanpa menghilangkan informasi penting. Dengan cara ini, data yang semula memakan ruang besar dapat dikompresi, sementara akurasi model tetap dipertahankan.
Dalam penerapannya, TurboQuant menggunakan dua metode utama, yakni PolarQuant dan Quantization-aware Joint Learning (QJL). PolarQuant berfungsi mengubah cara data direpresentasikan agar lebih efisien saat disimpan di memori tanpa mengorbankan kualitas komputasi. Adapun QJL melatih model agar “sadar” bahwa data yang diproses akan dikompresi, sehingga model dapat beradaptasi dan tetap menghasilkan output yang akurat meski bekerja dengan data yang telah dipadatkan.
Dengan kombinasi kedua metode tersebut, peneliti mengklaim TurboQuant dapat menghemat penggunaan memori hingga enam kali lipat dibanding metode konvensional. Efisiensi ini dinilai memungkinkan model AI mempertahankan lebih banyak informasi dalam ruang memori yang lebih kecil, sekaligus mengurangi hambatan kinerja akibat keterbatasan memori.
Pengembangan ini juga relevan dengan kondisi pasar memori saat ini. Dalam beberapa waktu terakhir, harga RAM—terutama DDR5—dilaporkan melonjak tajam seiring tingginya permintaan dari industri AI. Produsen memori disebut lebih memprioritaskan pasokan untuk pusat data skala besar (hyperscaler), sehingga ketersediaan untuk pasar konsumen seperti PC dan laptop menjadi lebih terbatas. Dampaknya, harga RAM di pasar global disebut meningkat hingga empat sampai lima kali lipat dibanding kondisi normal sebelumnya.
