X (sebelumnya Twitter) membatasi fitur pembuatan dan penyuntingan gambar pada Grok AI hanya untuk pelanggan berbayar X Premium. Kebijakan ini muncul setelah maraknya penyalahgunaan Grok untuk menghasilkan konten asusila, termasuk yang mengarah pada pornografi deepfake.
Pembatasan tersebut mulai berlaku pada Jumat (9/1/2026) waktu Amerika Serikat. Saat pengguna gratis mencoba meminta Grok membuat gambar, chatbot itu menampilkan pesan yang mengarahkan pengguna untuk berlangganan X Premium. Pesan itu menyatakan pembuatan dan penyuntingan gambar saat ini dibatasi untuk pelanggan berbayar, disertai tautan menuju halaman berlangganan.
Menurut laporan, pembatasan berlaku ketika pengguna memberi perintah kepada Grok melalui tagar @Grok dalam unggahan. Namun, pengguna gratis disebut masih dapat memerintahkan Grok membuat gambar jika membuka tab Grok secara langsung di X. Selain itu, pembuatan gambar dari aplikasi Grok yang terpisah dari X juga masih bisa dilakukan tanpa pembatasan serupa.
Kebijakan ini dipandang sebagai respons xAI terhadap kritik dari pengguna dan pemerintah terkait keamanan Grok, khususnya setelah muncul kekhawatiran bahwa gambar yang dihasilkan mengarah pada pornografi deepfake. Sejumlah pejabat di Inggris, Uni Eropa, Malaysia, hingga India menyampaikan keprihatinan atas isu tersebut.
Di Inggris, juru bicara Perdana Menteri Keir Starmer mengecam langkah pembatasan itu dan menilai kebijakan tersebut hanya mengubah fitur AI yang dapat membuat gambar ilegal menjadi layanan premium. Dari Uni Eropa, juru bicara Komisi Eropa juga menyatakan pembatasan tersebut tidak menyentuh akar persoalan. Ia menegaskan, terlepas dari status berlangganan atau tidak, pihaknya tidak ingin melihat gambar asusila semacam itu.
Di Amerika Serikat, sejumlah senator melayangkan surat kepada Apple dan Google untuk mendesak penghapusan X dari toko aplikasi, dengan alasan pelanggaran ketentuan distribusi toko. Sementara di Indonesia, Kementerian Komunikasi dan Digital (Komdigi) mengecam dan melakukan penyelidikan karena menilai Grok belum memiliki sistem pencegahan memadai terhadap deepfake pornografi yang berpotensi melanggar privasi dan hak citra diri.
Pemerintah juga menegaskan sanksi administratif hingga pemutusan akses dapat diterapkan. Selain itu, konten pornografi dan manipulasi citra pribadi disebut dapat dikenai sanksi pidana sesuai ketentuan dalam KUHP baru.
