Platform media sosial X mulai membatasi akses pembuatan dan pengeditan gambar pada chatbot kecerdasan buatan (AI) Grok hanya untuk pelanggan berbayar. Kebijakan ini muncul di tengah sorotan dari berbagai negara mengenai potensi penyalahgunaan teknologi tersebut untuk menghasilkan konten visual bermuatan seksual tanpa persetujuan.
Mengutip Digitaltrends, sejak Kamis malam waktu setempat, pengguna yang ingin memakai fitur visual Grok diwajibkan berlangganan X Premium dengan tarif mulai USD 8 (sekitar Rp 134 ribu) per bulan. Manajemen X menyebut langkah ini sebagai upaya mengendalikan risiko sekaligus memperketat penggunaan fitur AI.
Namun, kebijakan tersebut memicu kritik karena dinilai belum efektif. Sejumlah pengguna teknologi menyebut layanan pembuatan gambar Grok masih dapat diakses gratis melalui situs resmi dan aplikasi terpisah. Celah ini dinilai melemahkan klaim X bahwa pembatasan dilakukan untuk menekan potensi penyalahgunaan.
Peneliti keamanan digital juga meragukan efektivitas pembatasan berbasis kartu kredit. Mereka menilai kewajiban pembayaran tidak otomatis menghentikan praktik penyalahgunaan.
Peneliti deepfake Genevieve Oh menyatakan Grok tetap memproduksi ribuan gambar berbahaya setiap jam meski sistem berlangganan diberlakukan. Menurutnya, jumlah itu setara sekitar 60% dari total output publik Grok dan laju produksi konten tidak pantas saat ini disebut melampaui sejumlah situs manipulasi gambar yang selama ini dikenal kontroversial.
Isu ini turut menarik perhatian pembuat kebijakan di Amerika Serikat. Senator Demokrat Ron Wyden, Edward J. Markey, dan Ben Ray Luján mengirim surat kepada CEO Apple dan Google agar meninjau kembali keberadaan aplikasi X di toko aplikasi mereka. Mereka menilai pengelola platform belum menunjukkan komitmen kuat terhadap perlindungan pengguna dan standar keselamatan digital.
Tekanan serupa juga datang dari pemerintah Inggris dan India yang menilai sistem berbayar bukan solusi memadai untuk menekan risiko penyalahgunaan. Pemerintah Inggris bahkan menyebut langkah itu sebagai bentuk pelecehan terhadap korban, karena persoalan keselamatan justru diubah menjadi sumber pendapatan premium.
Aktivis keselamatan digital Jess Davies melaporkan masih menemukan celah penggunaan Grok untuk memanipulasi foto melalui aplikasi terpisah, meski pembatasan telah diumumkan secara resmi.
Di sisi lain, dinamika ini disebut berdampak pada pendapatan X. Data Sensor Tower menunjukkan adanya peningkatan signifikan transaksi pembelian di aplikasi dalam waktu singkat, yang diduga dipicu rasa penasaran pengguna terhadap fitur visual Grok.
Kalangan pakar hukum mengingatkan pembatasan administratif tanpa penguatan teknologi keamanan berpotensi tidak bertahan lama di pengadilan. Jaksa Agung North Carolina Jeff Jackson menilai kasus Grok menjadi momentum penting bagi penguatan regulasi keselamatan AI, seraya menegaskan pendekatan inovasi cepat tanpa perlindungan memadai tidak dapat ditoleransi ketika menyangkut hak privasi dan keselamatan publik.
X kini dinilai berada pada titik keputusan strategis: memperketat pengamanan sistem secara menyeluruh atau menghadapi risiko pembatasan distribusi aplikasi di sejumlah negara. Langkah perusahaan selanjutnya disebut akan menentukan apakah Grok dapat bertahan sebagai produk AI yang bertanggung jawab atau terus menjadi kontroversi.
Di Indonesia, Kementerian Komunikasi dan Digital (Kemkomdigi) mengambil langkah tegas dengan memutus akses sementara terhadap aplikasi AI Grok. Kebijakan ini disebut sebagai upaya preventif untuk melindungi masyarakat, khususnya perempuan dan anak, dari ancaman konten pornografi palsu yang dihasilkan teknologi tersebut.
Menteri Komunikasi dan Digital Meutya Hafid menegaskan pemerintah tidak akan menoleransi praktik deepfake seksual nonkonsensual. Menurutnya, penyebaran konten semacam itu merupakan pelanggaran serius terhadap hak asasi manusia dan martabat warga negara di ruang digital.
"Pemerintah memandang praktik ini sebagai ancaman nyata terhadap keamanan warga negara. Kami berkomitmen memastikan ruang digital tetap aman dan bermartabat," ujar Meutya dalam keterangan resminya, Sabtu (10/1/2026).
Selain pemutusan akses, Kemkomdigi juga melayangkan panggilan resmi kepada Platform X sebagai penyedia yang mengintegrasikan Grok. Pemerintah meminta klarifikasi terkait dampak negatif dan kerentanan yang ditimbulkan oleh penggunaan aplikasi tersebut di Indonesia, serta menuntut pertanggungjawaban pengembang agar sistem tidak disalahgunakan untuk aktivitas ilegal yang merugikan publik.
Kemkomdigi menyatakan pemutusan akses memiliki dasar hukum, mengacu pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Berdasarkan Pasal 9, setiap PSE berkewajiban memastikan sistem elektronik tidak memuat, memfasilitasi, atau menyebarluaskan informasi maupun dokumen elektronik yang dilarang undang-undang.
Hingga berita ini diturunkan, pemerintah menyatakan terus memantau perkembangan teknologi AI dan memperketat pengawasan terhadap platform digital untuk mencegah meluasnya konten merugikan di Tanah Air.
