Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menanggapi kasus pelecehan seksual berbasis teknologi yang menimpa mahasiswi Institut Teknologi Bandung (ITB). Kasus tersebut melibatkan seorang mahasiswa yang menyalahgunakan teknologi Artificial Intelligence (AI) untuk mengubah foto sejumlah mahasiswi menjadi konten telanjang.
Peristiwa yang disebut sebagai kasus “nudifikasi” itu sempat viral di media sosial X. Dalam unggahan yang beredar, pelaku disebut telah menerima sanksi skorsing akademik selama satu semester.
Nezar mengatakan, insiden tersebut menunjukkan risiko yang dapat muncul jika teknologi AI digunakan tanpa panduan etis. “Jadi ini memang peristiwa-peristiwa yang mungkin akan terjadi kalau kita memakai AI tidak dengan panduan etis gitu ya,” kata Nezar saat ditemui di UGM, Jumat (17/4/2026).
Ia menekankan pentingnya regulasi yang mengatur batasan penggunaan teknologi mutakhir, termasuk AI. Pemerintah, kata dia, mengimbau agar pemakaian dan pengembangan AI menyertakan perspektif etika. “Kita menghimbau agar pemakaian dan pengembangan artificial intelligence ini ikut menyertakan perspektif etika,” ujarnya.
Menurut Nezar, tanpa landasan etika yang kuat, inovasi teknologi berisiko menjadi instrumen pelanggaran norma dan hukum, termasuk dalam bentuk pelecehan seksual di ruang digital.
Nezar juga menyampaikan bahwa pemerintah tengah menyusun dokumen etika AI untuk melengkapi peta jalan AI nasional. Dokumen tersebut diharapkan diperkuat melalui penetapan sebagai Peraturan Presiden. Di sisi lain, pemerintah mendorong pengembang teknologi menerapkan prinsip ethics by design, yakni memasukkan pertimbangan etis sejak tahap awal perancangan platform atau aplikasi sebelum teknologi tersebut diakses publik.
“Jadi memang kita sih berharap ya agar pengembangan AI ini memikirkan sisi etis yang kita sebut dengan ethics by design. Jadi ketika didesain unsur-unsur etika itu sudah dipertimbangkan,” tegasnya.
Pemerintah juga menyoroti kemudahan akses pada Generative AI yang memungkinkan produksi konten visual secara instan. Nezar mengingatkan, tanpa pembatasan, teknologi tersebut rentan disalahgunakan untuk menghasilkan konten kontroversial, termasuk yang memuat sentimen SARA maupun materi pornografi yang merugikan orang lain. “Termasuk misalnya apakah layak atau boleh menghasilkan konten-konten yang akan kontroversial secara misalnya mungkin memuat sentimen agama, sentimen atau juga yang mengandung unsur pornografi misalnya seperti itu ya,” tambahnya.
Ia mengakui pesatnya perkembangan AI membawa tantangan besar dalam pengawasan. “Kita lihat kan betapa mudahnya ya untuk berbuat atau menggunakan aplikasi itu kemudian menciptakan dengan Gen AI bisa menciptakan yang namanya gambar-gambar yang mengandung unsur pornografi,” ujarnya.
Meski pemerintah berkomitmen tidak menghambat inovasi digital, Nezar menegaskan setiap produk teknologi yang beredar di masyarakat harus disertai tanggung jawab moral. Ia berharap para pengembang lebih waspada dan menyiapkan solusi teknologi agar aspek etika diperhitungkan sebelum produk dilepas ke publik. “Kita tidak membatasi inovasinya ya, cuma ketika satu produk ini dilemparkan ke tengah masyarakat, maka unsur etis itu harus dipertimbangkan,” tandasnya.
