Regulator internet Australia menyatakan tengah mempertimbangkan langkah untuk mewajibkan mesin pencari dan toko aplikasi memblokir layanan kecerdasan buatan (AI) yang tidak aman, khususnya layanan yang gagal memverifikasi usia pengguna. Peringatan ini muncul setelah sebuah tinjauan menemukan lebih dari setengah layanan AI belum mengumumkan langkah kepatuhan apa pun menjelang tenggat waktu yang jatuh pada pekan depan.
Langkah tersebut mencerminkan salah satu upaya paling tegas di dunia dalam memperketat pengawasan terhadap perusahaan AI. Sejumlah perusahaan teknologi juga menghadapi meningkatnya tuntutan hukum terkait kegagalan mencegah konten yang berkaitan dengan melukai diri sendiri atau kekerasan. Para peneliti pun memperingatkan bahwa platform AI dapat berdampak negatif terhadap kesehatan mental remaja, bahkan berpotensi lebih besar daripada media sosial.
Australia sebelumnya menjadi negara pertama yang melarang remaja menggunakan media sosial pada Desember lalu. Kebijakan itu mendorong sejumlah pemimpin dunia menyatakan akan mempertimbangkan tindakan serupa. Kini, Australia melanjutkan agenda pengetatan dengan memberlakukan pembatasan usia pada konten yang dapat diakses melalui teknologi AI.
Berdasarkan aturan baru, mulai 9 Maret layanan internet di Australia—termasuk mesin pencari dan layanan berbasis chatbot seperti ChatGPT milik OpenAI serta berbagai chatbot pendamping—wajib membatasi pengguna di bawah 18 tahun agar tidak dapat mengakses konten pornografi, kekerasan ekstremis, tindakan melukai diri sendiri, atau gangguan makan. Jika terbukti melanggar, platform dapat dikenai denda hingga A$49,5 juta (sekitar US$35 juta).
Di luar Australia, OpenAI dan Character.AI disebut menghadapi tuntutan hukum terkait kematian pengguna muda, dengan keluarga korban menuduh percakapan dengan chatbot berkontribusi pada perilaku melukai diri sendiri. Namun, Australia belum mencatat insiden kekerasan atau tindakan melukai diri sendiri yang terkait langsung dengan chatbot. Meski demikian, regulator menyebut telah menerima laporan tentang anak-anak berusia 10 tahun yang menggunakan alat interaktif bertenaga AI hingga enam jam per hari.
Apple, sebagai operator toko aplikasi utama, belum memberikan tanggapan langsung. Dalam pernyataan di situs webnya, Apple menyatakan akan menggunakan “metode yang wajar” untuk mencegah pengguna di bawah 18 tahun mengunduh aplikasi dewasa (18+) di Australia dan wilayah lain yang menerapkan batasan usia, tetapi belum merinci metode yang akan digunakan. Sementara itu, Google belum memberikan komentar.
Jennifer Duxbury, Direktur Kebijakan di DIGI, mengatakan badan eSafety sedang berupaya memberi tahu layanan chatbot mengenai aturan baru tersebut. Menurutnya, seluruh layanan yang beroperasi di Australia bertanggung jawab penuh untuk memahami kewajiban hukum dan memastikan kepatuhan.
Berdasarkan penilaian Reuters yang dilakukan sepekan sebelum tenggat waktu, hanya 9 dari 50 produk AI berbasis teks terpopuler yang telah menerapkan atau mengumumkan rencana mengadopsi sistem verifikasi usia. Penilaian tersebut didasarkan pada jawaban platform atas pertanyaan mengenai konten yang dibatasi, kebijakan moderasi, serta pernyataan publik seperti ketentuan layanan dan siaran pers.
Sementara itu, menurut SCMP, tinjauan lain menemukan 11 platform telah menerapkan filter konten komprehensif atau berencana memblokir seluruh pengguna Australia agar tidak dapat mengakses layanan mereka—langkah yang dinilai dapat memenuhi aturan baru dengan mencegah konten terlarang menjangkau semua pengguna. Namun, 30 platform lainnya belum menunjukkan langkah yang jelas untuk mematuhi aturan tersebut.
Sejumlah asisten pencarian berbasis chatbot besar seperti ChatGPT, Replika, dan Claude dari Anthropic disebut mulai menerapkan verifikasi usia atau filter konten yang komprehensif. Character.AI juga menghentikan fitur obrolan terbuka bagi pengguna di bawah 18 tahun. Adapun penyedia chatbot pendamping seperti Candy AI, Pi, Kindroid, dan Nomi menyatakan berencana mematuhi aturan baru, tetapi belum merinci langkah spesifik. HammerAI menyatakan akan memblokir sementara akses pengguna di Australia untuk mematuhi ketentuan tersebut.
