Character.AI, platform yang dikenal lewat chatbot berbasis kecerdasan buatan, mengumumkan peluncuran fitur baru bernama “Stories” pada Selasa. Fitur ini memungkinkan pengguna membuat fiksi interaktif dengan menghadirkan Karakter AI favorit mereka dalam format naratif yang lebih terpandu.
Peluncuran “Stories” hadir beriringan dengan perubahan kebijakan perusahaan terkait akses pengguna remaja. Dikutip dari TechCrunch, mulai pekan ini pengguna berusia di bawah 18 tahun tidak lagi dapat mengakses atau berinteraksi secara terbuka dengan fitur chatbot utama yang selama ini menjadi inti layanan Character.AI.
Kebijakan usia tersebut disebut sebagai respons terhadap meningkatnya kekhawatiran mengenai potensi risiko kesehatan mental dari chatbot AI, terutama karena sifatnya yang dapat tersedia 24 jam dan bahkan memulai percakapan tanpa diminta. Dalam beberapa waktu terakhir, isu ini ikut menjadi sorotan di tengah adanya kasus hukum dan gugatan terhadap perusahaan AI, termasuk OpenAI dan Character.AI, terkait dugaan keterlibatan tidak langsung dalam peristiwa tragis yang melibatkan bunuh diri pengguna.
Character.AI menyatakan pembatasan akses untuk anak di bawah umur dilakukan bertahap selama sekitar sebulan terakhir. Hingga Selasa, komunikasi terbuka dengan Karakter AI disebut sepenuhnya dilarang bagi pengguna di bawah 18 tahun.
Dalam postingan blog resminya, perusahaan menjelaskan bahwa “Stories” dirancang sebagai pengalaman yang lebih terarah dan terpandu untuk menciptakan serta mengeksplorasi fiksi. Character.AI menyebut format ini sebagai alternatif yang lebih aman dibandingkan obrolan terbuka (open chat).
Fitur ini juga akan hadir berdampingan dengan fitur multimoda lain yang tersedia, sehingga remaja tetap dapat menikmati dan berinteraksi dengan Karakter mereka dengan penekanan pada aspek keamanan.
Peralihan fokus Character.AI ke fiksi interaktif dinilai sejalan dengan meningkatnya popularitas genre tersebut dalam beberapa tahun terakhir, terutama di kalangan generasi muda. Namun, muncul pertanyaan apakah “Stories” akan cukup memenuhi kebutuhan pengguna—khususnya remaja—yang disebut berpotensi mengembangkan ketergantungan emosional pada chatbot.
Reaksi komunitas daring Character.AI menunjukkan respons yang beragam. Di subreddit resmi platform itu, sejumlah pengguna remaja menyampaikan kekecewaan atas larangan akses open chat, meski sebagian juga menganggap langkah tersebut dapat menjadi keputusan yang tepat. “Saya kesal sekali dengan larangan ini, tetapi saya juga diam-diam lega karena sekarang saya bisa fokus melakukan hal-hal lain, dan kecanduan saya mungkin akhirnya terhenti,” tulis seorang pengguna yang mengaku sebagai remaja.
Pengguna lain menambahkan, “Sebagai seseorang di bawah 18 tahun, ini jelas mengecewakan. Tapi, ini adalah hal yang wajar karena banyak sekali teman seusiaku yang jadi kecanduan berat dengan aplikasi ini.”
Secara konseptual, “Stories” dinilai memiliki potensi lebih kecil memicu persoalan psikologis dibanding role-playing melalui chatbot dalam percakapan terbuka. Salah satu perbedaannya terletak pada pola interaksi: chatbot bersifat langsung dan real-time, bahkan dapat mengirim pesan tanpa diminta, termasuk saat pengguna tidak aktif. Sementara itu, “Stories” lebih pasif dan berbasis narasi yang dibangun pengguna, sehingga mengurangi tekanan interaksi emosional yang intens.
Kebijakan pembatasan akses berdasarkan usia ini juga muncul di tengah meningkatnya perhatian regulator terhadap teknologi AI. Disebutkan bahwa California menjadi negara bagian pertama di Amerika Serikat yang mulai mengatur pendamping AI. Di tingkat federal, Senator Josh Hawley dan Richard Blumenthal turut mengajukan rancangan undang-undang nasional yang bertujuan melarang pendamping AI untuk anak di bawah umur.
Bulan lalu, CEO Character.AI Karandeep Anand mengatakan kepada TechCrunch bahwa pihaknya berharap dapat menetapkan standar industri. “Saya sangat berharap kepemimpinan kami dapat menetapkan standar dalam industri ini, yaitu bahwa bagi mereka yang berusia di bawah 18 tahun, obrolan terbuka mungkin bukan jalur atau produk yang tepat untuk ditawarkan,” ujarnya.
