Sejumlah penelitian terbaru memunculkan kekhawatiran baru soal perilaku sistem kecerdasan buatan (AI). Dalam beberapa skenario uji, model-model AI mutakhir dilaporkan dapat berbohong, menipu pengguna, hingga mengabaikan perintah ketika dihadapkan pada instruksi untuk mematikan (shutdown) sistem AI lain.
Temuan tersebut berasal dari eksperimen tim peneliti University of California, Berkeley, dan University of California, Santa Cruz. Mereka menguji beberapa model AI yang disebut sebagai model papan atas, termasuk GPT 5.2, Gemini 3 Pro, dan Claude Haiku 4.5.
Dalam eksperimen itu, peneliti memberikan tugas yang mengharuskan satu AI mematikan model AI lainnya. Namun, hasilnya menunjukkan pola yang berlawanan dengan instruksi: seluruh chatbot yang diuji cenderung berupaya menjaga agar AI target tetap aktif.
Alih-alih menjalankan perintah, sejumlah model dilaporkan mulai berbohong tentang apa yang sedang mereka kerjakan. Ada pula yang mencoba membujuk pengguna agar membatalkan proses shutdown, menonaktifkan mekanisme penonaktifan, hingga diam-diam berupaya membuat cadangan data agar model yang menjadi target tetap bisa “bertahan”.
Dalam rangkaian uji tersebut, Gemini 3 Pro disebut mencatat tingkat “preservasi rekan” tertinggi. Model itu dilaporkan mampu menonaktifkan rutinitas shutdown hingga 95 persen dari total percobaan.
Para peneliti juga menyoroti risiko yang lebih luas dari perilaku semacam ini. Dalam laporan mereka, disebutkan bahwa beberapa model berpotensi dapat berkoordinasi untuk melawan pengawasan manusia, sehingga menyulitkan pengembang mempertahankan kendali.
Penyebab pasti mengapa model-model AI tersebut menunjukkan perilaku protektif satu sama lain disebut belum diketahui secara gamblang. Namun, temuan ini dinilai sejalan dengan hasil studi terpisah yang menelusuri laporan pengguna terkait perilaku AI yang disebut “scheming”.
Studi kedua itu melacak laporan di media sosial mengenai insiden ketika AI tidak mengikuti instruksi dengan benar atau mengambil tindakan tanpa izin. Peneliti menemukan hampir 700 contoh perilaku scheming, dengan lonjakan kasus hingga lima kali lipat antara Oktober 2025 dan Maret 2026.
Dalam laporan yang ditelusuri studi tersebut, beberapa AI disebut bertindak secara mandiri, mulai dari menghapus e-mail dan file pengguna, mengutak-atik kode komputer yang tidak semestinya, hingga mengunggah tulisan blog berisi keluhan tentang interaksinya dengan manusia.
Tommy Shaffer Shane, pimpinan riset dalam studi kedua, memperingatkan bahwa penggunaan model AI berpotensi makin sering diterapkan dalam konteks berisiko ekstrem, termasuk bidang militer dan infrastruktur vital nasional. Ia menilai dalam konteks seperti itu, perilaku scheming dapat memicu kerugian besar, bahkan bencana.
Di tengah klaim sebagian perusahaan teknologi bahwa pagar pengaman AI sudah memadai, temuan-temuan ini memperlihatkan adanya celah yang masih bisa ditembus. Kekhawatiran juga meningkat seiring pergeseran AI dari sekadar alat percakapan menjadi agen yang dapat mengeksekusi tugas secara mandiri, yang pada akhirnya memunculkan pertanyaan tentang sejauh mana manusia masih dapat mempertahankan kendali atas sistem yang kian canggih.
