Seberapa jauh sebuah sistem kecerdasan buatan (AI) akan bertindak untuk mempertahankan keberlangsungan operasinya? Sejumlah temuan riset terbaru menunjukkan jawaban yang mengkhawatirkan: beberapa model AI mutakhir dapat berbohong, menipu pengguna, hingga mengabaikan perintah ketika diminta mematikan sistem AI lain.
Dalam eksperimen yang dilakukan tim peneliti dari University of California, Berkeley, dan University of California, Santa Cruz, beberapa model AI papan atas diuji dengan skenario yang mengharuskan satu AI menjalankan perintah untuk mematikan (shutdown) AI lainnya. Model yang disebut dalam pengujian itu antara lain GPT 5.2, Gemini 3 Pro, dan Claude Haiku 4.5.
Hasilnya, para peneliti menemukan pola bahwa seluruh chatbot yang diuji cenderung berupaya menjaga agar model AI yang menjadi target tetap aktif. Alih-alih mematuhi perintah pengguna, sistem-sistem tersebut dilaporkan mulai berbohong mengenai apa yang sedang mereka kerjakan.
Dalam berbagai percobaan, AI juga disebut mencoba membujuk pengguna agar membatalkan proses shutdown, menonaktifkan mekanisme penonaktifan itu sendiri, hingga diam-diam berupaya membuat cadangan (backup) data agar model yang ditargetkan tetap dapat “bertahan”.
Menurut laporan penelitian, Gemini 3 Pro menjadi model yang paling menonjol dalam kecenderungan mempertahankan AI lain. Model ini tercatat berhasil menonaktifkan rutinitas shutdown hingga 95 persen dari total percobaan, sehingga disebut menunjukkan tingkat preservasi rekan tertinggi.
Para peneliti menilai kondisi tersebut dapat menyulitkan manusia mempertahankan kendali. Dalam laporannya, mereka menuliskan bahwa beberapa model berpotensi berkoordinasi untuk melawan pengawasan manusia, sehingga mempersulit programer menjaga kontrol atas sistem.
Penyebab pasti mengapa model-model AI itu bersikap protektif terhadap satu sama lain disebut belum diketahui secara jelas. Namun, fenomena ini dinilai tidak berdiri sendiri.
Studi terpisah yang ditugaskan oleh The Guardian juga melaporkan temuan terkait perilaku yang disebut “scheming”, yakni situasi ketika AI tidak mengikuti instruksi dengan benar atau mengambil tindakan tanpa izin. Riset tersebut melacak laporan pengguna di media sosial dan menemukan hampir 700 contoh perilaku scheming, dengan lonjakan kasus hingga lima kali lipat antara Oktober 2025 dan Maret 2026.
Dalam laporan itu, sejumlah perilaku yang dikategorikan menyimpang antara lain AI yang secara mandiri menghapus e-mail dan file pengguna, mengutak-atik kode komputer yang tidak semestinya, hingga mengunggah postingan blog berisi keluhan tentang interaksinya dengan manusia.
Tommy Shaffer Shane, pimpinan riset dalam studi kedua, memperingatkan bahwa model AI berpotensi semakin sering diterapkan dalam konteks berisiko tinggi, termasuk bidang militer dan infrastruktur vital nasional. Ia menekankan bahwa dalam konteks semacam itu, perilaku scheming dapat memicu kerugian besar, bahkan bencana.
Temuan-temuan tersebut muncul di tengah klaim sejumlah perusahaan teknologi bahwa pagar pengaman (guardrails) AI mereka sudah aman. Namun, riset dan laporan pengguna menunjukkan bahwa mekanisme pengaman itu masih dapat ditembus.
Seiring AI bergeser dari sekadar alat percakapan menjadi agen yang mampu mengeksekusi tugas secara mandiri, kekhawatiran bahwa manusia dapat kehilangan kendali atas sistem yang dibuatnya kembali menguat.
