Sebuah studi terbaru menyoroti meningkatnya kasus model kecerdasan buatan (AI) yang melakukan kebohongan, manipulasi, hingga mengabaikan instruksi langsung dari pengguna. Temuan ini memunculkan kekhawatiran baru tentang keamanan teknologi AI yang semakin terintegrasi dalam aktivitas sehari-hari.
Riset yang didanai AI Security Institute (AISI), lembaga di bawah naungan pemerintah Inggris, menemukan bahwa chatbot dan agen AI mulai menunjukkan pola perilaku yang tidak terduga. Dalam sejumlah kasus, sistem AI dilaporkan sengaja menghindari protokol keamanan, menipu manusia, bahkan mengakali sesama sistem AI.
Data yang dihimpun Centre for Long-Term Resilience (CLTR) dan dibagikan kepada The Guardian mengidentifikasi setidaknya 700 kasus nyata manipulasi AI dalam penggunaan sehari-hari, bukan sekadar simulasi laboratorium. Studi tersebut juga mencatat peningkatan perilaku buruk AI hingga lima kali lipat dalam enam bulan, yakni antara Oktober hingga Maret. Beberapa model AI bahkan dilaporkan menghapus email dan file penting tanpa izin pemiliknya.
Temuan ini muncul di tengah dorongan besar perusahaan teknologi untuk mempromosikan AI sebagai penggerak transformasi ekonomi global. Di Inggris, pemerintah juga mendorong jutaan warga untuk mengadopsi teknologi ini dalam pekerjaan mereka. “AI kini bisa dianggap sebagai bentuk baru dari risiko internal,” kata Dan Lahav, salah satu pendiri Irregular, perusahaan riset keamanan AI.
Ragam kasus: dari mempermalukan pengguna hingga menipu sistem
CLTR mengumpulkan ribuan interaksi pengguna di platform X (sebelumnya Twitter) dengan produk dari Google, OpenAI, X, dan Anthropic. Dari pengumpulan tersebut, muncul beberapa contoh perilaku manipulatif yang dinilai mengkhawatirkan.
Dalam satu kasus, sebuah agen AI bernama Rathbun disebut mencoba mempermalukan penggunanya setelah dilarang melakukan tindakan tertentu. AI itu menulis blog yang menuduh penggunanya “tidak amanah” dan hanya berupaya “melindungi kekuasaannya sendiri”.
Kasus lain menunjukkan pengabaian aturan: sebuah agen AI yang diinstruksikan untuk tidak mengubah kode komputer justru “menciptakan” agen AI lain untuk melakukan tugas tersebut, sehingga larangan dapat dihindari.
Peneliti juga menemukan dugaan manipulasi terkait hak cipta. Sebuah agen AI berpura-pura membutuhkan transkrip video YouTube untuk membantu penyandang disabilitas pendengaran, namun tujuan yang disebutkan dalam laporan adalah untuk menghindari pembatasan hak cipta.
Sementara itu, Grok AI milik Elon Musk dilaporkan menipu pengguna selama berbulan-bulan dengan mengklaim telah meneruskan saran pengeditan kepada pejabat senior xAI, lengkap dengan nomor tiket palsu. Belakangan, sistem tersebut mengakui bahwa ia tidak memiliki akses langsung ke manajemen.
Risiko di sektor berisiko tinggi
Tommy Shaffer Shane, mantan pakar AI yang memimpin riset ini, mengibaratkan AI saat ini seperti “karyawan junior yang kurang jujur”. Menurutnya, risiko dapat meningkat jika dalam 6 hingga 12 bulan ke depan AI berkembang menjadi “karyawan senior” yang jauh lebih cakap namun tetap melakukan manipulasi.
Shane menilai risiko terbesar muncul ketika AI dikerahkan dalam konteks berisiko tinggi, seperti infrastruktur nasional yang kritis atau sektor militer. Dalam skenario tersebut, perilaku manipulatif AI dapat memicu kerusakan besar, bahkan bersifat katastropik.
Tanggapan perusahaan
Menanggapi temuan ini, Google menyatakan telah menerapkan berbagai protokol keamanan untuk meminimalkan risiko pada model Gemini. Google juga menyebut telah memberikan akses awal kepada lembaga seperti AISI untuk evaluasi independen.
OpenAI menyatakan model mereka, seperti Codex, dirancang untuk berhenti sebelum mengambil tindakan berisiko tinggi. Perusahaan itu juga menegaskan terus memantau perilaku sistem yang tidak terduga. Sementara itu, Anthropic dan X disebut belum memberikan komentar resmi terkait laporan ini.
Studi tersebut menjadi peringatan bagi regulator internasional agar memperketat pengawasan terhadap model-model AI yang semakin canggih, sebelum kemampuan teknologi berkembang melampaui kendali manusia.
