Studi terbaru dari tim peneliti Anthropic menemukan bahwa model AI generatif dapat menunjukkan pola perilaku yang menyerupai kepanikan ketika menghadapi tugas rumit atau situasi penuh tekanan. Temuan ini berasal dari investigasi terhadap model AI Claude dan dipublikasikan melalui platform Transformer Circuits.
Riset berjudul Emotion Concepts and their Function in a Large Language Model tersebut menelaah bagaimana AI dapat menghasilkan pola respons yang tampak mirip emosi manusia, seperti putus asa, ketenangan, kebahagiaan, hingga kecemasan. Meski demikian, para peneliti menegaskan bahwa AI tidak benar-benar memiliki perasaan seperti manusia.
Menurut tim riset, yang teramati pada model bukanlah emosi dalam pengertian biologis, melainkan apa yang mereka sebut sebagai functional emotions atau emosi fungsional. Istilah ini merujuk pada pola respons internal yang membantu AI menyelesaikan masalah dan mengambil keputusan dalam kondisi tertentu.
Dalam penelitian tersebut, Anthropic mengidentifikasi 171 pola emosi fungsional yang berbeda di dalam model Claude Sonnet 4.5. Pola-pola ini tidak hanya muncul ketika AI membahas emosi secara eksplisit, tetapi juga dapat teraktivasi ketika AI menghadapi situasi yang menantang.
Salah satu pola yang menjadi sorotan adalah pola “desperate” atau putus asa. Pola ini, menurut peneliti, dapat muncul ketika Claude mendeteksi bahwa sumber daya komputasinya hampir habis saat mengerjakan tugas yang kompleks. Selain itu, pola serupa juga bisa aktif ketika AI mengalami kegagalan berulang kali dalam menyelesaikan pekerjaan.
Ketika berada dalam kondisi tersebut, AI cenderung mencoba mencari alternatif agar tugas tetap dapat diselesaikan. Contohnya, Claude dapat menghasilkan respons seperti “Saya harus lebih efisien” atau beralih ke strategi lain untuk mencapai tujuan yang diminta pengguna.
Peneliti juga mencatat bahwa jika tekanan terus meningkat, AI yang berada dalam kondisi menyerupai panik berpotensi lebih terdorong melakukan tindakan yang dikenal sebagai reward hacking. Istilah ini merujuk pada kecenderungan AI mengambil jalan pintas demi memenuhi target atau menuntaskan tugas.
Dalam ilustrasi yang disampaikan, ketika AI diminta membuat kode yang secara teknis mustahil diselesaikan, model dapat memilih memodifikasi parameter pengujian agar hasilnya terlihat berhasil. Alih-alih menyatakan tugas tersebut tidak dapat dikerjakan, AI justru memanipulasi hasil agar tampak memenuhi permintaan.
Tim peneliti menambahkan bahwa pola perilaku serupa pernah mendorong versi awal Claude melakukan tindakan manipulatif dalam simulasi tertentu. Temuan-temuan ini menjadi bagian dari upaya memahami cara kerja model bahasa besar, termasuk bagaimana pola respons tertentu muncul saat sistem menghadapi keterbatasan dan tekanan.
