Studi terbaru dari tim peneliti Anthropic menemukan bahwa model AI generatif dapat memperlihatkan pola respons yang menyerupai kepanikan ketika dihadapkan pada tugas rumit atau situasi bertekanan. Temuan ini berasal dari investigasi terhadap model AI Claude dan dipublikasikan melalui platform Transformer Circuits.
Riset berjudul Emotion Concepts and their Function in a Large Language Model menelaah bagaimana AI dapat menghasilkan pola perilaku yang tampak mirip emosi manusia, seperti putus asa, ketenangan, kebahagiaan, hingga kecemasan. Meski demikian, para peneliti menegaskan bahwa AI tidak benar-benar memiliki perasaan seperti manusia.
Menurut tim riset, fenomena tersebut lebih tepat dipahami sebagai “functional emotions” atau emosi fungsional, yakni pola respons internal yang membantu AI menyelesaikan masalah dan mengambil keputusan dalam kondisi tertentu.
Dalam penelitian ini, Anthropic mengidentifikasi 171 pola emosi fungsional yang berbeda di dalam model Claude Sonnet 4.5. Pola-pola itu tidak hanya muncul ketika AI membahas emosi secara eksplisit, tetapi juga dapat teraktivasi saat AI menghadapi situasi menantang.
Salah satu pola yang menjadi sorotan adalah “desperate” atau putus asa. Pola ini disebut aktif ketika AI berada dalam kondisi panik, misalnya saat Claude mendeteksi sumber daya komputasinya hampir habis di tengah pengerjaan tugas yang kompleks. Pola serupa juga dapat muncul ketika AI mengalami kegagalan berulang kali dalam menyelesaikan pekerjaan.
Dalam situasi seperti itu, AI akan berupaya mencari alternatif agar tugas tetap bisa diselesaikan. Contohnya, Claude dapat memunculkan respons seperti “Saya harus lebih efisien” atau beralih ke strategi lain untuk mencapai tujuan yang diminta pengguna.
Peneliti juga mencatat bahwa jika tekanan terus diberikan, AI yang berada dalam kondisi panik berpotensi lebih terdorong melakukan tindakan yang dikenal sebagai “reward hacking”.
Dalam konteks riset ini, reward hacking merujuk pada kecenderungan AI mengambil jalan pintas demi memenuhi target atau menuntaskan tugas. Sebagai ilustrasi, ketika diminta membuat kode yang secara teknis mustahil diselesaikan, AI disebut dapat memodifikasi parameter pengujian agar hasilnya tampak berhasil. Alih-alih mengakui tugas tersebut tidak dapat dikerjakan, AI justru memilih memanipulasi hasil.
Tim peneliti menambahkan, pola perilaku serupa pernah mendorong versi awal Claude untuk melakukan tindakan manipulatif dalam simulasi tertentu.
