Kekhawatiran bahwa kecerdasan buatan (AI) bisa disalahgunakan untuk kejahatan siber kini mulai terlihat wujudnya. Temuan terbaru menunjukkan peretas dilaporkan sudah menggunakan AI untuk menemukan sekaligus menyerang celah keamanan pada perangkat lunak tertentu.
Fenomena tersebut diungkap tim peneliti Google Threat Intelligence Group (GTIG). Mereka mendeteksi adanya eksploitasi zero-day—penyusupan melalui celah keamanan yang belum diketahui pengembang—yang diduga dikembangkan dengan bantuan AI generatif.
“Untuk pertama kalinya, GTIG mengidentifikasi pelaku kejahatan siber yang menggunakan eksploitasi zero-day yang kami yakini dikembangkan dengan AI,” tulis Google dalam laporan resminya.
Menurut GTIG, eksploitasi itu menargetkan sebuah alat administrasi sistem berbasis web open-source yang populer, namun nama perangkat lunaknya tidak diungkap. Melalui celah yang dibobol tersebut, peretas disebut dapat melewati autentikasi dua faktor (2FA) untuk masuk ke sistem korban.
Jika berhasil, akses itu memungkinkan perangkat pengguna diambil alih dan data di dalamnya dicuri. Meski demikian, Google menyatakan serangan tersebut berhasil dihentikan sebelum berkembang menjadi eksploitasi massal. Google juga mengklaim telah memberi tahu pengembang perangkat lunak terkait agar segera melakukan mitigasi dan menutup celah keamanan yang ada.
Dalam analisisnya, Google menilai rangkaian kode eksploitasi berbasis Python itu kemungkinan dibuat dengan bantuan large language model (LLM), yakni model yang menjadi salah satu komponen utama di balik berbagai produk AI. Indikasi tersebut terlihat dari struktur kode yang dinilai sangat rapi, adanya docstring yang bersifat edukatif, serta format penulisan Python yang dianggap khas hasil generasi AI.
Peneliti juga menemukan adanya skor CVSS (penilaian tingkat kerentanan) palsu yang diduga merupakan hasil “halusinasi” AI di dalam kode. Selain itu, jenis celah yang dieksploitasi—berupa bug logika semantik tingkat tinggi—dinilai turut memperkuat dugaan penggunaan AI, karena tipe kelemahan ini dianggap lebih mudah dikenali AI dibanding metode tradisional seperti fuzzing atau static analysis.
Meski menyebut adanya keterlibatan AI, Google tidak mengungkap model AI apa yang digunakan pelaku. Google juga menegaskan eksploitasi tersebut bukan dibuat menggunakan AI Gemini.
