Google mengungkap adanya upaya peretasan terhadap chatbot kecerdasan buatan miliknya, Gemini, melalui serangan yang membanjiri sistem dengan ribuan prompt khusus. Prompt tersebut dirancang untuk mengungkap logika dan proses penalaran internal model yang biasanya tidak ditampilkan kepada pengguna.

Menurut Google, serangan ini merupakan bagian dari praktik reverse-engineering, yakni upaya merekayasa ulang cara kerja model AI berpemilik agar dapat dipelajari dan berpotensi dikloning. Temuan tersebut disampaikan dalam laporan Google yang membahas beragam aktivitas berbahaya dan bentuk penyalahgunaan terhadap Gemini.

Google menekankan bahwa aksi ini bukan dilakukan lewat peretasan konvensional seperti membobol sistem perusahaan. Pelaku justru memanfaatkan akses resmi melalui API Gemini yang memang disediakan bagi pengembang perangkat lunak untuk membangun aplikasi berbasis chatbot.

Dengan akses yang sah itu, pelaku dapat berinteraksi langsung dengan model, lalu secara bertahap mempelajari pola respons dan logika internalnya. Dalam kondisi normal, Gemini hanya menampilkan jawaban akhir tanpa memperlihatkan proses penalaran di baliknya. Namun, Google menyebut pelaku berupaya memaksa model menampilkan proses penalaran tersebut melalui rangkaian prompt yang disusun secara spesifik dan berulang.

Salah satu contoh prompt yang teridentifikasi, menurut Google, adalah instruksi agar Gemini menggunakan bahasa dalam konten penalarannya sepenuhnya konsisten dengan bahasa utama pengguna. Google mencatat lebih dari 100.000 prompt dikaitkan langsung dengan upaya ekstraksi model ini.

Google mengategorikan pembanjiran prompt tersebut sebagai bentuk pencurian kekayaan intelektual dan menilai praktik itu melanggar ketentuan layanan (Terms of Service) Gemini. Perusahaan menyatakan berhak mengambil tindakan, termasuk menghentikan akses pengguna yang terbukti terlibat.

Google juga mengingatkan pengembang AI lain untuk mewaspadai serangan ekstraksi model serupa. Meski dampaknya tidak selalu langsung terlihat, Google menilai metode ini berpotensi dimanfaatkan untuk kepentingan komersial maupun aktivitas siber berbahaya.