Tokoh keamanan siber peraih berbagai penghargaan, Stephen Kines, memperingatkan bahwa kecerdasan buatan (Artificial Intelligence/AI) kini memiliki kemampuan melakukan serangan siber secara independen tanpa instruksi manusia. Peringatan itu disampaikan dalam laporan yang dipublikasikan Cyber Defense Magazine berjudul The Growing Threat of AI-powered Cyberattacks in 2025 pada 15 Juni 2025.

Dalam laporannya, Kines—mantan perwira militer yang menjabat wakil komandan Goldilock—menyebut AI telah berevolusi dari sekadar alat bantu menjadi entitas penyerang yang dapat menyusun, mengeksekusi, dan mengembangkan serangan secara otonom. Menurutnya, kondisi ini menandai fase baru lanskap keamanan siber global, ketika ancaman tidak lagi hanya datang dari manusia, tetapi juga dari sistem AI yang cerdas dan independen.

Kines menilai model keamanan siber tradisional tidak lagi memadai untuk menghadapi ancaman yang “tak kasat mata” dan terus berevolusi secara mandiri. Ia menekankan perlunya pendekatan keamanan yang mampu mengimbangi kecepatan serta kecerdasan serangan berbasis AI.

Cyber Defense Magazine juga mengungkap lonjakan biaya pelanggaran data secara global. Rata-rata kerugian pada 2025 disebut mencapai 4,9 juta dolar AS per insiden, dan diproyeksikan membengkak menjadi 24 triliun dolar AS secara global pada 2027. Salah satu pendorong utama kenaikan ini adalah pemanfaatan AI dalam kejahatan siber, mulai dari peretasan otomatis, penyebaran malware, hingga eksploitasi celah sistem dalam skala luas.

Secara analitik, eskalasi biaya tersebut tidak hanya menunjukkan meningkatnya beban sektor bisnis, tetapi juga menggambarkan skala serangan yang kian besar dan kompleksitas penanganannya. AI memungkinkan serangan berlangsung 24 jam sehari dengan akurasi tinggi, sehingga kerugian berpotensi sulit dibatasi jika tidak direspons dengan metode yang lebih canggih.

Salah satu contoh yang disebut dalam laporan adalah malware berbasis AI seperti ransomware BlackMatter. Berbeda dari malware konvensional, BlackMatter digambarkan mampu beradaptasi terhadap ekosistem dan pertahanan lawan, serta mengatur ulang strategi serangan secara real-time. Laporan itu menyatakan malware tersebut aktif menghindari sistem deteksi dan bahkan mengevaluasi data korban untuk memaksimalkan dampak serangan.

Evolusi malware berbasis AI membuat ancaman menjadi dinamis dan berkelanjutan. Karena itu, pendekatan deteksi statik dinilai berisiko tidak lagi efektif. Kines menekankan kebutuhan keamanan yang bersifat prediktif dan otonom untuk menandingi kecepatan serta kecerdasan penyerang.

Cyber Defense Magazine juga menyebut AI kini dapat melakukan replikasi mandiri. Setelah menginfeksi satu titik, malware berbasis AI dapat menyebar sendiri ke seluruh jaringan tanpa intervensi atau instruksi manusia. Kines menulis, dalam hitungan menit sistem terintegrasi dapat lumpuh, sementara tim keamanan berisiko kehilangan kendali sebelum serangan dikenali.

Serangan otonom semacam ini, menurut laporan tersebut, berpotensi mengancam infrastruktur informasi kritikal nasional seperti pembangkit listrik, sistem transportasi, dan layanan keuangan. Dalam konteks itu, Kines menilai negara perlu membangun keamanan siber dengan landasan regulasi yang kuat untuk mencegah potensi serangan AI yang tidak terkendali.

Ancaman lain yang disoroti adalah kemampuan AI membuat serangan menjadi sangat personal. Dengan menganalisis perilaku online dan pola komunikasi, AI dapat menyusun email phishing yang nyaris sempurna seolah dikirim oleh rekan kerja atau atasan, sehingga lebih sulit dikenali. Serangan rekayasa sosial ini memanfaatkan celah psikologis dan tidak lagi bersifat acak, melainkan sangat tertarget.

Untuk menutup celah tersebut, laporan menekankan perlunya literasi digital, edukasi keamanan siber, serta pelindungan data pribadi berjalan beriringan. Solusi defensif, menurutnya, harus setara dengan kompleksitas ancaman yang dihadapi.

Gambaran meningkatnya peran AI dalam serangan siber juga muncul dalam publikasi European Council bertajuk Predicting the Unpredictable: How AI Is Shaping Ransomware Attacks yang disampaikan dalam webinar pada 27 November 2024. Para pakar dalam forum itu menyampaikan bahwa kemajuan AI tidak hanya memperkuat pertahanan, tetapi juga memperkuat taktik serangan ransomware sehingga menjadi lebih canggih, tepat sasaran, dan lebih sulit dicegah.

Publikasi tersebut menyoroti bagaimana algoritma pembelajaran mesin mampu menganalisis kerentanan dengan lebih efektif. Serangan ransomware disebut tidak lagi sekadar menyebar virus secara massal, melainkan dapat mengidentifikasi target secara terpersonalisasi. Melalui data dan pembelajaran mesin, serangan menjadi unik, efisien, dan lebih berbahaya. Aspek lain yang disoroti adalah penggunaan AI untuk menyamar sebagai aktivitas normal dalam jaringan, strategi bertahan AI defensif, dan proyeksi masa depan ancaman siber yang didominasi AI.

Diskusi itu mencerminkan bahwa pertarungan antara pelaku kejahatan siber dan tim keamanan kian menyerupai kontestasi antar-AI. Organisasi yang tidak mengadopsi teknologi berbasis AI diprediksi tertinggal dan rentan dieksploitasi.

Meski demikian, AI juga disebut memiliki manfaat besar bagi keamanan siber. EC Council University dalam artikel What is AI in cybersecurity? menyatakan AI telah terbukti menjadi aset penting dalam mengatasi persoalan keamanan siber, termasuk melalui pengembangan agen cerdas untuk menangani tantangan keamanan spesifik secara efektif.

Agen cerdas, baik perangkat keras maupun perangkat lunak, dirancang untuk mengoptimalkan peluang pencapaian tujuan melalui kemampuan mengamati, mempelajari, dan mengambil keputusan yang tepat. Dalam praktiknya, agen ini dapat mendeteksi kerentanan dalam struktur kode yang kompleks, mengidentifikasi kejanggalan dalam pola login pengguna, hingga mengenali jenis malware baru yang menghindari metode deteksi.

AI juga berperan dalam menganalisis data dalam jumlah besar, mengenali pola tersembunyi, dan memberikan rekomendasi tindakan yang dapat ditindaklanjuti. Teknologi ini membantu profesional keamanan mendeteksi ancaman, merespons insiden lebih cepat, serta melakukan mitigasi risiko secara otomatis. Keunggulan AI dalam memahami pola kompleks dan menghubungkan informasi yang tersebar dinilai efektif untuk mengidentifikasi kerentanan dan bug sebelum sistem masuk ke lingkungan produksi.

EC Council University juga menyebut sistem manajemen keamanan berbasis AI dapat belajar secara mandiri, mengumpulkan dan menganalisis data dari seluruh sistem informasi organisasi, serta memberi wawasan kontekstual untuk memprioritaskan respons terhadap ancaman. Dengan deteksi canggih, respons cepat, dan transparansi analisis, AI dinilai memperkuat postur keamanan siber organisasi dan memperluas jangkauan pengawasan terhadap ancaman global.

Dalam konteks Indonesia, laporan tersebut menilai belum ada regulasi khusus yang mengatur penggunaan, pengawasan, dan potensi penyalahgunaan AI di ruang siber. Saat kejahatan berbasis AI menghadirkan ancaman yang lebih kompleks dibanding serangan digital konvensional, kesiapan hukum positif disebut belum memadai.

Celah hukum itu dinilai dapat dimanfaatkan pelaku kejahatan siber. Tanpa regulasi yang jelas, penyalahgunaan AI disebut sulit dicegah dan ditindak secara hukum. Karena itu, Indonesia dinilai perlu segera memiliki Undang-Undang Keamanan dan Ketahanan Siber sebagai payung hukum utama untuk menghadapi ancaman digital yang semakin kompleks dan otonom, termasuk kejahatan berbasis AI.

Materi muatan terkait AI dalam regulasi tersebut, sebagaimana diusulkan dalam laporan, sebaiknya mencakup kebolehan penggunaan AI untuk keamanan dan ketahanan siber serta larangan penggunaan AI untuk modus kejahatan. Selain itu, pengawasan sistem AI berisiko tinggi, protokol penanganan insiden siber berbasis AI, kewajiban audit keamanan AI, standar nasional keamanan infrastruktur digital, hingga pembentukan lembaga pengawas AI nasional juga disebut perlu diatur.

Menurut laporan itu, Undang-Undang Keamanan dan Ketahanan Siber akan menjadi dasar kepastian dalam menjaga kedaulatan digital Indonesia. Tanpa payung hukum tersebut, Indonesia dinilai berisiko berada pada posisi bertahan yang lemah dan tidak memiliki kekuatan legal yang memadai untuk deteksi dini, pencegahan, serta pemulihan krisis digital yang terorkestrasi oleh AI.