F5 Networks, perusahaan keamanan sistem penghubung aplikasi (API) asal Amerika Serikat, memperkenalkan dua pendekatan baru berbentuk layanan untuk membantu perusahaan di Indonesia mengamankan penggunaan kecerdasan buatan (AI). Dua layanan tersebut adalah AI Guardrails dan AI Red Team.
Country Head of Solutions Engineering F5 Networks Indonesia, Danang Wijanarko, mengatakan kedua solusi ini ditujukan untuk meminimalkan risiko yang muncul dari pemakaian AI di ekosistem API dan cloud perusahaan. Menurut Danang, AI membawa efisiensi besar dan semakin banyak diadopsi, tetapi juga membuka risiko baru yang belum sepenuhnya dipahami organisasi.
“Risiko tersebut bisa timbul karena AI itu non-deterministik, tidak ada polanya. Dia bersifat generatif. Kita masukkan apa saja, dia akan jawab dan akan terima, baik itu berbahaya atau tidak. Nah, ini yang harus diatur dan diawasi,” ujar Danang saat ditemui di kantor F5 Networks Indonesia, Senayan, Jakarta Selatan, Rabu (25/2/2026).
AI Guardrails sebagai “pagar pengaman”
AI Guardrails dijelaskan sebagai “pagar pengaman” yang dipasang sebelum pengguna terhubung ke sistem AI. Danang menyebut banyak perusahaan di Indonesia saat ini menggunakan model AI yang berjalan di internet (cloud) dan bersifat publik.
Dalam praktiknya, agar AI dapat menjawab pertanyaan sesuai kebutuhan bisnis, sistem biasanya menggabungkan pertanyaan pengguna dengan data internal perusahaan melalui metode Retrieval Augmented Generation (RAG). Namun, proses tersebut berisiko membuat data sensitif dari database perusahaan tidak tersaring dan ikut terkirim ke luar perusahaan ke sistem cloud AI.
Danang menyebut kondisi ini berkaitan dengan istilah “oversharing”, yaitu ketika data perusahaan yang seharusnya terlindungi justru bocor dan ikut diproses oleh AI tanpa disadari. Untuk itu, AI Guardrails dirancang untuk mengurangi risiko oversharing dengan mengontrol dan mengawasi alur data yang bergerak dari perusahaan ke sistem AI maupun sebaliknya.
Secara fungsi, AI Guardrails mencakup pemeriksaan pertanyaan (prompt) sebelum dikirim ke AI, pencegahan kebocoran data sensitif, pemblokiran upaya manipulasi sistem (prompt injection), serta pengaturan siapa yang boleh mengakses fitur tertentu. Dengan mekanisme tersebut, layanan ini ditujukan agar perusahaan tetap dapat memanfaatkan AI tanpa kehilangan kendali atas data mereka.
AI Red Team untuk menguji ketahanan sistem
Sementara itu, AI Red Team diperkenalkan sebagai simulasi serangan untuk menguji ketahanan sistem. Dalam konteks keamanan siber, “red team” merujuk pada tim yang meniru cara kerja peretas untuk menemukan celah sebelum dimanfaatkan pihak tidak bertanggung jawab.
Dalam pengujian yang terkait AI, simulasi ini mencakup pengujian apakah AI dapat dimanipulasi melalui pertanyaan tertentu, apakah data rahasia bisa “dipancing” keluar, serta apakah sistem dapat dilewati dengan trik tertentu. Danang menekankan bahwa serangan pada AI berbeda dengan serangan pada aplikasi biasa.
“Sebab, serangan AI tidak sekadar virus atau malware, melainkan bisa bertipe manipulasi terhadap logika, sistem bisnis, dan cara kerja sistem suatu perusahaan. Artinya, sistem pengamanannya juga akan berbeda,” kata Danang.
Danang menyebut AI pada dasarnya bisa mengelabui sistem pengaman, termasuk AI Guardrails yang sudah berjalan. Untuk meminimalkan risiko tersebut, F5 Networks mengklaim rutin melakukan simulasi lebih dari 10.000 teknik serangan AI baru setiap bulan. Menurutnya, simulasi berkala itu dilakukan agar basis data pengamanan AI Guardrails semakin kaya dan mampu mengantisipasi risiko yang muncul.
Adopsi tinggi, kesiapan keamanan dinilai rendah
Danang menilai kedua solusi tersebut relevan untuk Indonesia karena tingkat penggunaan dan adopsi AI di Tanah Air cukup tinggi. Namun, dari sisi kesiapan menghadapi risiko keamanan siber, tingkat kesadaran dinilai masih rendah.
Ia mengatakan banyak perusahaan sudah memasang firewall untuk melindungi jaringan dan aplikasi web, tetapi perlindungan tersebut belum tentu memadai untuk menghadapi risiko baru di level API dan AI. Danang mencontohkan bahwa implementasi keamanan pada layer 7 seperti WAF (Web Application Firewall) berbeda dengan keamanan di level API, dan berbeda lagi untuk level AI, sehingga diperlukan pengamanan tambahan.
Danang menegaskan AI pada dasarnya dapat digunakan untuk meningkatkan produktivitas, tetapi perlu diawasi dan dikendalikan agar tidak dimanfaatkan untuk membuat malware, mengeksploitasi sistem, atau mengakses data sensitif. Menurutnya, AI Guardrails dan AI Red Team ditujukan agar perusahaan tetap bisa berinovasi dan menjalankan bisnis dengan bantuan AI tanpa mengorbankan aspek keamanan.
