Meta dilaporkan tengah mengembangkan alat pendeteksi konten berbasis kecerdasan buatan (AI) untuk membantu mengidentifikasi materi yang dibuat oleh AI di platform miliknya. Pengembangan ini muncul di tengah meningkatnya fenomena yang dikenal sebagai AI slop, yakni banjir konten berkualitas rendah hasil sistem generatif yang menyebar luas di internet dan media sosial.
Fenomena tersebut disebut ikut terdorong oleh kemajuan teknologi AI generatif, termasuk yang dikembangkan oleh Meta. Seiring makin mudahnya pembuatan gambar, teks, dan video melalui AI, volume konten sintetis di berbagai platform digital meningkat tajam. Kondisi ini membuat pengguna semakin sulit membedakan konten asli dengan konten buatan mesin.
Laporan yang dikutip Digital Trends menyebutkan, fitur pendeteksi AI itu ditemukan dalam tahap pengembangan internal pada sistem Meta AI. Alat tersebut diperkirakan dirancang untuk membantu pengguna mengetahui apakah suatu konten di platform Meta dibuat menggunakan AI atau tidak.
Jika dirilis secara resmi, teknologi ini dinilai dapat meningkatkan transparansi di layanan seperti Facebook, Instagram, dan Threads, terutama di tengah meningkatnya kekhawatiran terkait penyebaran deepfake dan informasi menyesatkan.
Namun, mendeteksi konten yang dihasilkan AI bukan perkara sederhana. Banyak sistem generatif modern mampu menghasilkan gambar atau teks yang terlihat sangat realistis, sehingga sulit dibedakan dari karya manusia. Sejumlah platform media sosial saat ini telah menerapkan label khusus untuk konten yang dibuat atau dimodifikasi dengan AI sebagai upaya meningkatkan transparansi dan membantu pengguna memahami asal konten yang mereka lihat.
Meski begitu, pendekatan pelabelan juga menghadapi tantangan. Konten AI yang dibuat dengan alat pihak ketiga tidak selalu meninggalkan jejak metadata atau watermark yang mudah dideteksi, sehingga berpotensi lolos dari sistem penandaan.
Pengembangan alat pendeteksi ini menjadi bagian dari upaya yang lebih luas untuk mengatasi risiko misinformasi, deepfake, dan manipulasi digital di platform media sosial. Dengan volume konten AI yang terus bertambah, perusahaan teknologi disebut mulai mencari cara baru untuk meningkatkan transparansi dan menjaga kepercayaan pengguna terhadap informasi yang beredar di internet.
Apabila berhasil diimplementasikan, alat tersebut dapat menjadi salah satu langkah penting untuk membantu pengguna memahami apakah konten yang mereka temui di media sosial berasal dari manusia atau dari sistem kecerdasan buatan.
