YouTube mulai menguji teknologi deteksi deepfake berbasis kecerdasan buatan (AI) untuk membantu melindungi pejabat pemerintah, kandidat politik, dan jurnalis dari penyalahgunaan kemiripan wajah dalam konten sintetis. Inisiatif ini ditujukan untuk menekan potensi hoaks serta manipulasi identitas di ruang publik digital.
Dalam program uji coba yang saat ini menyasar kelompok tertentu di Amerika Serikat, peserta dapat mengidentifikasi kemunculan wajah mereka pada video yang dibuat atau dimodifikasi menggunakan teknologi AI. Melalui sistem tersebut, peserta dapat melacak kecocokan visual yang terdeteksi di seluruh platform.
Jika ditemukan penggunaan kemiripan wajah tanpa izin, individu yang terdampak dapat mengajukan permintaan penghapusan video kepada YouTube. Namun, platform menegaskan bahwa tidak semua permintaan akan langsung disetujui karena setiap laporan tetap ditinjau berdasarkan pedoman kebijakan privasi, dengan mempertimbangkan keseimbangan antara perlindungan individu dan kebebasan berekspresi.
Vice President of Government Affairs and Public Policy YouTube, Leslie Miller, menyatakan teknologi ini penting untuk menjaga integritas percakapan publik di ruang digital. Menurutnya, risiko peniruan identitas dengan AI dinilai tinggi, terutama bagi mereka yang berada di lingkungan pemerintahan dan sektor publik.
Secara teknis, sistem deteksi kemiripan wajah ini mengadopsi prinsip yang serupa dengan Content ID—teknologi otomatis yang selama ini digunakan YouTube untuk mengidentifikasi pelanggaran hak cipta. Perbedaannya, fitur terbaru difokuskan pada pemindaian wajah yang disimulasikan atau direkonstruksi menggunakan perangkat AI.
Untuk bergabung dalam uji coba, peserta wajib melalui verifikasi identitas. Mereka diminta mengunggah foto diri atau swafoto (selfie) serta kartu identitas resmi pemerintah sebagai bukti keaslian sebelum dapat mengakses sistem pemantauan.
Selain deteksi, YouTube juga mengeksplorasi teknologi yang memungkinkan pencegahan unggahan video bermasalah sebelum tayang. Di sisi lain, perusahaan mempertimbangkan model monetisasi baru yang memungkinkan tokoh publik memperoleh pendapatan apabila kemiripan wajah mereka digunakan dalam konten tertentu, dengan pendekatan yang disebut serupa mekanisme lisensi hak cipta audiovisual.
YouTube menyatakan konten parodi, bernilai berita, maupun kritik politik tetap dilindungi sebagai ekspresi yang sah. Penerapan teknologi ini, menurut perusahaan, akan dilakukan secara hati-hati agar tidak menghambat ruang diskusi publik yang kritis.
Vice President of Creator Products YouTube, Amjad Hanif, menambahkan bahwa platform juga akan menyesuaikan sistem pelabelan untuk konten yang dibuat dengan AI. Visibilitas label akan ditentukan berdasarkan sensitivitas topik: untuk isu sensitif, label peringatan akan ditampilkan lebih mencolok di bagian depan video, sementara untuk konten berisiko rendah seperti animasi atau kreasi digital ringan, label kemungkinan hanya dicantumkan di kolom deskripsi.
Berdasarkan pengujian awal terhadap sekitar 4 juta kreator, YouTube menyebut jumlah permintaan penghapusan terkait kemiripan wajah masih relatif rendah. Sebagian besar kasus yang terdeteksi dinilai tidak berbahaya atau bahkan mendukung aktivitas kreatif dan bisnis kreator.
Dalam konteks regulasi, YouTube juga menyatakan dukungan terhadap rancangan undang-undang NO FAKES Act di tingkat federal Amerika Serikat, yang bertujuan mengatur penggunaan AI dalam menciptakan rekreasi suara maupun visual seseorang tanpa persetujuan yang sah.
Ke depan, YouTube berencana memperluas kemampuan teknologi ini tidak hanya untuk deteksi wajah, tetapi juga pengenalan suara serta perlindungan berbagai bentuk kekayaan intelektual lainnya. Langkah tersebut disebut sebagai bagian dari strategi jangka panjang perusahaan dalam menghadapi ancaman media sintetis yang terus berkembang.
