Perkembangan kecerdasan buatan (Artificial Intelligence/AI) kerap memunculkan kekaguman. Pengalaman pertama berinteraksi dengan chatbot, misalnya, bisa terasa mengesankan karena responsnya cepat dan terlihat memahami kebutuhan pengguna. Namun, di balik kemudahan itu, muncul pertanyaan yang lebih besar: bagaimana dampak AI terhadap kehidupan manusia ketika teknologi ini mulai mengambil keputusan penting?
Pertanyaan tersebut mengemuka setelah muncul kisah seorang pelamar kerja yang ditolak oleh sistem rekrutmen otomatis berbasis AI. Penolakan disebut terjadi karena pelamar berasal dari daerah dengan tingkat pendidikan rendah, meski ia dinilai memiliki semangat dan kompetensi yang tidak kalah dari pelamar lain. Kasus ini menjadi pengingat bahwa AI dapat menghasilkan keputusan yang keliru atau tidak adil, terutama bila sistemnya dibangun dari data dan asumsi yang bias.
Situasi itu menunjukkan AI bukan hanya urusan teknologi canggih. Sistem berbasis AI menyentuh nilai-nilai sosial dan dapat memperkuat ketimpangan jika tidak diawasi. Meski demikian, masih banyak orang memandang AI sebagai ranah teknisi atau ilmuwan semata, padahal penerapannya sudah hadir dalam berbagai aspek kehidupan.
AI kini digunakan, antara lain, pada aplikasi keuangan dan pinjaman online, fitur pengenalan wajah di ponsel, platform belajar daring untuk anak, hingga sistem distribusi bantuan sosial serta penilaian kinerja pegawai. Meluasnya pemakaian ini memunculkan kebutuhan untuk mengajukan pertanyaan mendasar: siapa yang mengendalikan teknologi tersebut, apakah keputusan AI dapat dipertanggungjawabkan, dan seberapa aman data pribadi pengguna.
Di sisi lain, literasi etika digital disebut masih rendah. Data UNESCO menyebut hanya 17% masyarakat di negara berkembang yang menyadari AI bisa bias jika dilatih dengan data yang tidak adil. Sementara itu, lebih dari 70% pengguna internet Indonesia disebut belum memahami bagaimana data mereka dikumpulkan dan digunakan oleh sistem berbasis AI.
UNESCO pada November 2021 mengadopsi Recommendation on the Ethics of Artificial Intelligence, yang disebut sebagai dokumen standar global pertama mengenai etika AI. Dokumen ini berlaku bagi 193 negara, termasuk Indonesia. Dalam rekomendasi tersebut, UNESCO menekankan perlindungan martabat manusia, keamanan dan transparansi penggunaan AI, pencegahan diskriminasi, pelanggaran privasi, serta kerusakan lingkungan, dan menempatkan manusia sebagai pusat dari semua keputusan AI.
Intinya, AI dapat berkembang semakin pintar, tetapi kendali tetap perlu berada di tangan manusia. Karena itu, keterlibatan publik tidak harus menunggu menjadi ahli komputer. Salah satu langkah yang bisa dilakukan adalah menjadi pengguna yang kritis, terutama sebelum menyerahkan data pribadi. Pengguna dapat mempertanyakan alasan data diminta, untuk apa digunakan, dan apakah data tersebut dapat dihapus.
Selain itu, kesadaran mengenai etika AI dapat disebarkan melalui diskusi di lingkungan pendidikan, keluarga, maupun komunitas. Istilah teknis dapat diterjemahkan ke dalam contoh sederhana agar mudah dipahami. Salah satu analoginya, AI dapat diibaratkan seperti anak yang belajar dari lingkungan; jika lingkungan belajarnya rasis atau tidak adil, hasilnya pun berpotensi membawa bias serupa.
Dengan AI yang semakin terintegrasi dalam layanan publik dan kehidupan sehari-hari, pembahasan mengenai etika, akuntabilitas, dan perlindungan data menjadi bagian penting agar teknologi tidak justru memperlebar ketimpangan yang ingin diatasi.
