Etika dalam penggunaan teknologi kecerdasan buatan (AI) menjadi tantangan yang perlu diantisipasi oleh para pengguna. Nezar menyoroti sedikitnya tiga isu utama yang kerap muncul, yakni bias, transparansi dan akuntabilitas, serta privasi dan keamanan data.

Menurut Nezar, persoalan bias berakar dari manusia, dalam hal ini pengembang AI. Ia menilai manusia memiliki kepercayaan tertentu terhadap suatu hal, yang kemudian dapat memengaruhi pengembangan sistem. Selain itu, data yang digunakan AI juga diambil dari sumber-sumber yang sudah mengandung bias tertentu.

Bias tersebut disebut beragam, mulai dari ras, suku, hingga agama. Kondisi ini membuat hasil olahan data AI berpotensi mendorong atau menguntungkan kelompok masyarakat tertentu.

Tantangan berikutnya adalah transparansi dan akuntabilitas. Nezar menyebut banyak sistem AI bekerja layaknya “black box” atau kotak hitam, karena proses internalnya sulit dipahami. “Jadi kadang-kadang sulit ditebak dengan model yang ada, dan sudah banyak riset juga bagaimana memecahkan persoalan black box dalam prosesing data yang dilakukan oleh artificial intelligence ini,” kata Nezar.

Situasi tersebut berdampak pada sulitnya menilai proses pengambilan keputusan oleh AI, sekaligus menyulitkan penentuan pihak yang bertanggung jawab atas keputusan yang dihasilkan teknologi tersebut.

Isu ketiga berkaitan dengan privasi, keamanan, dan pengawasan. Nezar mengatakan AI membutuhkan data dalam jumlah besar agar dapat menghasilkan keputusan yang efektif. Kebutuhan data yang masif ini memunculkan tantangan tersendiri terkait perlindungan privasi dan keamanan.