Kemunculan teknologi baru kerap diikuti kekhawatiran mengenai etika dalam pengembangan maupun penggunaannya. Di Indonesia, pembahasan implikasi etik teknologi dinilai belum menjadi perhatian utama, terutama di tengah kehadiran artificial intelligence (AI) yang semakin dirasakan publik.

Teknologi juga berkembang dalam tahap yang berbeda-beda. Sebagian sudah mapan dalam penerapan, sementara yang lain masih berada pada tahap awal penelitian dan pengembangan (R&D). Dalam situasi ini, identifikasi awal dan evaluasi isu etika dipandang penting untuk meminimalkan dilema moral yang berpotensi muncul di masa depan, terlebih ketika teknologi semakin lumrah digunakan dan kadang tidak disadari perannya dalam kehidupan sehari-hari.

Pentingnya identifikasi etik sejak tahap R&D

Upaya identifikasi isu etika disebut perlu dilakukan sejak tahap R&D, sebelum produk teknologi digunakan secara luas oleh publik. Inisiasi sejak dini dinilai dapat membantu pengguna dan aktor sosial lain memiliki persiapan lebih baik menghadapi persoalan di masa mendatang, sekaligus mengarahkan riset dan pengembangan agar meminimalkan konsekuensi yang tidak diinginkan secara etika.

Dua pendekatan awal: generik dan prediksi

Philip A.E. Brey dalam tulisan Anticipatory Ethic for Emerging Technologies (2012) menyebut studi etika pada teknologi yang baru muncul berhadapan dengan masalah epistemologi, yakni ketidakpastian terkait perangkat, aplikasi, penggunaan, serta konsekuensi sosial di masa depan. Pada tahap ini, terdapat dua pendekatan yang lazim digunakan: pendekatan generik dan pendekatan prediksi (forecasting).

• Pendekatan generik membatasi analisis etika pada kualitas umum teknologi baru. Contohnya, pada awal pengembangan teknologi nuklir, sudah diketahui potensi masalah limbah radioaktif. Dalam pengembangan teknologi genetika, sejak awal juga dipahami bahwa prosesnya melibatkan modifikasi material genetik yang dipandang kontroversial secara moral.
• Pendekatan prediksi berfokus pada perkiraan konsekuensi penggunaan teknologi di masa depan. Misalnya, ahli etika memprediksi pemanfaatan nanoteknologi dalam kesehatan, lalu menganalisis isu etis yang mungkin muncul dari perangkat berbasis nanoteknologi.

Empat pendekatan peramalan etika teknologi

Dalam beberapa tahun terakhir, pendekatan peramalan terhadap etika teknologi semakin mendapat perhatian. Setidaknya ada empat pendekatan yang digunakan untuk mengevaluasi implikasi etik dari pengembangan teknologi baru.

• Ethical Technology Assessment (eTA) yang dikembangkan Elin Palm dan Sven Ove Hansson menawarkan identifikasi efek buruk teknologi baru melalui evaluasi praktik pada tahap awal pengembangan. Pendekatan ini menitikberatkan dialog dengan pengembang teknologi untuk memberi panduan dan umpan balik bagi perancang serta pembuat kebijakan.
• Techno-ethical Scenario Approach mengidentifikasi dampak “lunak” teknologi, seperti perubahan cara manusia menginterpretasikan nilai moral atau perubahan tingkat kepentingan suatu prinsip moral. Marianne Boenink, Tsjalling Swierstra, dan Dirk Stemerding mencontohkan privasi yang bisa menjadi kurang penting dalam masyarakat ketika informasi pribadi merajalela. Teknologi juga dapat memengaruhi konsep tanggung jawab manusia ketika pengambilan keputusan didukung sistem pakar.
• Ethical Issues of Emerging ICT Applications (ETICA) bertujuan memberi gambaran menyeluruh tentang masalah etika pada teknologi informasi dan komunikasi yang sedang muncul, khususnya yang diperkirakan terjadi pada masa depan jangka menengah.
• Anticipatory Technology Ethics (ATE) yang ditawarkan Brey membedakan tiga tingkat analisis etika: level teknologi, artefak, dan aplikasi.

Meski menghasilkan keluaran yang berbeda, pendekatan-pendekatan tersebut memiliki tujuan serupa, yakni memprediksi implikasi etik sebuah teknologi ketika teknologi masih berada pada tahap pengembangan dan belum digunakan luas oleh masyarakat.

Tantangan AI dan kebutuhan evaluasi di Indonesia

Perkembangan AI telah dirasakan masyarakat Indonesia, salah satunya melalui chat.openai.com yang memungkinkan pengguna berdialog dengan mesin pembelajar yang dapat berpikir analitis sekaligus memberikan rekomendasi. Namun, perkembangan AI di Indonesia disebut belum sepenuhnya terarah.

Sosiolog Universitas Indonesia, Meuthia Ganie-Rochman, menyampaikan bahwa tujuan bangsa dalam mengembangkan dan mengelola AI belum jelas dan perhatian lebih banyak tertuju pada kemampuan teknisnya. Dalam webinar yang diadakan dalam rangka HUT ke-6 Kompas.id pada Selasa (7/3/2023), ia menyoroti potensi dampak negatif penggunaan AI tanpa regulasi yang baik, antara lain keamanan data, surveilans kapitalisme, echo chamber, menciptakan ketergantungan, hingga memecah kohesi masyarakat melalui distorsi dan manipulasi fakta.

Merujuk laporan Big Data Society, isu etika dan moral serta implikasinya terhadap kesejahteraan masyarakat disebut selama ini tidak menjadi fokus industri pengembang AI. Kapasitas untuk penyesuaian atas persoalan tersebut juga dinilai terabaikan, yang tercermin dari studi terhadap model-model pelatihan AI yang dilakukan oleh raksasa digital.

Meuthia menekankan perlunya upaya nyata untuk membangun ekosistem pemanfaatan teknologi yang aman bagi masyarakat. Ia juga menyoroti urgensi negara menegakkan mekanisme evaluasi dengan melibatkan akademisi lintas disiplin guna mencegah penyimpangan dan ketimpangan dalam pemanfaatan teknologi.