Perkembangan teknologi digital terus melaju, didorong oleh kekuatan komputasi awan dan akumulasi data dalam skala besar. Di tengah perubahan itu, kecerdasan buatan (AI) kian hadir dalam kehidupan sehari-hari dan diperkirakan membuat perilaku komputer semakin menyerupai manusia.

Pertanyaan yang mengemuka kemudian adalah bagaimana transformasi global ini akan memengaruhi individu dan masyarakat, serta aturan apa yang perlu disiapkan untuk memandu kemajuan di dunia digital.

Etika sebagai pertanyaan dasar

President Microsoft, Brad Smith, menilai pembahasan AI perlu dimulai dari pertanyaan etika yang mendasar: bukan hanya apa yang dapat dilakukan komputer, melainkan apa yang seharusnya mereka lakukan. Ia menyampaikan pandangan tersebut kepada pengacara, pembuat kebijakan, dan akademisi saat berkunjung ke Singapura pada 6 April, di negara-kota yang dikenal memiliki rekam jejak kuat dalam merangkul teknologi dan inovasi.

Smith mengingatkan bahwa meski para pengembang wajar merasa antusias terhadap produk inovatif yang mereka ciptakan, masyarakat tidak bisa lagi memandang masa depan tanpa sikap kritis. Ketika komputer mulai bertindak layaknya manusia, menurutnya, tantangan sosial baru akan muncul. Karena itu, ia menekankan perlunya bukan hanya visi teknologi untuk AI, tetapi juga visi etika.

Ia menambahkan, isu etika tidak semestinya hanya menjadi urusan insinyur dan perusahaan teknologi. Hal ini menjadi relevan seiring semakin banyak orang dan organisasi yang membangun sistem AI mereka sendiri dengan memanfaatkan teknologi “blok bangunan” yang disediakan perusahaan-perusahaan teknologi.

Singapura dan Asia Tenggara sebagai cermin masa depan

Dalam kesempatan konferensi TechLaw.Fest dan di Lee Kuan Yew School of Public Policy, National University of Singapore, Smith menyebut kota-kota pusat di Asia Tenggara sebagai tempat yang tepat untuk melihat masa depan sekaligus menyebarluaskan penciptaan AI.

Smith bersama Harry Shum, Executive Vice President Microsoft AI and Research Group, sebelumnya menulis buku The Future Computed: Artificial Intelligence and its role in society. Dalam kunjungannya ke Singapura, Smith memaparkan enam prinsip etika utama yang menurutnya perlu dipertimbangkan.

Enam prinsip etika yang disoroti

• Keadilan: Smith mempertanyakan apakah komputer akan bersikap adil atau justru mendiskriminasi, termasuk karena bias yang dapat muncul dari dataset. Ia juga menyinggung kebutuhan mendesak untuk memperbaiki kurangnya keragaman di sektor teknologi yang masih didominasi laki-laki.
• Keandalan dan keamanan: Menurutnya, banyak hukum dan norma tanggung jawab produk saat ini disusun berdasarkan dampak teknologi dari satu abad atau lebih yang lalu, sehingga perlu berevolusi untuk menghadapi peningkatan kemampuan komputer dan AI. Ia menekankan pentingnya pemahaman atas kemampuan sekaligus keterbatasan AI, serta perlunya manusia tetap berada “dalam lingkaran” dan adanya pengujian yang ekstensif.
• Privasi dan keamanan: Smith menyebut isu ini sebagai salah satu yang paling penting. Ia mendorong penerapan undang-undang privasi yang sudah ada, sekaligus menutup kesenjangan aturan agar orang dapat mengelola data mereka, sistem bisa dirancang untuk melindungi dari pihak jahat, dan penggunaan data tetap bertanggung jawab.
• Inklusivitas: Ia menilai sistem berbasis AI dapat membuat hidup orang dengan disabilitas menjadi lebih baik atau justru sebaliknya, bergantung pada apakah perancang AI membangun sistem yang mampu membaca kebutuhan mereka.
• Transparansi: Smith mengangkat doktrin “dapat dijelaskan” yang berkembang di bidang AI, yaitu tanggung jawab pembuat sistem agar pengguna atau pihak yang terdampak memahami bagaimana algoritma bekerja. Ia mengakui hal ini akan menjadi persoalan yang rumit.
• Akuntabilitas: Smith menyebutnya sebagai prinsip landasan utama. Ketika komputer diberi peran membuat lebih banyak keputusan, ia menekankan pentingnya memastikan komputer tetap bertanggung jawab kepada masyarakat, dan para perancang sistem juga bertanggung jawab kepada orang lain dan lingkungan sosialnya.

Dari prinsip etika menuju aturan hukum

Smith menilai keenam prinsip tersebut saling melengkapi, tetapi belum mencakup seluruh kebutuhan dunia. Karena itu, ia menyerukan gagasan pembentukan semacam “Sumpah Hipokrates” bagi para pengode, seperti yang dimiliki dunia kedokteran, sebagai prinsip yang mengajak perancang sistem memastikan AI tidak berbuat salah.

Ia mengatakan peluncuran buku yang ditulisnya bersama Shum telah memicu diskusi global, termasuk munculnya berbagai versi sumpah yang dirancang oleh pelajar di berbagai negara. Bagi Smith, hal itu menunjukkan perlunya pelibatan masyarakat dalam mendefinisikan masa depan yang beretika.

Namun, ia menegaskan bahwa kesepakatan etika saja tidak cukup. Jika hanya etika yang disepakati, menurutnya, yang akan merancang AI secara etis hanyalah orang-orang yang memang beretika. Ia mendorong agar prinsip-prinsip tersebut dijadikan landasan hukum, sehingga hukum AI kelak menjadi sama pentingnya seperti undang-undang privasi saat ini. Dengan begitu, masyarakat dapat memiliki keyakinan bahwa komputer membuat keputusan secara etis.

Kebutuhan keahlian yang makin luas

Smith juga menyinggung perubahan kebutuhan keterampilan di perusahaan teknologi. Ia menilai bidang sains, teknologi, teknik, dan matematika (STEM) akan semakin penting. Namun, seiring komputer berperilaku lebih seperti manusia, ilmu sosial dan humaniora juga akan menjadi jauh lebih penting dalam penciptaan teknologi dibandingkan beberapa tahun terakhir.