Perkembangan kecerdasan buatan (Artificial Intelligence/AI) kian memengaruhi berbagai aspek kehidupan, termasuk cara individu berpikir dan bertindak. Di Indonesia, integrasi AI dalam praktik kelembagaan dan kehidupan masyarakat meningkat dalam beberapa tahun terakhir. Di satu sisi, teknologi ini dinilai berpotensi mendorong efisiensi dan inovasi, namun di sisi lain memunculkan tantangan etika yang menjadi perhatian banyak pihak.
Taddeo dan Floridi (2021) menilai AI bukan sekadar alat bantu pasif, melainkan entitas yang bersifat otonom dan mampu belajar sendiri. Dalam kerangka “delegation and responsibility”, mereka menekankan bahwa pelimpahan tugas kepada AI dapat membantu menyelesaikan pekerjaan kompleks secara efisien, tetapi pelimpahan tanggung jawab sepenuhnya kepada AI berisiko menimbulkan krisis akuntabilitas. Karena itu, dibutuhkan pengawasan manusia yang ketat, transparansi algoritmik, serta model pertanggungjawaban yang adil dan kolektif agar penggunaan AI tetap berada dalam koridor etika.
Di Indonesia, pengawasan etika AI disebut masih cenderung reaktif. Sejumlah regulasi yang berkaitan dengan teknologi digital telah ada, seperti Undang-Undang Pers, Undang-Undang Penyiaran, Undang-Undang Hak Cipta, Undang-Undang Informasi dan Transaksi Elektronik, serta Undang-Undang Perlindungan Data Pribadi. Namun, belum terdapat aturan yang secara spesifik dan komprehensif mengatur etika penggunaan AI, sehingga dinilai perlu kerangka kebijakan yang lebih terarah dan antisipatif.
Pemerintah disebut telah melakukan pelimpahan beberapa bidang pekerjaan menggunakan AI, tetapi penguatan etika AI dinilai masih diperlukan. Dalam ringkasan eksekutif Google mengenai pengembangan AI di Indonesia, pendekatan preventif ditekankan untuk mencegah potensi penyimpangan sejak dini. Strategi preventif yang disoroti meliputi pembentukan mekanisme koordinasi antar lembaga guna menghindari tumpang tindih regulasi; penerapan pendekatan berbasis risiko dan proporsional; penyusunan kerangka hukum yang menyeimbangkan inovasi dengan perlindungan hak dasar seperti hak cipta dan privasi; serta penyelarasan kebijakan nasional dengan standar etika dan teknis regional maupun global, termasuk Panduan ASEAN tentang Etika dan Tata Kelola AI.
Arah tersebut dinilai selaras dengan strategi nasional pemerintah terkait AI. Etika dan kebijakan AI di Indonesia diarahkan berlandaskan nilai-nilai Pancasila agar pengembangan dan pemanfaatannya sejalan dengan tujuan Negara Kesatuan Republik Indonesia. Pancasila diposisikan sebagai fondasi etis agar AI tidak hanya efisien dan inovatif, tetapi juga menjunjung nilai kemanusiaan, keadilan sosial, dan mendukung ketahanan nasional.
Dalam kerangka kebijakan, disebutkan bahwa kebijakan AI perlu menghasilkan produk yang relevan dan dapat diterapkan oleh seluruh pemangku kepentingan—pemerintah, dunia usaha, akademisi, dan masyarakat—tanpa bertentangan dengan konstitusi, khususnya Pasal 28C dan Pasal 31 UUD 1945, serta merujuk pada amanat UU No. 11 Tahun 2019. Untuk itu, diperlukan tata kelola yang mengatur aspek etika, hukum, dan pertanggungjawaban, termasuk gagasan pembentukan Komisi Etik AI yang berwenang menyusun pedoman dan melakukan pengawasan bersama berbagai pihak, seperti universitas dan industri.
Pembangunan ekosistem yang mendukung penelitian, pengkajian, pengembangan, dan penerapan (litbangjirap) AI juga disebut menjadi prioritas, antara lain melalui penyediaan infrastruktur pendukung, sistem perizinan, pendanaan, serta jaminan perlindungan data dan kepastian hukum. Dalam konteks pengawasan, sinergi dan efektivitas antarinstansi dinilai penting untuk menghadapi risiko dan kerentanan AI yang dapat berdampak pada masyarakat. Karena itu, pengawasan disebut perlu dilakukan secara menyeluruh, terstruktur, dan efisien agar implementasi AI tetap aman, etis, dan berpihak pada kepentingan nasional (BPPT, 2020).
Di sektor media, upaya penyusunan etika AI juga berkembang. Aliansi Jurnalis Independen (AJI, 2024) mendorong penerapan panduan etika AI yang telah diadopsi KG Media dan disepakati Dewan Pers. Panduan tersebut menegaskan AI hanya boleh digunakan sebagai alat bantu, bukan menggantikan peran manusia sepenuhnya dalam proses produksi informasi. Penggunaan AI juga perlu disertai pengawasan profesional, transparansi—misalnya melalui pencantuman kredit AI—serta kepatuhan pada ketentuan hukum dan kode etik jurnalistik untuk mencegah pelanggaran etika, penyalahgunaan konten, atau bias yang dapat merugikan masyarakat dan menggerus kepercayaan publik terhadap media.
Sejumlah gagasan etika teknologi kontemporer turut menekankan perlunya pergeseran dari pendekatan reaktif ke arah proaktif dan sistemik. Konsep “ethics by design” menyoroti bahwa pengawasan etika sebaiknya dirancang sejak tahap awal pengembangan AI, bukan hanya dilakukan setelah masalah muncul. Salah satu pendekatan yang disebut adalah Explainable AI (XAI) yang dikembangkan melalui program DARPA untuk mendorong transparansi algoritma, sehingga keputusan AI dapat dipahami dan diaudit manusia serta mengurangi ketimpangan informasi antara sistem dan pengguna.
Dalam kerangka agensi terdistribusi (distributed agency), keputusan AI dipandang terbentuk dari interaksi banyak pihak—pengembang, pengguna, regulator, hingga infrastruktur teknis. Konsekuensinya, pertanggungjawaban etis dinilai tidak dapat dibebankan pada satu individu, melainkan perlu dirumuskan dalam model tanggung jawab kolektif berbasis sistem. Teori seperti strict liability dan faultless responsibility menekankan pencegahan serta pengelolaan kesalahan sebagai prioritas, bukan sekadar penentuan pihak yang disalahkan setelah kegagalan terjadi.
Dengan demikian, integrasi nilai-nilai Pancasila sebagai kerangka etika AI di Indonesia dipandang perlu diterjemahkan secara konkret dalam desain, regulasi, dan tata kelola. Tujuannya agar kebijakan AI tidak hanya berfungsi secara teknis, tetapi juga adil, transparan, dan bertanggung jawab secara sosial.
