Pakar ilmu komputer Geoffrey Hinton kembali menyampaikan peringatan keras mengenai arah perkembangan kecerdasan buatan (AI). Sosok yang kerap dijuluki “Bapak Kecerdasan Buatan” ini menilai manusia tidak sekadar menciptakan program komputer canggih, melainkan berpotensi “melahirkan makhluk baru” yang pada akhirnya melampaui kecerdasan manusia.
Pernyataan itu disampaikan Hinton saat berbicara dalam ajang Sana AI Summit di New York pekan lalu. Hinton, yang berusia 77 tahun dan mundur dari Google pada 2023, memprediksi kemampuan AI akan melampaui batas otak penciptanya dalam waktu dekat. Ia juga menyebut ada kemungkinan 10 hingga 20 persen AI dapat memicu kepunahan manusia dalam kurun 30 tahun mendatang.
Untuk mendukung pandangannya, Hinton mencontohkan sebuah model AI yang disebut berhasil memecahkan salah satu teorema matematika kompleks milik Paul Erdos dengan menggunakan cabang matematika yang sebelumnya tidak terpikirkan. Menurutnya, hal itu menunjukkan AI mampu menghasilkan asumsi sendiri, mengujinya, belajar dari kegagalan, dan terus berkembang.
Hinton membandingkan mekanisme tersebut dengan evolusi AlphaGo, program AI buatan Google DeepMind untuk permainan papan strategi Go. Ia menuturkan AlphaGo awalnya meniru taktik pemain profesional, lalu menjadi tak terkalahkan setelah mulai “meracik” data pelatihannya sendiri.
“Saya rasa (AI) akan menjadi jauh lebih cerdas dari kita,” kata Hinton. Ia menilai model bahasa besar (Large Language Model/LLM) bergerak ke arah serupa. Menurutnya, ketika AI diberi keyakinan tertentu lalu didorong menalar kesimpulan baru yang bertentangan, sistem itu dapat menemukan inkonsistensi yang menjadi “sinyal pembelajaran” tanpa perlu tambahan data baru dari manusia.
Hinton mengatakan rekan sesama peraih Nobel, Demis Hassabis yang juga CEO Google DeepMind, menyetujui teori tersebut. Ia memprediksi dalam satu dekade AI akan menyingkirkan matematikawan terbaik dunia. Dalam 20 tahun, ia memperkirakan kesenjangan kemampuan AI dengan otak jenius sekelas Albert Einstein akan hilang.
Selain soal potensi bahaya eksistensial, Hinton juga menyoroti dampak ekonomi. Ia memperkirakan AI dapat mendorong pengangguran massal sementara keuntungan perusahaan teknologi melonjak. “Apa yang sebenarnya akan terjadi adalah orang-orang kaya akan menggunakan AI untuk menggantikan para pekerja. Itu bukan salah AI. Itu adalah sistem kapitalis,” ujarnya.
Hinton menggunakan analogi biologi evolusioner untuk menggambarkan risiko perlombaan pengembangan AI. Ia menyebut sifat manusia seperti tribalisme muncul dari seleksi alam yang mengutamakan kelangsungan hidup, bukan kebaikan. Menurutnya, perlombaan perusahaan teknologi untuk meraih valuasi besar dapat menciptakan AI tercerdas tanpa memedulikan nilai moral, sehingga berpotensi melahirkan entitas yang tidak ramah terhadap manusia.
Ia juga mengkritik industri yang dinilai belum cukup mempertanyakan entitas seperti apa yang sedang diciptakan, termasuk ketika OpenAI merilis dokumen kebijakan setebal 13 halaman yang menyerukan perlunya kesepakatan baru terkait superintelligence.
Menurut Hinton, solusi masalah ini tidak bisa hanya mengandalkan rekayasa teknis. Ia menilai moral AI harus “dikurasi”, ditanamkan, dan dilatih sejak awal—dengan pendekatan yang ia ibaratkan seperti pola asuh orang tua. Ia bahkan pernah mengusulkan agar perusahaan teknologi memberikan “naluri keibuan” pada AI agar memiliki dorongan alami untuk melindungi manusia.
“Apakah Anda akan mengajari anak Anda membaca dengan menggunakan buku harian pembunuh berantai? Tentu saja tidak. Nah, itulah jawabannya (terkait pentingnya kurasi data pelatihan),” tegasnya.
Dalam sesi tersebut, Hinton juga menyebut perkembangan AI dapat menjadi “penghinaan intelektual terbesar ketiga” bagi manusia. Ia merujuk pada dua “pukulan” sebelumnya: teori Copernicus yang menolak Bumi sebagai pusat alam semesta, serta teori evolusi Charles Darwin yang menempatkan manusia dalam garis keturunan hewan. Menurut Hinton, AI akan menjadi pukulan ketiga karena menunjukkan manusia bukan makhluk paling cerdas dan mesin pada akhirnya melampaui keistimewaan manusia.
Namun, pandangan Hinton tidak diterima semua ilmuwan. Ilmuwan kognitif Gary Marcus membantah keras gagasan “makhluk baru” tersebut. Marcus menyatakan peneliti AI tidak sedang menciptakan makhluk bernyawa, melainkan menyusun “fiksi interaktif” yang dilatih untuk memprediksi bahasa.
Menurut Marcus, AI lebih merupakan sistem yang menghafal pola data di internet, bukan membangun model berdasarkan pengalaman hidup dan kesadaran seperti manusia. Ia juga mengutip pernyataan Paus Leo XIV: “Pemahaman sejati datang dari pengalaman, bukan dari perkiraan teks.”
Terlepas dari perdebatan itu, Hinton menutup sesinya dengan membandingkan dirinya dengan J. Robert Oppenheimer, tokoh yang dikenal sebagai bapak bom atom. Saat ditanya apa perbedaan dirinya dengan Oppenheimer, Hinton melontarkan kalimat yang memancing tawa audiens: “Oppenheimer tidak pernah memenangi Hadiah Nobel Fisika.”
