Sejumlah pemimpin teknologi dunia menyerukan penerapan regulasi ketat untuk mencegah kecerdasan buatan (AI) dimanfaatkan dalam pengembangan senjata biologis. Seruan itu disampaikan melalui surat terbuka kepada Kongres Amerika Serikat yang ditandatangani tokoh-tokoh seperti Sam Altman (OpenAI), Dario Amodei (Anthropic), dan Mustafa Suleyman (Microsoft).
Surat tersebut juga ditandatangani Demis Hassabis (Google DeepMind), Alexandr Wang (Meta), serta sejumlah eksekutif perusahaan bioteknologi, termasuk Twist Bioscience dan Ansa Biotechnologies. Mereka memperingatkan bahwa kemajuan AI dapat memungkinkan individu tanpa keahlian biologi mendalam untuk merancang urutan DNA atau RNA berbahaya, memesannya secara daring, dan merakitnya menjadi patogen mematikan.
Inisiatif surat itu disebut berasal dari dua lembaga pemikir, Foundation for American Innovation dan Institute for Progress. Salah satu usulan utamanya adalah mewajibkan perusahaan penjual bahan genetik sintetis untuk memindai setiap pesanan guna mendeteksi urutan yang berpotensi digunakan dalam pembuatan agen biologis berbahaya.
Para penandatangannya menilai risiko ini bukan lagi sebatas skenario fiksi ilmiah. Mereka menyebut AI mampu menganalisis jutaan kemungkinan urutan genetik dalam hitungan detik, menggantikan proses yang sebelumnya memerlukan waktu bertahun-tahun serta dukungan laboratorium berteknologi tinggi. Dengan akses yang semakin mudah ke layanan pengiriman DNA secara global, mereka menilai celah keamanan biologis menjadi kian rapuh.
Seruan bersama ini dipandang sebagai langkah yang jarang terjadi di tengah persaingan ketat antarpelaku utama industri AI. Dalam surat itu, kekhawatiran yang disampaikan juga dikaitkan dengan peringatan para ilmuwan mengenai kemampuan merekonstruksi virus, termasuk poxvirus kuda yang pernah berhasil dilakukan pada 2018, yang dinilai dapat menjadi preseden berbahaya jika AI mempercepat proses serupa.
Surat tersebut turut menyinggung semakin dalamnya integrasi AI di bidang biologi molekuler, termasuk keberhasilan Hassabis meraih Nobel Kimia 2024 atas prediksi struktur protein berbasis AI. Mereka menekankan regulasi seharusnya tidak menghambat inovasi, tetapi memastikan kemajuan ilmiah tidak berubah menjadi alat kejahatan.
Para penandatangan mendesak Kongres AS untuk segera mengesahkan undang-undang yang mewajibkan pelacakan, verifikasi, dan pelaporan transaksi bahan genetik. Mereka juga mendorong kerja sama internasional untuk menutup celah regulasi yang dinilai dapat menjadi jalur bagi ancaman biologis di masa depan. Dalam surat itu, mereka memperingatkan bahwa tanpa tindakan cepat, dunia berisiko menghadapi pandemi yang bukan berasal dari alam, melainkan dari kode yang ditulis manusia.
