Sejumlah CEO perusahaan kecerdasan buatan (AI) terkemuka menyerukan kepada Kongres Amerika Serikat agar segera mengesahkan aturan yang mewajibkan penyaringan ketat terhadap pesanan DNA dan RNA sintetis. Seruan ini disampaikan oleh Sam Altman (OpenAI), Demis Hassabis (Google DeepMind), Dario Amodei (Anthropic), dan Mustafa Suleyman (Microsoft AI), dengan tujuan mencegah penyalahgunaan teknologi biologi untuk pembuatan senjata biologis.
Peringatan tersebut dituangkan dalam surat terbuka yang dikeluarkan oleh Institute for Progress dan Foundation for American Innovation. Dalam surat itu, para penandatangan menilai kemajuan pesat AI telah menurunkan hambatan pengetahuan yang selama ini membatasi kemampuan pihak tertentu untuk merancang patogen berbahaya.
Mereka menyoroti perubahan besar dalam sintesis genetik. Jika pada 1950-an sintesis DNA membutuhkan keahlian ilmiah tinggi dan sumber daya besar, kini proses itu disebut semakin terotomatisasi. Ratusan perusahaan di berbagai negara dinilai mampu “mencetak” urutan genetik khusus menggunakan mesin komersial, dalam hitungan hari dan dengan biaya yang lebih terjangkau.
Salah satu contoh yang disebut dalam surat adalah kejadian pada 2017, ketika peneliti di Kanada dilaporkan berhasil merekonstruksi virus horsepox yang telah punah dengan biaya sekitar US$100.000 melalui pembelian DNA pesanan yang dikirim lewat pos. Virus tersebut disebut memiliki struktur genetik yang sangat mirip dengan variola, penyebab cacar, yang dalam sejarah telah menewaskan ratusan juta orang. Sejak saat itu, biaya sintesis genetik disebut terus menurun, sementara kemampuan AI untuk membantu merancang patogen baru dinilai semakin maju.
David Relman, ahli mikrobiologi dan keamanan biologis dari Stanford University yang turut menandatangani surat, memperingatkan bahwa AI dapat dimanfaatkan untuk mengakali mekanisme pengawasan. Menurutnya, AI bisa mengarahkan pengguna ke penyedia DNA yang tidak melakukan penyaringan, bahkan memberi petunjuk untuk memodifikasi pesanan agar lolos dari deteksi. Ia juga menyebut bahwa dengan instruksi yang tepat, model bahasa besar dapat merancang urutan gen yang sulit terdeteksi oleh sistem penyaringan saat ini.
Saat ini, sebagian penyedia DNA seperti Twist Bioscience dan Ansa Biotechnologies disebut telah menerapkan penyaringan secara sukarela melalui International Gene Synthesis Consortium. Namun, surat tersebut menilai masih ada penyedia yang tidak memverifikasi identitas pelanggan atau isi pesanan. Dalam konteks ini, penelitian Microsoft tahun lalu disebut menunjukkan bahwa model AI mampu menghasilkan urutan protein berbahaya yang dapat melewati filter yang ada, namun tetap memiliki kemiripan fungsional dengan patogen mematikan.
Pemerintah AS telah mengeluarkan pedoman federal yang mewajibkan penerima dana publik membeli DNA hanya dari penyedia yang melakukan penyaringan. Meski demikian, rancangan undang-undang bipartisan di Senat yang akan mewajibkan semua penyedia DNA di AS menerapkan penyaringan secara wajib masih menunggu persetujuan.
James Diggans, wakil presiden kebijakan dan keamanan biologis di Twist Bioscience, menekankan adanya tanggung jawab moral bagi pihak yang memiliki teknologi sintesis DNA. Ia menyatakan hal ini bukan pertentangan antara inovasi dan keamanan, melainkan upaya memastikan inovasi tidak berubah menjadi senjata.
Sejumlah pakar juga menyatakan regulasi saja tidak cukup. Geoff Ralston, mantan presiden Y Combinator dan mitra Safe AI Fund, mendorong perusahaan AI untuk menambah kontrol internal, dengan prinsip bahwa pengguna seharusnya tidak dapat meminta bantuan model AI untuk merancang sesuatu yang dapat menimbulkan korban massal. Relman menambahkan perlunya “lapisan-lapisan pertahanan” dan menyebut AI semestinya menjadi benteng terakhir jika penyaringan pesanan gagal.
Seruan ini muncul di tengah kekhawatiran bahwa ancaman pandemi global dapat meningkat seiring kemajuan teknologi. Para pemimpin teknologi menilai diperlukan langkah cepat untuk memperkuat pengamanan, agar inovasi di bidang AI dan bioteknologi tidak disalahgunakan untuk tujuan yang membahayakan.
