Pemerintah Amerika Serikat (AS) meningkatkan pengawasan terhadap pengembangan kecerdasan buatan (AI) dengan meminta sejumlah perusahaan teknologi memberikan akses awal ke model AI terbaru mereka untuk diuji sebelum dirilis ke publik. Perusahaan yang diminta antara lain Microsoft, Google, dan xAI milik Elon Musk.
Kesepakatan tersebut diumumkan oleh Center for AI Standards and Innovation (CAISI) di bawah Departemen Perdagangan AS pada pekan lalu. Melalui kerja sama ini, pemerintah AS akan memperoleh akses lebih awal ke model-model AI baru untuk mengevaluasi risiko terhadap keamanan nasional sebelum teknologi tersebut digunakan secara luas.
Langkah ini diambil di tengah meningkatnya kekhawatiran pejabat AS mengenai kemampuan sistem AI canggih. Salah satu yang disorot adalah model AI Mythos buatan Anthropic, yang disebut mampu meningkatkan kemampuan peretasan siber.
CAISI menyatakan pengujian dilakukan untuk menilai berbagai potensi ancaman, mulai dari serangan siber hingga kemungkinan penyalahgunaan AI untuk kepentingan militer. “Ilmu pengukuran yang independen dan ketat sangat penting untuk memahami AI mutakhir dan implikasinya terhadap keamanan nasional,” kata Direktur CAISI, Chris Fall, dalam pernyataan resminya.
Microsoft menyampaikan akan bekerja sama dengan ilmuwan pemerintah AS untuk menguji sistem AI mereka, termasuk menyelidiki kemungkinan munculnya perilaku tak terduga dari model AI. Perusahaan itu juga akan mengembangkan dataset dan alur kerja bersama untuk pengujian model AI. Kesepakatan serupa sebelumnya juga telah diteken Microsoft dengan AI Security Institute di Inggris.
Inisiatif terbaru ini merupakan kelanjutan dari aturan pemerintahan Presiden Donald Trump pada Juli 2025 untuk bekerja sama dengan perusahaan teknologi dalam memeriksa model AI terkait risiko keamanan nasional. Sebelumnya, pemerintah AS juga telah menjalin kerja sama serupa dengan OpenAI dan Anthropic sejak 2024, ketika CAISI masih bernama US AI Safety Institute pada era Presiden Joe Biden.
CAISI menyebut telah menyelesaikan lebih dari 40 evaluasi model AI, termasuk model canggih yang belum tersedia untuk publik. Dalam beberapa pengujian, pengembang AI bahkan menyerahkan versi model dengan pengamanan yang dikurangi agar pemerintah dapat lebih mudah meneliti potensi risiko keamanan nasional.
Di sisi lain, Pentagon pekan lalu mengumumkan kerja sama dengan tujuh perusahaan AI untuk menghadirkan kemampuan AI canggih ke jaringan rahasia Departemen Pertahanan AS. Namun, Anthropic tidak termasuk dalam daftar tersebut karena masih terlibat perselisihan dengan Pentagon terkait batas penggunaan teknologi AI untuk kepentingan militer.
