LONDON — Para ahli memperingatkan bahwa konten yang dihasilkan chatbot kecerdasan buatan (AI) seperti ChatGPT berpotensi memuat informasi yang keliru hingga 45% dari waktu. Karena itu, pengguna diminta berhati-hati ketika menjadikan hasil AI sebagai rujukan.

Kevin Veale, dosen senior studi media di Sekolah Humaniora, Media dan Kreativitas, Universitas Massey, Selandia Baru, menjelaskan bahwa AI generatif digunakan untuk menghasilkan teks, gambar, dan bentuk data lainnya berdasarkan informasi mentah yang telah diterimanya.

Menurut Veale, kemampuan AI generatif juga dapat dimanfaatkan untuk menciptakan informasi yang salah dengan kecepatan yang melampaui kemampuan manusia untuk memverifikasinya. Kondisi ini berpotensi menimbulkan konsekuensi di dunia nyata apabila pengguna menaruh kepercayaan mutlak pada hasil yang diberikan.

Ia menambahkan, model bahasa skala besar seperti ChatGPT atau Claude bekerja dengan menghitung probabilitas kemunculan kata-kata yang berdekatan untuk membentuk kalimat yang terdengar masuk akal, bukan dengan menjamin keakuratan informasi yang disajikan.