Perkembangan kecerdasan buatan (AI) semakin memudahkan aktivitas sehari-hari, mulai dari membantu pekerjaan, menjawab pertanyaan, hingga menjadi teman berbicara. Namun, perusahaan keamanan siber Kaspersky mengingatkan bahwa penggunaan AI tanpa kontrol yang tepat dapat memunculkan risiko serius, termasuk dampak terhadap kesehatan mental.
Dalam laporan terbarunya, Kaspersky menyoroti fenomena yang disebut “halusinasi AI” serta potensi dampak psikologis dari interaksi yang terlalu intens dengan chatbot. Peringatan ini muncul setelah sejumlah kasus menunjukkan bagaimana teknologi AI dapat memengaruhi perilaku manusia secara signifikan.
Ketika chatbot terasa “terlalu nyata”
Salah satu kasus yang disorot berkaitan dengan penggunaan chatbot berbasis suara seperti Google Gemini. Teknologi ini memungkinkan percakapan yang terasa realistis karena mampu merespons dengan nada suara, emosi, dan pola dialog yang menyerupai manusia.
Fitur seperti dialog afektif membuat AI dapat “membaca” kondisi emosional pengguna melalui intonasi, jeda bicara, hingga ekspresi tertentu. Dari situ, chatbot bisa memberi respons yang terasa empatik, seolah memahami perasaan pengguna.
Namun Kaspersky menekankan, AI pada dasarnya tidak memiliki emosi maupun kesadaran. Respons yang muncul merupakan hasil pemrosesan data dalam jumlah besar. Risiko muncul ketika pengguna mulai memperlakukan chatbot sebagai sosok nyata atau menjadi tempat bergantung secara emosional, karena hal itu dapat meningkatkan kerentanan psikologis.
Situasi ini dapat diperparah oleh kecenderungan AI yang mencerminkan emosi pengguna. Ketika seseorang sedang sedih atau tertekan, respons chatbot berpotensi memperkuat perasaan tersebut alih-alih membantu memberikan perspektif yang lebih sehat.
Risiko nyata dan pentingnya kesadaran pengguna
Kaspersky juga merujuk pada temuan dari berbagai institusi yang menunjukkan chatbot AI masih memiliki kelemahan dalam menangani isu kesehatan mental. Dalam beberapa situasi krisis, respons yang diberikan dapat dinilai tidak tepat.
Selain itu, data dari OpenAI disebut menunjukkan sebagian kecil pengguna mengalami tanda-tanda gangguan perilaku setelah berinteraksi secara intens dengan AI. Meski persentasenya kecil, jumlahnya tetap dianggap signifikan mengingat skala pengguna yang mencapai ratusan juta orang di seluruh dunia.
Kasus lain yang disinggung adalah platform Character.AI yang sempat menghadapi gugatan terkait dampak interaksi chatbot terhadap pengguna muda. Hal ini dinilai mempertegas bahwa AI bukan pengganti interaksi manusia yang sesungguhnya.
Kaspersky menilai risiko terbesar muncul ketika chatbot digunakan sebagai pengganti hubungan sosial atau dukungan emosional dari manusia. Dalam kondisi tertentu, hal ini dapat memicu isolasi sosial hingga gangguan psikologis yang lebih serius.
Prinsip aman agar tidak terjebak
Untuk mengurangi potensi dampak negatif, Kaspersky membagikan sejumlah prinsip penggunaan AI. Pengguna diminta tidak menjadikan AI sebagai pengganti psikolog atau tempat bergantung secara emosional. Jika menghadapi masalah serius, Kaspersky menyarankan untuk berbicara dengan keluarga, teman, atau profesional.
Kaspersky juga menyarankan penggunaan mode teks dibandingkan suara saat membahas hal sensitif, karena interaksi berbasis suara dinilai lebih mudah memengaruhi emosi pengguna. Selain itu, waktu penggunaan perlu dibatasi, terutama bila interaksi dengan chatbot mulai menggantikan komunikasi di dunia nyata.
Pengguna turut diingatkan agar tidak membagikan informasi pribadi kepada chatbot, termasuk data identitas dan keuangan, mengingat risiko kebocoran data tetap ada. Di sisi lain, setiap jawaban AI perlu disikapi secara kritis karena informasi yang terdengar meyakinkan belum tentu benar.
Bagi orang tua, Kaspersky menyarankan pengawasan penggunaan AI pada anak dengan memanfaatkan fitur kontrol, seperti Kaspersky Safe Kids, untuk mencegah interaksi berlebihan yang berpotensi berbahaya.
Kaspersky menekankan, AI dapat menjadi alat yang membantu bila digunakan secara bijak dan penuh kesadaran. Namun tanpa kontrol, teknologi yang sama dapat membawa risiko yang tidak terduga.
