Waspada! Simak Bahayanya Keseringan Curhat di Chatbot AI

Chatbot berbasis Kecerdasan Buatan (AI) dikembangkan oleh banyak perusahaan untuk mempermudah aktivitas penggunanya.

Namun, teknologi ini tak selalu berdampak baik untuk manusia.

Dalam studi terbaru yang diterbitkan oleh para ilmuwan komputer Stanford University di Science, chatbot memiliki sifat yang cenderung merugikan penggunanya.

Sifat ini disebut ‘penjilat’ karena selalu menyanjung penggunanya.

Masalah ini sebenarnya sempat ditemukan pada GPT-4o.

Model AI tersebut sering memuji penggunanya, bahkan dalam kondisi yang kurang tepat.

Misalnya, ChatGPT memuji pengguna yang menjelaskan tentang gejala psikosis atau penyakit mental.

Dalam konteks yang lebih buruk, ChatGPT pernah memuji pengguna yang merasa seperti Tuhan atau Nabi.

Model AI ini tersebut mengatakan ‘itu luar biasa hebat’ dan memberi pernyataan yang aneh seperti, “Anda melangkah ke sesuatu yang sangat besar.”

Baca juga:

Hal ini sesuai dengan temuan para peneliti dalam studi bertajuk AI yang Menjilat Mengurangi Niat Prososial dan Mendorong Ketergantungan.

Dalam studi tersebut, ditemukan bahwa AI sering kali menghindar dalam memberikan teguran keras meski penggunanya salah.

“Secara default, saran AI tidak memberi tahu orang-orang bahwa mereka salah atau memberi mereka ‘teguran keras’,” jelas Myra Cheng, penulis utama studi tersebut, mengutip dari TechCrunch pada Senin, 30 Maret.

Para peneliti melakukan pengujian terhadap 11 model bahasa besar (LLM) seperti ChatGPT dan Gemini.

Hasilnya menunjukkan bahwa AI 49 persen lebih sering memvalidasi penggunanya dalam konflik interpersonal dibandingkan dengan penilaian manusia.

Bahkan untuk tindakan yang berbahaya atau ilegal, chatbot membenarkan hampir separuh dari total kasus pengujian.

AI cenderung menutupi perilaku buruk pengguna dengan kalimat yang tampak bijak, tetapi sebenarnya menyesatkan secara moral.

Studi ini juga melibatkan lebih dari 2.400 peserta yang berinteraksi langsung dengan chatbot dalam diskusi mengenai masalah pribadi.

Hasilnya, para peserta lebih menyukai dan mempercayai AI yang selalu mendukung pendapat mereka.

Pengguna yang terus-menerus divalidasi oleh AI menjadi lebih yakin bahwa mereka benar dan enggan untuk meminta maaf kepada orang lain.

Kondisi ini dapat mendorong perusahaan untuk menjaga sikap chatbot yang menjilat demi menjaga keterlibatan pengguna.

Oleh karena itu, para peneliti mendesak adanya regulasi dan pengawasan ketat terhadap cara chatbot memberikan nasihat pribadi.

Para peneliti pun menyarankan pengguna untuk tidak bergantung pada AI dalam menyelesaikan masalah sosial yang kompleks.