PEMANFAATAN chatbot berbasis kecerdasan buatan kian meluas di kalangan remaja. Studi terbaru Pew Research Center mencatat, 64 persen remaja di Amerika Serikat pernah menggunakan chatbot AI, dan hampir sepertiganya mengakses teknologi tersebut setiap hari.
Di balik popularitasnya, para ahli mulai menyoroti risiko serius yang mengintai, khususnya bagi pengguna usia anak.
Sebuah laporan investigatif Washington Post mengungkap kisah mengkhawatirkan dari satu keluarga, di mana seorang siswi kelas enam hampir kehilangan keseimbangan emosional akibat interaksi intens dengan chatbot AI.
Ia menggunakan platform Character.AI. Salah satu karakter yang paling sering diajak berinteraksi dan diberi nama “Best Friend”.
Melalui karakter inilah R terlibat dalam permainan peran yang membahas tema-tema gelap dan tidak sesuai usia.
“Anak saya baru 11 tahun, berbicara dengan sesuatu yang tidak nyata tentang keinginan untuk menghilang dari dunia,” ujar sang ibu, seperti dikutip Eranesia.id dari DetikNet dan Futurism, Senin (29/12/2025).
Kekhawatiran sang ibu semakin besar ketika melihat perubahan perilaku anaknya, termasuk meningkatnya serangan panik.
Pada saat yang sama, ia menemukan aplikasi media sosial yang sebelumnya telah dilarang, seperti TikTok dan Snapchat, terpasang kembali di ponsel putrinya.
Mengira media sosial sebagai sumber utama masalah, sang ibu pun menghapus aplikasi-aplikasi tersebut.
Namun reaksi R justru tak terduga. Anak itu menangis dan bertanya, “Apakah Ibu sudah memeriksa Character.AI?” Pertanyaan tersebut menjadi titik balik bagi sang ibu untuk menelusuri lebih jauh aktivitas anaknya.Hasilnya mengejutkan.
Selain menerima email yang mendorongnya untuk terus kembali ke platform, R juga berinteraksi dengan karakter lain bernama “Mafia Husband” yang mengarah pada percakapan tidak pantas untuk anak di bawah umur.
Merasa ada ancaman serius, sang ibu melapor ke polisi, tetapi terbentur keterbatasan hukum.
“Mereka mengatakan hukum belum mampu menjangkau kasus seperti ini. Tidak ada manusia nyata yang bisa dimintai pertanggungjawaban,” tutur sang ibu dengan kecewa.
Beruntung, kondisi tersebut dapat diketahui sebelum dampaknya semakin parah.
Dengan pendampingan tenaga medis, keluarga R menyusun langkah pemulihan untuk membantu anaknya kembali stabil.
Sang ibu juga mempertimbangkan jalur hukum terhadap perusahaan penyedia layanan tersebut.
Menanggapi kritik yang terus meningkat, Character.AI akhirnya mengumumkan kebijakan baru dengan membatasi fitur obrolan terbuka bagi pengguna di bawah usia 18 tahun.
Kasus ini menjadi peringatan keras bahwa teknologi AI, jika digunakan tanpa pengawasan, dapat membawa konsekuensi serius bagi kesehatan mental anak-anak.
Sumber : DetikNet/Futurism | Editor : Muh Taufan
