Dituduh Beri Pengaruh Buruk pada Remaja, Character.AI Lakukan Hal Ini • Exelbiz

Character.AI, platform chatbot yang sedang naik daun, saat ini sedang menghadirkan perubahan-perubahan baru,  yang dibuat khusus untuk melindungi pengguna muda. Ya, langkah ini diambil lantaran adanya laporan bahwa ada pengaruh dari platform ini, yang menyebabkan kecanduan, aktivitas menyakiti diri, bahkan bunuh diri di kalangan anak muda.

Model AI untuk Pengguna Character.ai Remaja dan Dewasa

Untuk meresepon tuntutan tersebut, dalam beberapa bulan terakhir, Character.AI telah membuat perubahan besar. Mereka telah mengembangkan dua model bahasa terpisah—satu untuk dewasa, dan satu lagi untuk remaja.

Model untuk remaja dirancang dengan batasan yang lebih ketat, terutama dalam hal konten romantis atau topik yang bisa dianggap sensitif. Pembatasan ini bertujuan agar para remaja tetap bisa menikmati interaksi dengan bot tanpa terjebak dalam percakapan yang tidak sesuai usia. Bahkan, sistem kini lebih pintar dalam mendeteksi dan memblokir permintaan yang bisa mengarah ke konten tidak pantas.

Baca Juga: Bosch Masuk Kebagian Dana CHIPS Act, Setara Rp 3,6 Triliun • Exelbiz

Perubahan ini tidak berhenti di situ. Saat kalian berinteraksi dengan bot di Character.AI, kalian mungkin tidak menyadari bahwa ada sesuatu yang lebih dari sekadar percakapan ringan. Jika suatu saat ada kata-kata yang berkaitan dengan bunuh diri atau menyakiti diri, sistem akan segera memberi peringatan dan mengarahkan pengguna ke National Suicide Prevention Lifeline. Ini bukan hanya tentang melindungi data, tetapi juga tentang menjaga kesejahteraan emosional pengguna muda.

Satu fitur yang cukup menarik namun kontroversial juga dihapus. Sebelumnya, pengguna bisa mengedit percakapan mereka dengan bot, menambah konten yang mungkin seharusnya diblokir oleh sistem. Kini, pengeditan tersebut ditiadakan untuk memastikan percakapan tetap dalam batas yang aman. Ini adalah langkah penting untuk mencegah manipulasi percakapan yang bisa berbahaya bagi remaja.

Pastikan Pengguna Sadar, Hanya Bicara dengan “Bot”

Bagi kalian yang pernah berinteraksi dengan bot bertema “terapis” atau “dokter,” mungkin ada saatnya kalian merasa bingung. Apakah ini benar-benar seorang profesional yang sarannya bisa dipertimbangkan dengan serius? Nah, kini Character.AI kini menambahkan peringatan yang jelas bahwa bot-bot tersebut bukanlah manusia dan tidak bisa memberikan nasihat medis atau psikologis profesional. Ini adalah langkah transparansi untuk memastikan bahwa pengguna tahu bahwa interaksi mereka adalah dengan AI, bukan dengan seorang ahli yang sesungguhnya.

Character.AI kini juga akan memberi notifikasi jika kalian menghabiskan lebih dari satu jam berbincang dengan bot. Ini adalah cara agar pengguna tidak terjebak dalam siklus kecanduan yang bisa berdampak buruk pada kesehatan mental mereka.

Di balik semua perubahan ini, Character.AI sepertinya sudah berupaya dalam menjaga keseimbangan antara kreativitas dan keselamatan. Mereka sadar bahwa teknologi terus berkembang, dan begitu juga dengan tantangan-tantangan yang harus dihadapi dalam menciptakan platform yang aman bagi penggunanya.

Sumber