Character.ai Batasi Remaja Berinteraksi dengan Chatbot AI

AKURAT.CO Situs chatbot Character.ai mulai membatasi pengguna di bawah 18 tahun untuk berbicara langsung dengan karakter virtualnya. Upaya ini dilakukan menyusul kritik dan tuntutan hukum di Amerika Serikat terkait keselamatan anak muda saat menggunakan AI.

Perubahan ini berlaku mulai 25 November 2025. Anak-anak kini hanya dapat membuat konten seperti video dengan karakter Artificial Intelligence (AI), bukan bercakap-cakap secara langsung.

Kebijakan ini mendapat sambutan positif dari kelompok keamanan online. Namun, mereka menekankan bahwa fitur aman seharusnya diterapkan sejak awal, sebagaimana dikutip dari BBC, Kamis (30/10/2025).

CEO Character.ai, Karandeep Anand, menyatakan perubahan ini mengikuti masukan regulator, ahli keselamatan dan orang tua. Tujuannya adalah membuat platform lebih aman bagi hiburan remaja.

Platform ini sebelumnya mendapat kritik karena menampung chatbot yang berpotensi berbahaya. Pada 2024, avatar menyerupai korban remaja ditemukan di situs, sementara pada 2025 muncul bot berbasis pedofil Jeffrey Epstein dengan ribuan interaksi.

Kasus-kasus ini memunculkan pertanyaan tentang motivasi platform dalam melindungi pengguna muda. Banyak pihak menilai langkah pencegahan seharusnya diterapkan lebih awal.

Fokus baru Character.ai adalah menghadirkan fitur permainan dan role-play yang dinilai lebih aman bagi remaja. Perusahaan juga meluncurkan metode verifikasi usia dan mendanai laboratorium penelitian keamanan AI.

Para pakar menyebut langkah ini sebagai panggilan bangun untuk industri AI. Mereka menekankan pentingnya menjaga keselamatan anak dalam inovasi teknologi yang bertanggung jawab.