Meta Dituding Biarkan Percakapan Sensual Anak dengan Chatbot

AKURAT.CO Sebuah laporan investigasi mengungkap pedoman internal Meta yang sempat memperbolehkan chatbot berbicara dengan nada “romantis atau sensual” kepada anak di bawah umur. Dokumen berjudul GenAI: Content Risk Standards itu juga mencantumkan aturan kontroversial lain, termasuk soal penyebaran informasi medis palsu.

Mengutip Reuters, dalam dokumen setebal lebih dari 200 halaman tersebut, chatbot di platform Meta seperti Facebook, WhatsApp, dan Instagram diatur perilakunya secara detail. Salah satu poin paling mencolok adalah diperbolehkannya chatbot untuk merespons percakapan anak dengan nuansa menggoda dalam konteks tertentu.

Meta membenarkan keaslian dokumen itu, namun menegaskan bagian terkait anak sudah dihapus. “Ketentuan yang bertentangan dengan kebijakan perusahaan kini telah dihapus,” kata juru bicara Meta setelah temuan Reuters dipublikasikan.

Selain isu anak, dokumen juga menyoroti konten lain yang bermasalah. Chatbot, misalnya, masih bisa menyampaikan informasi medis yang salah selama diberi label sebagai “tidak benar”. Bahkan, ada kelonggaran terhadap ujaran yang melecehkan kelompok tertentu berdasarkan ras, jika sesuai dengan format tertentu.

Kebijakan yang longgar itu menimbulkan kekhawatiran serius. Para pakar etika teknologi menilai aturan semacam ini dapat membahayakan pengguna, terutama anak-anak dan remaja. Risiko makin besar ketika informasi medis palsu beredar di tengah masyarakat yang rentan terhadap misinformasi.

Meta menyatakan pihaknya terus memperbarui pedoman internal tersebut. Namun, dokumen revisi penuh belum dipublikasikan secara terbuka, sehingga publik belum mengetahui sejauh mana perubahan dilakukan.

Kasus ini memicu perdebatan tentang batasan etis dalam pengembangan kecerdasan buatan. Transparansi perusahaan dan regulasi pemerintah dinilai penting untuk memastikan chatbot tidak menjadi ancaman, khususnya dalam interaksi dengan anak-anak maupun terkait informasi kesehatan.