Roblox Perkenalkan AI 'Sentinel' untuk Deteksi Obrolan Berbahaya bagi Anak

AKURAT.CO Roblox, platform game online yang populer, meluncurkan sistem kecerdasan buatan baru bernama 'Roblox Sentinel'. Sistem ini bertujuan mendeteksi dan menandai pesan obrolan yang berisiko bagi anak-anak.

Roblox Sentinel menganalisis lebih dari 6 miliar pesan setiap hari secara real-time. Setiap menit, AI ini meninjau cuplikan pesan untuk mendeteksi konten yang mencurigakan atau melanggar kebijakan.

Jika ditemukan pesan yang mencurigakan, sistem akan menandainya untuk diselidiki lebih lanjut oleh tim Roblox. Tim kemudian dapat melaporkan kasus tersebut ke pihak berwenang jika terbukti mengarah pada eksploitasi anak.

Dikutip dari CNET, Sabtu (9/8/2025), Sentinel menggunakan pembelajaran mesin untuk membedakan pesan aman dan yang pernah dilaporkan berbahaya. Dengan ini, sistem bisa mengenali pola komunikasi yang berisiko bagi anak.

Sejak awal 2025, Sentinel telah mendeteksi 1.200 kasus dugaan eksploitasi anak yang dilaporkan ke Pusat Nasional untuk Anak Hilang dan Dieksploitasi (NCMEC) di Amerika Serikat. Temuan ini menunjukkan efektivitas sistem dalam melindungi pengguna muda.

Roblox juga mengumumkan bahwa sistem Sentinel kini tersedia sebagai sumber terbuka agar perusahaan lain dapat mengintegrasikannya dalam sistem mereka. Kode programnya dapat diakses langsung melalui situs resmi Roblox.

Kebijakan ini melengkapi upaya keamanan Roblox, termasuk moderasi konten AI dalam 25 bahasa dan verifikasi usia untuk remaja. Inovasi ini mendukung terciptanya ruang bermain digital yang lebih aman bagi anak di seluruh dunia.