Kemkomdigi Selidiki Dugaan Penyalahgunaan Grok AI di Platform X untuk Konten Asusila

AKURAT.CO Kementerian Komunikasi dan Digital (Kemkomdigi) menyelidiki dugaan penyalahgunaan Grok AI di platform X untuk pembuatan konten asusila, termasuk manipulasi foto pribadi tanpa izin. Praktik ini dinilai melanggar hak privasi dan hak atas citra diri warga Indonesia.

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyebut Grok AI belum memiliki pengaturan memadai untuk mencegah pembuatan dan penyebaran konten pornografi berbasis foto nyata. Celah ini dinilai membuka peluang penyalahgunaan teknologi kecerdasan buatan.

"Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi," ujar Alexander dalam keterangan resminya, dikutip Selasa (13/1/2026).

Kemkomdigi menilai manipulasi digital foto pribadi bukan sekadar pelanggaran kesusilaan, tetapi juga perampasan kendali atas identitas visual individu. Praktik ini berpotensi menimbulkan dampak psikologis, sosial, dan reputasi bagi korban.

Kemkomdigi saat ini berkoordinasi dengan Penyelenggara Sistem Elektronik (PSE) untuk memastikan mekanisme perlindungan yang efektif. Upaya ini meliputi penguatan moderasi konten, pencegahan deepfake asusila dan penanganan cepat laporan pelanggaran privasi.

"Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang," tegas Alexander.

Kemkomdigi menegaskan seluruh PSE di Indonesia wajib mematuhi peraturan yang berlaku. Pelanggaran atau sikap tidak kooperatif dapat berujung sanksi administratif hingga pemutusan akses Grok AI dan platform X.

Penyedia layanan kecerdasan buatan dan pengguna yang terbukti membuat atau menyebarkan konten pornografi serta manipulasi citra pribadi tanpa hak dapat dikenai sanksi administratif dan pidana. Ketentuan ini sejalan dengan Undang-Undang Nomor 1 Tahun 2023 tentang KUHP yang berlaku sejak 2 Januari 2026.

Dalam KUHP baru, pornografi diatur dalam Pasal 172 dan Pasal 407 dengan ancaman penjara enam bulan hingga 10 tahun atau denda. Korban manipulasi foto atau deepfake asusila diimbau melapor kepada aparat penegak hukum dan Kemkomdigi.

"Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi," tutupnya.