Konten Porno Tak Terkendali, DPR Dukung Komdigi Blokir Grok AI dan X

AKURAT.CO Anggota Komisi I DPR, Syamsu Rizal, menyatakan dukungan penuh terhadap langkah tegas Kementerian Komunikasi dan Digital (Komdigi) yang mengancam pemblokiran Grok AI dan platform media sosial X jika terbukti digunakan untuk memproduksi serta menyebarkan konten pornografi.

Politikus PKB yang akrab disapa Daeng Ical itu menilai, kemampuan Grok AI dalam memanipulasi foto seseorang menjadi konten asusila merupakan ancaman serius bagi keamanan digital dan perlindungan privasi masyarakat.

Ia menyoroti, belum optimalnya sistem moderasi konten pada Grok AI yang membuka celah penyalahgunaan teknologi kecerdasan buatan.

“Selama ini kita melihat Grok AI di platform X dimanfaatkan pengguna untuk mengubah foto atau gambar seseorang menjadi konten asusila. Dengan permintaan yang spesifik, Grok AI dapat menuruti instruksi tersebut. Ini jelas berbahaya,” ujar Daeng Ical dalam keterangan tertulis, Jumat (9/1/2026).

Ia menegaskan, penyalahgunaan AI tanpa pengawasan ketat berpotensi menimbulkan dampak luas, tidak hanya merugikan korban secara personal, tetapi juga merusak tatanan sosial dan moral masyarakat.

“Jika Grok AI dan platform X tidak mampu mengendalikan sistemnya dan tetap membiarkan produksi serta penyebaran konten pornografi, Komdigi harus bersikap tegas dengan memblokirnya,” tegasnya.

Baca Juga: Penempatan PMI 2025 Lampaui Target, Pemerintah Fokus Penuhi 300 Ribu Lowongan Kerja

Menurut Daeng Ical, negara memiliki kewajiban melindungi warga dari dampak negatif teknologi digital, khususnya terkait eksploitasi seksual, pornografi, dan pelanggaran privasi.

Pembiaran terhadap praktik tersebut dinilai akan menjadi preseden buruk bagi ekosistem digital nasional.

“Penggunaan AI yang tidak bertanggung jawab akan sangat membahayakan dan merusak moral bangsa jika tidak ditindak secara tegas,” pungkasnya.

Sebelumnya, Komdigi menyatakan Grok AI dan platform X berpotensi dikenakan sanksi administratif hingga pemutusan akses apabila tidak patuh terhadap regulasi di Indonesia.

Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menegaskan bahwa platform X sebagai Penyelenggara Sistem Elektronik (PSE) wajib mematuhi peraturan perundang-undangan yang berlaku.

Ia menambahkan, penyedia layanan AI maupun pengguna yang terbukti memproduksi atau menyebarkan konten pornografi, termasuk manipulasi citra pribadi tanpa izin, dapat dikenakan sanksi administratif maupun pidana sesuai ketentuan hukum yang berlaku.