Uni Eropa Kecam Konten Deepfake Anak dari Grok AI di Platform X

AKURAT.CO Uni Eropa mengecam keras penyebaran konten deepfake bernuansa seksual yang dihasilkan oleh Grok AI di platform X. Konten tersebut dinilai sangat berbahaya, terutama karena menampilkan visual yang menyerupai anak-anak.

Kecaman ini muncul setelah lonjakan keluhan publik terhadap fitur baru 'edit gambar' Grok. Fitur tersebut disalahgunakan sebagian pengguna untuk menghapus pakaian orang secara digital.

Komisi Eropa menyebut konten tersebut sebagai ilegal dan tidak dapat ditoleransi. Otoritas UE menegaskan bahwa perlindungan anak adalah prioritas utama dalam regulasi digital.

Juru bicara urusan digital Uni Eropa, Thomas Regnier, menyebut mode 'pedas' Grok telah menghasilkan konten seksual eksplisit. Ia menekankan bahwa output dengan visual mirip anak di bawah umur bukan sekadar pelanggaran etika, tetapi kejahatan hukum.

Baca Juga: Platform X Batasi Fitur Grok AI Usai Heboh Konten Seksual

Regnier mengatakan Komisi Eropa menangani isu ini dengan sangat serius. Menurutnya, konten semacam itu tidak memiliki tempat di wilayah Uni Eropa, sebagaimana dikutip dari Al Jazeera, Rabu (28/1/2026).

Di sisi lain, jaksa penuntut umum di Paris memperluas penyelidikan terhadap X. Penyelidikan tersebut mencakup dugaan penggunaan Grok untuk memproduksi dan menyebarkan pornografi anak.

Grok mengakui adanya kegagalan dalam sistem perlindungan kontennya. Perusahaan menyatakan telah melakukan perbaikan cepat dan menegaskan larangan keras terhadap materi pelecehan seksual anak.

Namun, pakar keamanan AI menilai risiko ini sudah diperingatkan sejak lama. Mereka menyebut teknologi pembuatan gambar Grok rentan disalahgunakan jika tidak diawasi ketat.

Kasus ini menambah tekanan regulasi terhadap X di Uni Eropa. Platform tersebut masih berada dalam penyelidikan Undang-Undang Layanan Digital, di tengah riwayat kontroversi terkait moderasi konten dan transparansi.