Deepfake Merajalela, Platform Digital untuk Pengecekan Konten AI Sangat Mendesak

AKURAT.CO Langkah Kementerian Komunikasi dan Digital (Komdigi) yang meminta platform digital global menyediakan fitur pengecekan untuk mengenali konten yang dibuat oleh kecerdasan artifisial (Artificial Intelligence/AI), didukung oleh berbagai pihak.

Anggota Komisi I DPR RI, Syamsu Rizal, mengatakan usulan tersebut sejalan dengan kebutuhan mendesak masyarakat di tengah semakin maraknya penyalahgunaan teknologi AI, khususnya dalam bentuk deepfake.

Legislator Fraksi Partai Kebangkitan Bangsa (PKB) yang akrab disapa Deng Ical itu menyebut, teknologi ini memang menghadirkan inovasi luar biasa, namun juga membuka ruang manipulasi informasi yang berbahaya jika tidak dikendalikan.

"Kita tidak bisa menutup mata terhadap fenomena deepfake yang semakin canggih. Foto, video, bahkan suara bisa direkayasa sedemikian rupa hingga sulit dibedakan dari yang asli. Tanpa ada fitur pengecekan, masyarakat akan semakin kesulitan membedakan kebenaran dan kebohongan di ruang digital," ujar Deng Ical, Sabtu (13/9/2025).

Dia menegaskan bahwa platform digital global memiliki tanggung jawab moral dan sosial, untuk memastikan keamanan serta kepercayaan publik terhadap konten yang beredar. Fitur khusus yang dapat menandai konten buatan AI, diyakini mampu menjadi solusi preventif agar masyarakat tidak mudah terjebak dalam informasi palsu.

"Dengan adanya fitur pengecekan, publik bisa dengan cepat mengetahui mana konten yang benar-benar otentik, dan mana yang palsu atau hasil rekayasa AI. Ini penting untuk menjaga literasi digital sekaligus mengurangi potensi penyalahgunaan teknologi," tambahnya.

Deng Ical juga menekankan bahwa Komisi I DPR RI akan memberikan perhatian serius terhadap inisiatif Komdigi ini. Langkah tersebut akan dibahas lebih lanjut dalam rapat-rapat bersama kementerian terkait, guna merumuskan kebijakan yang komprehensif dan aplikatif.

"Komisi I tentu akan mendalami usulan ini. Kami akan memastikan ada regulasi dan kerja sama yang kuat antara pemerintah, DPR, dan platform digital, agar ruang digital kita tetap sehat, aman, dan kredibel," tegas legislator asal Dapil Sulawesi Selatan I tersebut.

Deng Ical menambahkan, selain aspek teknis, upaya pengendalian konten AI juga harus dibarengi dengan peningkatan edukasi literasi digital masyarakat. Menurutnya, masyarakat perlu dibekali kemampuan kritis agar tidak mudah termakan hoaks atau manipulasi digital.

"Kebijakan teknis saja tidak cukup. Edukasi publik dan literasi digital juga harus diperkuat. Kalau masyarakat kritis dan melek digital, maka potensi dampak buruk AI bisa diminimalisasi," jelasnya.

Selain itu, perlu ada percepatan literasi, sehingga masyarakat mempunyai kemampuan menjadi gate keeper untuk menjaring informasi yang dibutuhkan.

Pengawasan aktivitas di ruang digital sangat dibutuhkan. Pemerintah juga harus segera membentuk dewan pengawas sesuai UU PDP.

"Fraksi PKB dan DPR RI berkomitmen untuk terus mengawal perkembangan teknologi digital agar memberikan manfaat sebesar-besarnya bagi masyarakat, tanpa mengorbankan keamanan informasi maupun kualitas demokrasi di Indonesia," tutupnya

Sebelumnya, Wakil Menteri Komunikasi dan Digital, Nezar Patria, meminta platform digital global untuk menyediakan fitur pengecekan konten yang dibuat oleh kecerdasan artifisial.

Sebab, penyebaran konten deepfake sangat marak. Berdasarkan data Sensity AI mencatat peningkatan 550 persen konten deepfake dalam lima tahun terakhir.