Komdigi Dorong Platform Digital Hadirkan Fitur Deteksi Konten AI untuk Cegah Hoaks

AKURAT.CO Wakil Menteri Komunikasi dan Digital (Komdigi), Nezar Patria, meminta platform digital global menyediakan fitur untuk mendeteksi konten buatan Artificial Intelligence (AI). Fitur ini dianggap penting guna membantu masyarakat menghindari hoaks dan konten deepfake.

"Kita berharap platform media sosial global juga bisa melakukan filter, atau setidaknya menyediakan fitur untuk mengecek apakah sebuah konten buatan AI atau bukan," ujarnya, dikutip dari keterangan resminya, Kamis (11/9/2025).

Ia menilai fenomena deepfake semakin mengkhawatirkan. Berdasarkan laporan Sensity AI, jumlah konten deepfake meningkat 550 persen dalam lima tahun terakhir.

"Saya yakin jumlahnya jauh lebih besar karena kemampuan aplikasi untuk membuat video atau foto deepfake kini sangat masif," tegas Nezar.

Menurutnya, platform digital memiliki teknologi komputasi dan algoritma yang dapat digunakan untuk mendeteksi konten. Ia mencontohkan Meta atau Google yang bisa menghadirkan fitur pengecekan sebagai layanan standar.

Selain mendorong platform global, Nezar menyebut pemerintah tengah menyiapkan regulasi khusus mengenai pemanfaatan AI agar tidak disalahgunakan untuk memproduksi hoaks. Saat ini Indonesia sudah memiliki sejumlah payung hukum, seperti UU ITE, UU PDP dan PP TUNAS.

Kementerian Komdigi juga bekerja sama dengan ekosistem luas, termasuk Mafindo dan media, untuk memperkuat program cek fakta. "Ruang digital ini milik kita bersama, maka kita perlu kerja sama yang erat untuk menjaga publik dari hoaks dan konten negatif," kata Nezar.

Ketua Mafindo, Septiaji Eko Nugroho, menyebut deepfake pertama kali muncul di Indonesia pada 2023 dan kini berkembang pesat. Menurutnya, konten semacam ini paling sering disalahgunakan untuk penipuan digital dan menggiring opini politik.

"Kalau ada konten hoaks bentuknya video yang muncul di tahun 2025 dengan tema penipuan digital, itu mayoritas adalah deepfake," jelas Septiaji.

Ia menegaskan, Mafindo akan terus berkolaborasi dengan Komdigi, media dan komunitas literasi digital untuk melakukan pengecekan fakta terhadap hoaks, termasuk deepfake, yang beredar di internet.