Algoritma Tak Boleh Menguasai Kita

INDONESIA sedang bergerak dengan cepat menuju masyarakat digital. Informasi, peluang bisnis, hubungan sosial, bahkan saran kesehatan kini dipengaruhi oleh satu kekuatan dominan: algoritma platform.

Algoritma tidak pernah mempertanyakan apakah konten akurat, aman, atau bertanggung jawab secara sosial. Mereka dirancang untuk memaksimalkan keterlibatan. Mereka hanya mempertanyakan satu hal: Apakah konten ini akan menarik perhatian dan membuat pengguna tetap berada di platform?

Isu Kepentingan Publik

Pilihan desain ini mungkin terlihat netral, tetapi pada kenyataannya memiliki konsekuensi yang serius—terutama bagi negara seperti Indonesia, dimana latar belakang pendidikan, akses terhadap layanan publik, dan tingkat literasi digital sangat bervariasi.

Saat ini, algoritma tidak hanya mendistribusikan informasi. Mereka membentuk perilaku, keyakinan, dan pengambilan keputusan secara massal. Inilah mengapa Indonesia harus mulai memperlakukan algoritma sebagai masalah kepentingan publik.

Scam Keuangan

Belakangan ini, media sosial di Indonesia dipenuhi dengan postingan yang dirancang secara profesional yang mengklaim bahwa produk rumah tangga biasa dapat:

melawan kanker
mendetoksifikasi tubuh
menggantikan pengobatan medis
sengaja disembunyikan oleh perusahaan farmasi besar.

Postingan-postingan ini tidak dibuat oleh dokter atau lembaga kesehatan publik. Mereka sering kali dibuat untuk meningkatkan interaksi, saluran penjualan, atau pertumbuhan trafik.

Namun, postingan-postingan ini diperkuat oleh algoritma karena memicu rasa takut, marah, Ketidakpercayaan dan rasa ingin tahu. Bagi banyak orang Indonesia, terutama di komunitas yang aksesnya terhadap informasi medis yang andal terbatas, konten semacam ini sangat persuasif.

Risikonya nyata:

orang menunda mencari perawatan medis
orang mencoba praktik yang tidak aman
kepercayaan publik terhadap tenaga medis dan lembaga kesehatan melemah.

Klaim berlebihan tentang kesehatan hanyalah salah satu contoh. Logika algoritmik yang sama juga mempercepat:

penipuan keuangan dan janji investasi palsu
disinformasi sosial dan politik
konten yang merusak kohesi sosial

Masalah Utamanya Bukan Masyarakat

Salah—dan tidak adil—untuk menyalahkan masyarakat Indonesia atas situasi ini. Masalah inti terletak pada desain platform digital. Algoritma dioptimalkan untuk mengutamakan intensitas emosional dan viralitas. Akurasi, dampak sosial, dan keamanan publik tidak termasuk dalam tujuan optimasi.

Pendidikan dan literasi digital memang diperlukan, tetapi tidak cukup. Kita tidak bisa mengharapkan warga negara untuk terus mengungguli:

kecepatan produksi konten otomatis
skala distribusi algoritma
penyajian informasi menyesatkan yang semakin canggih

Ini adalah tantangan struktural, bukan individu.

Ruang Digital Membutuhkan "People's Guardian"

Indonesia perlu mendirikan mekanisme pengaturan mandiri nasional untuk platform digital—dibangun oleh industri, namun didukung oleh otoritas publik.

Saya mengusulkan pembentukan badan pengaturan mandiri yang dipimpin oleh asosiasi platform, yang:

beroperasi secara independen
dikelola secara profesional
diakui secara hukum melalui keputusan menteri.

Badan ini akan bertindak sebagai People's Guardian atau Penjaga Rakyat untuk ekosistem digital Indonesia. Perannya bukanlah untuk mengontrol debat pendapat atau diam. Mandatnya akan difokuskan pada kategori konten berisiko tinggi dengan konsekuensi nyata di dunia nyata, seperti:

klaim kesehatan dan medis
klaim keuangan dan investasi
informasi keamanan publik dan darurat
integritas pemilu atau sipil

Apa yang Harus Dilakukan oleh Guardian?

Pertama, Guardian harus menetapkan standar umum di antara platform untuk mengidentifikasi dan menanggapi klaim berlebihan yang merugikan dan praktik menyesatkan.

Kedua, Guardian harus mengoperasikan mekanisme eskalasi cepat untuk konten viral berisiko tinggi—sehingga platform dapat merespons dalam batas waktu yang jelas, bukan setelah kerusakan sudah terjadi. Ketiga, Guardian harus didukung oleh panel ahli independen yang terdiri dari asosiasi medis, lembaga kesehatan masyarakat, dan badan perlindungan konsumen, regulator keuangan, akademisi, masyarakat sipil.

Keempat, platform tersebut harus menerbitkan laporan yang transparan dan dapat diaudit mengenai respons platform, konsistensi penegakan aturan, dan risiko sistemik. Kelima, platform tersebut harus memungkinkan pelapor tepercaya—seperti rumah sakit, asosiasi profesional, dan lembaga publik yang diakui—untuk melaporkan konten berbahaya yang mendesak secara langsung.

Terakhir, platform tersebut harus mempromosikan langkah-langkah pengamanan berbasis gesekan untuk konten viral berisiko tinggi, seperti peringatan, pengurangan kemudahan berbagi, dan pengalihan ke sumber yang terverifikasi.

Mengapa Pengakuan Hukum Penting

Mekanisme ini harus bersifat self-regulatory dalam operasional harian. Namun, mekanisme ini harus didukung secara hukum: keputusan menteri. Sebuah Keputusan Menteri akan menyediakan:

mandat yang jelas
standar nasional yang konsisten
kewajiban partisipasi bagi platform besar
koordinasi lintas sektor dengan otoritas kesehatan, perlindungan konsumen, dan digital

Pendekatan ini menyeimbangkan inovasi dengan tanggung jawab. Industri memimpin mekanisme. Pemerintah menyediakan kerangka hukum. Ahli independen memastikan integritas.

Tujuan Utamanya adalah Perlindungan

Tujuan utama bukanlah sensor. Tujuan utama adalah perlindungan.

Ekonomi digital Indonesia, UMKM, dan industri kreatif bergantung pada kepercayaan. Jika kita membiarkan algoritma beroperasi tanpa jaminan kepentingan publik, kita berisiko membiarkan infrastruktur digital secara diam-diam merusak hasil kesehatan, kepercayaan sosial, dan kredibilitas institusi.

Algoritma telah menjadi aktor kebijakan yang diam-diam. Ia membentuk apa yang dilihat, dipercaya, dan dilakukan oleh warga negara kita—setiap hari.

Indonesia kini harus mengakui kenyataan ini dan membangun sistem perlindungan yang melindungi warganya tanpa menghambat inovasi. Ini bukan tentang ketakutan terhadap teknologi. Ini tentang tata kelola yang bertanggung jawab di era algoritma.

____
Teguh Anantawikrama, WKU Kadin bidang Teknologi Transfer dan Digital