AI dan Risiko Halusinasi Digital dalam Dunia Medis dan Kesehatan Mental

AKURAT.CO Fenomena halusinasi AI kini menjadi perhatian serius dalam dunia kedokteran dan kesehatan mental.

Istilah ini mengacu pada kesalahan informasi yang dihasilkan oleh teknologi kecerdasan buatan, khususnya Large Language Models (LLM) seperti ChatGPT dan Gemini, yang memberikan jawaban yang tampak benar tetapi sebenarnya keliru atau sepenuhnya salah.

“Model ini tidak memahami kebenaran; mereka hanya memprediksi kata berikutnya berdasarkan pola bahasa,” jelas Dr. Joe Pierre, psikiater klinis dan penulis rubrik Psych Unseen di Psychology Today.

Dalam beberapa kasus, AI telah diketahui memberikan kutipan medis palsu, menyebarkan mitos psikologis, hingga menawarkan saran kesehatan yang menyesatkan.

Studi menunjukkan bahwa dalam konteks klinis, halusinasi AI tidak hanya berisiko merusak akurasi informasi, tetapi juga dapat membahayakan pasien, terutama mereka yang berada dalam kondisi psikologis rentan.

Peningkatan Risiko dalam Kesehatan Mental

Di bidang psikiatri, kesalahan yang dibuat AI bisa berakibat fatal. AI berpotensi memperkuat delusi, salah mengartikan gejala, atau memberikan saran tidak etis jika digunakan tanpa pengawasan profesional.

Karena itu, para ahli mendesak agar penggunaan AI di bidang ini tidak dilakukan secara mandiri dan tetap melibatkan validasi dari tenaga medis manusia. 

Dalam artikel terbarunya, Dr. Pierre menyatakan bahwa istilah "halusinasi AI" sebaiknya diganti dengan sebutan yang lebih tepat, seperti “misinformasi otomatis” atau “konfabulasi digital.”

Baca Juga: Nvidia dan AMD Kembali Izinkan Jual Chip AI ke China setelah AS Longgarkan Aturan

Hal ini penting agar publik tidak menganggap seolah AI memiliki kesadaran atau persepsi layaknya manusia.

“Kita sebaiknya menyebutnya apa adanya, bukan halusinasi, tetapi misinformasi. Ini bukan kekeliruan kognitif, melainkan konsekuensi desain teknologi yang belum sempurna,” tegasnya.

Waspada, Bukan Menyerah

Laporan ini merekomendasikan langkah-langkah mitigasi untuk menghindari bahaya halusinasi AI, di antaranya:

• Validasi ganda oleh profesional medis terhadap setiap informasi AI.
• Transparansi publik terkait batasan dan sumber data LLM.
• Pendidikan pengguna tentang risiko penggunaan AI tanpa bimbingan ahli.

Dengan semakin luasnya pemanfaatan AI di bidang kesehatan, penting bagi masyarakat dan tenaga profesional untuk memahami keterbatasan teknologi ini secara kritis dan bijak.