OpenAI Ungkap Penyebab Halusinasi AI dan Solusinya

AKURAT.CO OpenAI mengumumkan temuan baru terkait masalah halusinasi pada chatbot kecerdasan buatan (AI). Halusinasi ini membuat AI memberikan jawaban yang tampak meyakinkan tetapi sebenarnya salah.

Masalah tersebut menjadi sorotan karena chatbot kini digunakan di ruang kelas, kantor, hingga kehidupan sehari-hari. Jawaban yang keliru berpotensi menyesatkan pengguna jika tidak dicek ulang.

Dalam riset terbaru, OpenAI bersama Santosh Vempala dari Georgia Tech menerbitkan makalah setebal 36 halaman. Mereka menegaskan bahwa penyebab halusinasi bukan terletak pada desain model, melainkan cara sistem diuji dan diberi penilaian.

Selama ini, tolok ukur pengujian cenderung memberi nilai tinggi pada model yang menjawab semua pertanyaan. Sebaliknya, chatbot yang berhati-hati dan menahan diri ketika tidak yakin justru dianggap kurang baik.

Baca Juga: Orang Tua Gugat OpenAI Usai Remaja 16 Tahun Bunuh Diri

Peneliti mengusulkan perubahan metode evaluasi dengan menghukum jawaban salah yang disampaikan secara percaya diri. Sebaliknya, chatbot akan diberi nilai positif jika mampu menunjukkan kehati-hatian atau mengakui ketidakpastian.

Uji coba awal menunjukkan perbedaan hasil yang jelas. Model yang hanya menjawab separuh pertanyaan memiliki tingkat akurasi 74 persen, jauh lebih tinggi dari model yang menjawab semua namun sering berhalusinasi.

Dikutip dari Gizmochina, Sabtu (13/9/2025), jika diterapkan, metode ini dapat mengubah perilaku chatbot sehari-hari. Alih-alih mengarang sumber atau data, mereka akan lebih sering mengatakan "saya tidak tahu".

Upaya OpenAI ini dinilai penting untuk meningkatkan keandalan AI. Fokusnya bukan lagi pada rasa percaya diri chatbot, melainkan pada keakuratan dan kepercayaan informasi bagi pengguna.