Raja Charles Peringatkan Bahaya Eksistensial AI, Minta Pengamanan Sebelum Terlambat

AKURAT.CO Raja Charles III memperingatkan para pemimpin industri kecerdasan buatan (AI) mengenai “bahaya eksistensial” yang dapat muncul jika teknologi tersebut jatuh ke tangan yang salah. Dalam pertemuan di Skotlandia, Raja Charles menekankan perlunya pengamanan dan mekanisme pengendalian AI sebelum perkembangan teknologi menjadi terlalu sulit dikendalikan.

Peringatan Raja Charles soal bahaya AI disampaikan ketika kekhawatiran mengenai perkembangan sistem AI yang semakin kuat meningkat. Raja Charles menjadi tuan rumah pertemuan yang menghadirkan sejumlah tokoh industri teknologi, termasuk pendiri Nvidia Jensen Huang, pendiri Google DeepMind Demis Hassabis, serta perwakilan OpenAI dan Anthropic.

Pertemuan tersebut berlangsung di kediaman Raja Charles, Dumfries House, Skotlandia. Selain para pemimpin perusahaan AI, hadir pula Menteri AI Inggris Kanishka Narayan dan Paolo Benanti, penasihat Paus Leo yang selama ini menyerukan agar pemerintah lebih berhati-hati terhadap laju pengembangan teknologi AI.

Raja Charles: AI Bisa Menyelamatkan hingga Mengancam Kehidupan

Raja Charles mengatakan kecerdasan buatan memiliki potensi besar untuk meningkatkan kualitas hidup manusia, termasuk membantu menyelamatkan nyawa melalui kemajuan ilmu hayati dan kedokteran.

Namun, menurutnya, para pengembang AI sendiri semakin sering memperingatkan adanya kemampuan teknologi yang dapat digunakan untuk tujuan berbahaya.

“Teknologi tersebut mungkin memiliki kemampuan yang lebih gelap, bahkan mungkin untuk menghilangkan nyawa,” kata Raja Charles dalam pertemuan tersebut.

Ia menilai terdapat kebutuhan mendesak untuk mempertimbangkan risiko ketika teknologi AI jatuh ke tangan pihak yang salah dan digunakan dengan cara yang berpotensi menimbulkan dampak katastrofik.

“Bukankah kita membutuhkan sarana pengendalian yang memadai sebelum semuanya terlambat?” ujarnya.

Pernyataan tersebut mencerminkan meningkatnya perhatian global terhadap keselamatan AI, terutama ketika kemampuan model AI berkembang lebih cepat dibandingkan mekanisme pengawasan dan pengamanannya.

Jensen Huang Dorong Pengembangan AI yang Bertanggung Jawab

Pendiri sekaligus CEO Nvidia Jensen Huang mengatakan pengembangan AI harus dilakukan dengan apa yang ia sebut sebagai “optimisme yang bertanggung jawab”. Menurut Huang, tanggung jawab utama memastikan keamanan produk berada pada perusahaan yang mengembangkan teknologi tersebut.