Raja Charles III Peringatkan Bahaya Eksistensial AI Jika Jatuh ke Tangan yang Salah

PusakoNews.com, Cumnock - Raja Charles III memperingatkan para pemimpin industri kecerdasan buatan (AI) mengenai bahaya eksistensial yang dapat muncul jika teknologi tersebut jatuh ke tangan yang salah dan digunakan dengan cara yang berpotensi menimbulkan bencana.

Peringatan itu disampaikan Charles saat membuka pertemuan tingkat tinggi mengenai masa depan AI di Dumfries House, Skotlandia, pada Kamis, 17 September 2026.

Dalam pidatonya, Charles mengatakan perkembangan AI memiliki potensi besar untuk memberikan manfaat bagi kehidupan manusia, termasuk dalam bidang ilmu kehidupan dan kedokteran. Namun, ia juga menyoroti kekhawatiran mengenai kemampuan teknologi tersebut apabila berkembang ke arah yang berbahaya.

"Those who have created these technologies are now increasingly warning that AI risks developing darker capacities – perhaps even to take life," kata Charles dalam pidatonya, sebagaimana tercantum dalam publikasi resmi Kerajaan Inggris.

Charles kemudian menekankan pentingnya mempertimbangkan risiko ketika teknologi AI berada di tangan pihak yang salah.

Menurutnya, terdapat kebutuhan mendesak untuk mempertimbangkan bahaya eksistensial dari teknologi tersebut, termasuk kemungkinan penggunaannya dengan cara yang berpotensi katastrofik. Ia juga mempertanyakan apakah sarana pengendalian yang memadai sudah tersedia sebelum perkembangan teknologi mencapai titik yang terlalu sulit dikendalikan.

Pertemuan tersebut mempertemukan sejumlah tokoh dari industri teknologi dan AI, termasuk perwakilan Nvidia, Google DeepMind, OpenAI, dan Anthropic.

Menurut Kerajaan Inggris, forum di Dumfries House membahas bagaimana AI dapat dikembangkan dan diterapkan untuk memberikan manfaat bagi masyarakat, memperkuat komunitas, serta meningkatkan kualitas kehidupan. Para peserta juga membahas kemungkinan penyusunan prinsip bersama untuk memandu penggunaan AI di masa depan.

Reuters melaporkan bahwa Charles meminta para eksekutif AI memastikan adanya perlindungan yang memadai sebelum perkembangan teknologi menjadi terlalu sulit dikendalikan. Dalam pandangannya, tugas industri bukan hanya mengembangkan teknologi, tetapi juga memastikan AI tetap digunakan untuk kepentingan manusia, masyarakat, dan alam.

Peringatan tersebut disampaikan ketika perdebatan mengenai keamanan AI semakin berkembang, khususnya mengenai bagaimana teknologi yang semakin kuat dapat dikembangkan sekaligus dikendalikan.

Charles sebelumnya juga pernah menyampaikan perhatian mengenai perkembangan AI. Dalam pidato terbarunya, ia kembali menekankan pentingnya menjaga manusia tetap memiliki kendali atas arah perkembangan teknologi.

Bagi Charles, perkembangan AI tidak hanya menyangkut kemampuan teknologi, tetapi juga konsekuensi yang dapat ditimbulkannya terhadap manusia dan lingkungan. Karena itu, pembahasan mengenai pengembangan AI perlu berjalan bersama dengan upaya memastikan teknologi tersebut tetap digunakan secara bertanggung jawab.