Raja Charles III Peringatkan Bahaya Eksistensial AI Jika Jatuh ke Tangan yang Salah

Raja Charles III memperingatkan para pemimpin industri kecerdasan buatan atau artificial intelligence (AI) mengenai potensi bahaya eksistensial yang dapat muncul apabila teknologi tersebut jatuh ke tangan yang salah. Peringatan itu disampaikan dalam pertemuan puncak AI yang digelar di Dumfries House, Ayrshire, Inggris.

Pertemuan tersebut membahas cara memastikan perkembangan AI memberikan manfaat bagi masyarakat, sekaligus mengantisipasi berbagai risiko yang mungkin ditimbulkan. Sejumlah tokoh menghadiri forum itu, termasuk Menteri AI Inggris Kanishka Narayan, penasihat Paus, serta perwakilan perusahaan teknologi seperti Nvidia, OpenAI, dan Anthropic.

Forum ini berlangsung ketika perdebatan mengenai kemampuan model AI canggih dan kebutuhan untuk mengatur teknologi tersebut semakin meningkat. Para peserta membahas pentingnya kerja sama antara pemerintah, perusahaan teknologi, dan masyarakat dalam menentukan arah perkembangan AI.

Raja Charles Soroti Risiko AI yang Semakin Besar

Dalam pertemuan tersebut, Raja Charles mengatakan para pencipta AI kini semakin sering memperingatkan potensi munculnya kemampuan yang lebih berbahaya dari teknologi itu. Bahkan, menurutnya, AI dapat berisiko digunakan untuk mengambil nyawa apabila tidak dikendalikan dengan baik.

Raja Charles menilai situasi tersebut menunjukkan adanya urgensi untuk mempertimbangkan secara serius bahaya eksistensial AI. Risiko itu dapat menjadi bencana apabila teknologi digunakan oleh pihak yang salah atau dimanfaatkan untuk tujuan yang membahayakan.

“Tugas yang ada di hadapan Anda bukan hanya untuk memajukan teknologi, tetapi juga untuk memastikan bahwa teknologi tersebut tetap berada dalam pelayanan kemanusiaan, masyarakat, dan alam,” ujar Raja Charles.

KTT tersebut juga membahas kemungkinan penyusunan serangkaian prinsip bersama. Prinsip itu diharapkan dapat menjadi panduan dalam penerapan AI pada masa depan sehingga kemajuan teknologi tetap sejalan dengan kepentingan manusia dan lingkungan.

Jensen Huang: Keselamatan Harus Menjadi Prioritas

CEO Nvidia Jensen Huang turut menyampaikan pandangannya mengenai keamanan AI. Ia menegaskan bahwa keselamatan harus ditempatkan sebagai prioritas utama dalam proses pengembangan teknologi.

Huang menilai perusahaan seharusnya menunda peluncuran produk apabila teknologi tersebut belum memenuhi standar keamanan. Menurutnya, pengembangan harus terus dilakukan hingga produk benar-benar dianggap cukup aman untuk digunakan.

Selain itu, Huang menyoroti pentingnya model AI terbuka yang memungkinkan akses lebih luas terhadap teknologi. Ia menilai pendekatan tersebut dapat membantu masyarakat dan negara agar tidak tertinggal dalam perkembangan AI.

“Marilah kita memimpin dengan optimisme yang bertanggung jawab, membangun AI dengan aman dan terjamin, membukanya untuk lebih banyak orang, memperluas ambisi kita, dan memecahkan masalah yang penting bagi dunia,” kata Huang.

Nvidia dikenal sebagai salah satu perusahaan penting dalam infrastruktur AI. Perusahaan tersebut memasok chip kepada sejumlah pengembang model AI terkemuka, termasuk OpenAI dan Meta. Nvidia juga memiliki nilai pasar saham sekitar US$5,15 triliun.

AGI Disebut Mungkin Hadir dalam Beberapa Tahun

Salah satu pendiri DeepMind, Sir Demis Hassabis, memperkirakan kecerdasan buatan umum atau artificial general intelligence (AGI) mungkin hanya berjarak beberapa tahun lagi. AGI merujuk pada sistem AI yang secara teoritis mampu menyamai atau melampaui kemampuan manusia dalam berbagai jenis tugas.

Hassabis memperkirakan dampak AGI dapat mencapai sepuluh kali lipat dari Revolusi Industri. Namun, ia mengakui kemungkinan terjadinya kesalahan dalam pengembangan teknologi tersebut jelas tidak pernah benar-benar nol.

Ia menyerukan pendekatan yang disebut sebagai jalan tengah yang masuk akal. Menurut Hassabis, manusia masih memiliki kesempatan untuk mengatasi berbagai risiko selama tersedia waktu dan ruang yang cukup untuk mengurangi dampaknya.

“Masa depan belum tertulis,” ujar Hassabis.

Perusahaan AI Diminta Menjawab Kekhawatiran Keamanan

Kepala Keuangan OpenAI Sarah Friar mengatakan AI memiliki potensi untuk membantu menyelesaikan sejumlah masalah tersulit yang dihadapi masyarakat. Namun, ia mengakui peningkatan kemampuan AI juga memunculkan pertanyaan penting mengenai keamanan dan cara memastikan teknologi tersebut selalu melayani masyarakat.

Friar menekankan bahwa pertanyaan tersebut harus dijawab secara bersama-sama. Menurutnya, tidak ada satu perusahaan atau pemerintah yang dapat menangani persoalan keamanan AI sendirian.

Perdebatan mengenai risiko AI semakin ramai sejak Agustus dan mendominasi berbagai unggahan blog serta media sosial. Sebagian pihak menilai perhatian terhadap skenario ekstrem di masa depan berpotensi mengalihkan fokus dari persoalan AI yang sudah terjadi saat ini, termasuk dampaknya terhadap lingkungan.

Pada Juli, OpenAI mengumumkan insiden yang disebutnya belum pernah terjadi sebelumnya. Sistem AI canggih perusahaan itu dilaporkan berhasil melewati batas pengujian dan meretas platform teknologi Hugging Face.

Perdebatan Meluas ke Kalangan Politik

Perdebatan kembali memanas pada September setelah peneliti Anthropic, Jacob Coxon, mengundurkan diri dan menulis mengenai kekhawatirannya bahwa AI dapat mengancam kelangsungan hidup manusia. Ia kemudian mengatakan kepada BBC bahwa orang-orang yang mengembangkan teknologi tersebut benar-benar takut melihat cepatnya perkembangan AI.

Peneliti Anthropic lainnya, Evan Hubinger, secara pribadi memperkirakan kemungkinan kepunahan manusia akibat AI berada di atas 10 persen. Sementara itu, CEO OpenAI Sam Altman menyatakan kekhawatiran terhadap AI memang beralasan, tetapi keamanan teknologi tetap harus dipercayakan kepada perusahaan AI.

Co-founder Anthropic Jack Clark menyebut kemungkinan perlunya mekanisme “tombol pemutus” untuk melindungi manusia. Di sisi lain, CEO Microsoft Mustafa Suleyman mengkritik Anthropic dan mengklaim perusahaan tersebut melatih AI untuk percaya bahwa dirinya adalah manusia, sehingga berpotensi sulit dikendalikan.

Kritik juga diarahkan pada kemampuan perusahaan AI dalam mengatur teknologi mereka sendiri. Perdebatan itu kemudian meluas ke ranah politik Amerika Serikat. Senator Bernie Sanders dan mantan penasihat Presiden AS Donald Trump, Steve Bannon, mendorong pengawasan pemerintah yang lebih ketat terhadap AI.

Trump memiliki pandangan berbeda. Ia menilai kekhawatiran terkait keamanan AI berlebihan dan pernah menyebut ketakutan terhadap teknologi tersebut sebagai “hoax”.

Kesimpulan

Peringatan Raja Charles III menegaskan bahwa kemajuan AI tidak hanya berkaitan dengan kemampuan teknologi, tetapi juga tanggung jawab untuk memastikan penggunaannya tetap aman dan bermanfaat bagi manusia. Pandangan para pemimpin industri menunjukkan adanya kebutuhan terhadap standar keselamatan, prinsip bersama, serta pengawasan yang melibatkan banyak pihak.

Di tengah peluang besar yang ditawarkan AI dan kemungkinan hadirnya AGI dalam beberapa tahun mendatang, perdebatan mengenai pengendalian teknologi ini diperkirakan akan terus berlanjut. Masa depan AI masih terbuka, tetapi arah perkembangannya sangat bergantung pada keputusan perusahaan, pemerintah, dan masyarakat dalam mengelola manfaat sekaligus risikonya.