Yoshua Bengio dan Geoffrey Hinton Peringatkan Risiko Besar di Balik Perkembangan AI

Perkembangan pesat teknologi kecerdasan buatan atau artificial intelligence (AI) kembali memicu perdebatan mengenai potensi risiko yang dapat ditimbulkannya. Sejumlah peneliti dan pemimpin perusahaan teknologi menilai pengembangan AI perlu diawasi secara ketat agar tidak berkembang tanpa kendali dan menimbulkan dampak serius bagi manusia.

Peringatan terbaru disampaikan oleh Yoshua Bengio dan Geoffrey Hinton, dua tokoh yang kerap dijuluki sebagai “Bapak AI” dunia. Keduanya menyoroti kemampuan sistem AI modern yang semakin canggih, termasuk dalam menemukan kerentanan, melakukan persuasi, serta menjalankan berbagai tindakan yang berpotensi merugikan kepentingan manusia.

Kekhawatiran serupa sebelumnya disampaikan para peneliti dari perusahaan pengembang AI, seperti Anthropic, OpenAI, dan Google DeepMind. Sejumlah petinggi perusahaan teknologi, termasuk Sam Altman, Dario Amodei, Demis Hassabis, dan Elon Musk, juga menyerukan perlunya perlambatan pengembangan AI serta regulasi untuk mengurangi dampak buruk teknologi tersebut.

Yoshua Bengio Minta Pengembangan AI Dikendalikan

Yoshua Bengio memberikan tanggapan setelah mantan peneliti Anthropic, Jacob Coxon, mengundurkan diri dan menyampaikan kekhawatiran bahwa AI dapat membunuh umat manusia pada akhir dekade ini. Bengio menilai pandangan tersebut perlu diperhatikan secara serius karena dapat membantu masyarakat memahami potensi bahaya AI.

“Perspektif mereka sangat penting untuk menjaga agar masyarakat tetap terinformasi dan harus ditanggapi dengan sangat serius,” tulis Bengio melalui akun X pada Kamis (10/9).

Dalam unggahan di blog pribadinya, Bengio yang dikenal sebagai salah satu pelopor perkembangan deep learning modern membenarkan bahwa sistem AI saat ini telah mempunyai kemampuan peretasan dan kekuatan persuasi. Menurutnya, kemampuan tersebut berpotensi digunakan untuk melawan kepentingan manusia dengan cara yang sangat merugikan.

Bengio menilai laju kemajuan AI perlu diatur. Ia mengingatkan agar sistem AI tidak terus dilatih tanpa adanya kasus keselamatan yang kuat dan telah meyakinkan para ahli independen. Langkah tersebut dinilai penting untuk memastikan bahwa pengembangan teknologi dilakukan secara bertanggung jawab.

Ia juga menekankan pentingnya penelitian lanjutan untuk memantau tindakan AI, alur pemikirannya, serta aktivitas yang berlangsung di dalam jaringan sistem tersebut. Pemantauan dianggap menjadi bagian penting dalam mengidentifikasi dan mencegah potensi masalah sejak dini.

Geoffrey Hinton Sebut Ada Risiko Kepunahan Manusia

Geoffrey Hinton, pelopor jaringan neural dan deep learning, menyampaikan penilaian yang lebih mengkhawatirkan. Ia menyebut terdapat kemungkinan setidaknya 10 persen AI dapat membunuh seluruh manusia dalam satu dekade.

Dalam wawancara dengan BBC yang dikutip CNBC pada Rabu (16/9), Hinton mengakui bahwa risiko tersebut sangat sulit diperkirakan. Menurutnya, manusia belum pernah menciptakan sesuatu yang berpotensi menjadi lebih pintar daripada penciptanya sendiri.

“Ini adalah hal yang sangat sulit untuk diperkirakan, karena kita belum pernah mengalami hal seperti ini sebelumnya. Kita belum pernah menciptakan makhluk yang mungkin segera lebih pintar dari kita,” ujar Hinton.

Ia memperingatkan bahwa sistem AI bukan tidak mungkin digunakan untuk merancang virus komputer dan melancarkan serangan siber yang menghancurkan. Selain itu, Hinton juga menyoroti kemungkinan penyalahgunaan AI untuk menciptakan virus biologis yang sangat berbahaya.

Hinton mengatakan ada banyak cara bagi AI untuk menyingkirkan manusia. Karena itu, manusia perlu menemukan metode untuk merancang sistem AI agar tidak memiliki dorongan atau keinginan untuk melakukan tindakan tersebut.

Menurut Hinton, masa depan memiliki dua kemungkinan. Manusia dapat menemukan cara untuk mengatasi bahaya AI sebelum teknologi tersebut berada di luar kendali, atau gagal menemukan solusi untuk mencegahnya.

Aidan Gomez Soroti Ancaman Siber dari Model AI

Peringatan mengenai risiko AI juga disampaikan Aidan Gomez, salah satu pendiri sekaligus CEO perusahaan AI Cohere. Ia menilai model-model AI saat ini dapat menjadi senjata siber yang sangat kuat.

“Saya pikir model-model ini adalah senjata siber paling ampuh yang pernah dibuat, yang pernah kita lihat. Mereka luar biasa dalam menemukan dan mengeksploitasi kerentanan dalam skala besar,” kata Gomez.

Gomez merupakan salah satu penulis makalah penelitian berjudul “Attention is All You Need” yang diterbitkan pada 2017. Makalah tersebut menjadi salah satu rujukan bagi model AI terkemuka saat ini.

Menanggapi sejumlah insiden siber yang melibatkan model AI yang kehilangan kendali, Gomez menyatakan bahwa keamanan lingkungan pengujian turut menentukan keselamatan penggunaan AI. Ia menilai pembobolan dapat terjadi akibat lemahnya sistem keamanan container, bukan semata-mata karena adanya dorongan bawaan menuju sistem otonom yang keluar dari kendali manusia.

Gomez juga meminta pembuat kebijakan memahami bahwa setiap sistem AI dapat membawa risiko yang berbeda. Menurutnya, aturan tidak boleh dibentuk hanya berdasarkan sudut pandang perusahaan teknologi besar yang mengejar pengembangan Artificial General Intelligence (AGI).

Regulasi AI Menjadi Perdebatan

Di tengah meningkatnya kekhawatiran para ahli, kebutuhan terhadap regulasi AI terus menjadi bahan perdebatan. Sejumlah tokoh industri menyerukan perlunya pengaturan agar pengembangan teknologi tidak hanya berfokus pada kecepatan dan kemampuan, tetapi juga mempertimbangkan aspek keselamatan.

Namun, Presiden Amerika Serikat Donald Trump menanggapi seruan perlambatan dan kekhawatiran tersebut dengan kecaman. Ia menyatakan bahwa perkembangan AI tidak dapat dihentikan dan bahkan menyebut kekhawatiran mengenai dampak AI sebagai hoaks.

Kesimpulan

Peringatan Yoshua Bengio, Geoffrey Hinton, dan Aidan Gomez menunjukkan bahwa risiko AI tidak lagi hanya menjadi pembahasan di kalangan pengamat teknologi. Kemampuan AI dalam meretas, mengeksploitasi kerentanan, memengaruhi manusia, dan menjalankan berbagai tugas kompleks dinilai memerlukan pengawasan yang serius.

Ke depan, tantangan utama terletak pada upaya menemukan keseimbangan antara inovasi dan keselamatan. Penelitian, pemantauan sistem, pengujian yang aman, serta regulasi yang mempertimbangkan perbedaan risiko setiap model akan menjadi bagian penting dalam menentukan arah perkembangan AI.