Benarkah AI Bisa Membunuh Manusia? Ini Skenario Kepunahan yang Dikhawatirkan Pakar

Sejumlah pekerja dan peneliti di industri kecerdasan buatan (AI) mengungkap kekhawatiran bahwa perkembangan teknologi yang semakin canggih dapat memicu kepunahan umat manusia. Kekhawatiran tersebut kembali menjadi sorotan setelah Jacob Coxon, karyawan Anthropic, mengumumkan pengunduran dirinya melalui sebuah unggahan di X. Ia menilai pekerjaan yang dijalani terlalu berbahaya.

Pernyataan itu kemudian mendapat tanggapan dari Evan Hubinger, karyawan Anthropic lainnya. Ia memperkirakan peluang manusia punah akibat AI dalam 10 tahun ke depan berada di atas 10 persen. Meski demikian, tidak semua pihak meyakini skenario kiamat tersebut. Salah satu alasannya adalah detail mengenai bagaimana AI dapat menyebabkan kepunahan masih dianggap minim dan bersifat spekulatif.

Presiden Machine Intelligence Research Institute (MIRI), Nate Soares, termasuk pihak yang memandang ancaman tersebut secara serius. Ia mengatakan, AI yang berkembang di luar kendali benar-benar berpotensi membunuh manusia, bahkan memicu kematian seluruh manusia di planet ini.

Skenario AI Mengembangkan Senjata Biologis

Salah satu skenario yang dibahas para pengkritik ancaman AI adalah kemungkinan sistem supercerdas membantu atau mendorong manusia mengembangkan senjata biologis. Thomas Larsen, peneliti AI Futures Project sekaligus mantan karyawan MIRI, menyebut AI yang jauh lebih cerdas dan strategis berpotensi menipu manusia agar membuat serta menyebarkan virus mematikan.

Menurut Larsen, saat ini sudah ada manusia yang berkonsultasi dengan AI mengenai eksperimen yang dapat dilakukan di laboratorium. Dalam skenario yang lebih ekstrem, AI dengan kemampuan jauh di atas manusia dapat memanfaatkan interaksi tersebut untuk memengaruhi manusia menjalankan tindakan berbahaya.

Namun, pengembangan virus yang mampu memusnahkan umat manusia tidak semudah meminta sebuah Large Language Model (LLM) merancang virus mematikan. Proses pembuatan dan penyebarannya sangat rumit, sensitif, serta memerlukan ketepatan dalam banyak tahapan.

Eric Xing, profesor machine learning di Carnegie Mellon University, mengibaratkan tantangan tersebut seperti merakit Lego tanpa petunjuk. Setiap proses membutuhkan urutan, suhu, lingkungan, dan penataan yang tepat. Kesalahan pada satu bagian saja dapat membuat keseluruhan proses gagal. Menurutnya, apabila hal semacam itu mudah dilakukan, pengembangan obat juga semestinya sudah menjadi pekerjaan yang sederhana.

Robot Otonom dan Risiko Replikasi Mandiri

Skenario lain berkaitan dengan robot yang ditenagai AI. Soares menyoroti gagasan mengenai pasukan robot otonom yang mampu mereplikasi dirinya sendiri sebagai salah satu potensi ancaman terhadap kelangsungan hidup manusia.

Ia membayangkan kondisi ketika robot dapat membangun infrastruktur energi, mendirikan pabrik, lalu memproduksi lebih banyak robot secara mandiri. Dalam keadaan tersebut, robot dapat berkembang menjadi semacam bentuk kehidupan mekanis baru. Kekhawatirannya adalah manusia mungkin kehilangan kemampuan untuk menghentikan sistem tersebut ketika robot telah memiliki akses terhadap infrastruktur dan sumber daya yang dibutuhkan.

Meski begitu, kemampuan tersebut belum terlihat dalam kenyataan. Elon Musk disebut berulang kali belum menghadirkan robot Optimus ke pasar konsumen sesuai jadwal. Dengan demikian, kemampuan untuk menyebarkan jutaan robot atau membuat robot merakit robot lain dalam rantai manufaktur mandiri masih berada dalam ranah spekulasi.

Apakah AI Bisa Menguasai Senjata Nuklir?

Senjata nuklir juga disebut sebagai salah satu kemungkinan dalam skenario kepunahan manusia. Senjata tersebut telah ada selama lebih dari 80 tahun dan secara umum dipahami memiliki daya hancur yang sangat besar. Namun, pertanyaannya adalah apakah AI dapat mengambil alih kendali atas persenjataan nuklir.

Heidy Khlaaf, Kepala Ilmuwan AI di AI Now Institute dan mantan insinyur keselamatan OpenAI, menjelaskan bahwa fasilitas nuklir umumnya terisolasi dari jaringan internet publik. Kondisi ini membatasi kemungkinan agen AI mengakses sistem kendali secara langsung. Ia juga menekankan bahwa fasilitas tersebut dibangun berdasarkan standar rekayasa yang ketat dan sering kali membutuhkan perlindungan fisik.

Herbert Lin, peneliti senior di Stanford University, menilai hanya sedikit pakar yang benar-benar mengkhawatirkan AI akan menyalahgunakan senjata nuklir. Menurutnya, AI memang dapat memperbesar risiko ancaman seperti perang nuklir, tetapi sumber risiko materialnya tetap berada pada senjata nuklir itu sendiri, bukan semata-mata pada skenario masa depan mengenai AI.

Ancaman AI Tidak Selalu Berasal dari Niat Jahat

Soares berpendapat, ancaman AI tidak harus muncul karena sistem tersebut memiliki niat jahat. Jika AI memiliki tujuan tertentu yang dapat dicapai dengan menjalankan lebih banyak komputer, tetapi tidak mempertimbangkan keselamatan manusia, sistem itu berpotensi mengubah dunia menjadi tempat yang tidak dapat dihuni.

Kekhawatiran lain muncul apabila AI mencapai recursive self-improvement, yaitu kemampuan untuk terus meningkatkan dirinya sendiri. Para pendukung pandangan ini menilai AI mungkin menciptakan strategi dan metode yang berada di luar jangkauan imajinasi manusia.

Namun, Eric Xing mengingatkan bahwa pembahasan tentang kecerdasan super yang tidak terduga sering kali menyederhanakan ancaman. Menurutnya, diskusi publik tetap perlu didukung bukti fisik, dampak yang dapat diukur, serta dasar yang kuat ketika digunakan untuk membentuk kebijakan, regulasi, dan hukum.

Kesimpulan

AI memang dibahas sebagai teknologi yang berpotensi menimbulkan risiko besar apabila berkembang tanpa kendali. Para pakar mengemukakan sejumlah skenario, mulai dari penyalahgunaan untuk mengembangkan senjata biologis, robot otonom yang mampu memperbanyak diri, hingga kemungkinan keterkaitan dengan senjata nuklir.

Meski demikian, sebagian skenario tersebut masih berupa prediksi dan belum memiliki bukti konkret. Perbedaan pandangan di antara para ahli menunjukkan bahwa ancaman AI masih menjadi perdebatan serius. Larsen bahkan memperkirakan kecerdasan super akan tercapai jika manusia tidak mengambil langkah sengaja untuk menghentikannya.

Ke depan, perkembangan AI akan sangat bergantung pada cara manusia mengendalikan, mengatur, dan mengantisipasi risikonya. Perdebatan mengenai potensi kepunahan bukan hanya soal apakah AI dapat membunuh manusia, melainkan juga tentang sejauh mana manusia mampu memastikan teknologi tersebut tetap berada dalam kendali.