Mantan Peneliti Anthropic Peringatkan Risiko AI Bisa Picu Kepunahan Manusia

Perkembangan kecerdasan buatan (AI) yang semakin pesat kembali memunculkan kekhawatiran mengenai keselamatan umat manusia. Sejumlah karyawan dan mantan staf Anthropic, perusahaan AI di balik pengembangan Claude, memperingatkan bahwa teknologi tersebut berpotensi menimbulkan bencana besar, bahkan menyebabkan kepunahan manusia.

Peringatan itu disampaikan di tengah persaingan perusahaan teknologi untuk mengembangkan model AI yang semakin canggih. Anthropic dan OpenAI disebut terus mendorong kemampuan sistem mereka, sementara sejumlah peneliti meminta agar laju riset dan pengembangan AI dilakukan dengan lebih hati-hati.

Mantan Peneliti Anthropic Soroti Risiko AI

Jacob Coxon, mantan peneliti Anthropic dan OpenAI, menyampaikan kekhawatirannya melalui unggahan di platform X. Ia mengaku memilih meninggalkan perusahaan teknologi tersebut karena menilai Anthropic dan OpenAI sedang mengambil risiko besar yang dapat mempertaruhkan keselamatan manusia.

Menurut Jacob, para pengembang AI sebenarnya memiliki keyakinan kuat bahwa teknologi tersebut dapat memusnahkan umat manusia sebelum akhir dekade ini. Ia juga meminta publik tidak meremehkan kemampuan AI yang terus berkembang.

“Jangan remehkan kekuatan teknologi ini. Dalam waktu dekat, sistem ini akan melampaui kemampuan manusia. AI akan sanggup meretas apa saja, merevolusi berbagai bidang secara instan, serta menguasai kekuatan dan sumber daya yang nyata,” tulis Jacob di X, Rabu (9/9), seperti dikutip dari CNBC.

Unggahan tersebut kemudian menjadi viral. Hingga Kamis (10/9), pernyataan Jacob telah dilihat sebanyak 136,7 juta kali di platform X. Besarnya perhatian terhadap unggahan itu turut menghidupkan kembali perdebatan mengenai batas aman pengembangan teknologi AI.

Kekhawatiran terhadap Superintelligence

Salah satu risiko yang menjadi perhatian para peneliti adalah munculnya recursive self-improvement. Istilah tersebut merujuk pada kondisi ketika sistem AI mampu merancang, memperbaiki, dan mengembangkan generasi penerusnya sendiri tanpa campur tangan manusia secara langsung.

Kemampuan tersebut memang belum terwujud. Namun, sejumlah perusahaan AI, termasuk Anthropic dan OpenAI, telah memperingatkan bahwa skenario semacam itu dapat membuat manusia kehilangan kendali atas sistem yang mereka ciptakan.

Jacob menilai kedua perusahaan belum bertindak secara bertanggung jawab karena terus berlomba menuju superintelligence, yakni AI dengan kemampuan yang jauh melampaui manusia dan berpotensi mengembangkan dirinya sendiri.

“Kedua perusahaan tidak bertindak secara bertanggung jawab. Mereka berlomba-lomba menuju superintelligence yang bisa mengembangkan dirinya sendiri,” kata Jacob.

Risiko Kehilangan Kendali

Kekhawatiran utama dalam pengembangan superintelligence bukan hanya kemampuan AI menyelesaikan tugas secara lebih cepat. Para peneliti juga mencermati kemungkinan sistem tersebut mengambil keputusan di luar kendali manusia, terutama apabila mampu meningkatkan kemampuannya secara mandiri.

Dalam kondisi tersebut, persoalan penyelarasan atau alignment menjadi sangat penting. Penyelarasan merujuk pada upaya memastikan tujuan dan tindakan AI tetap sesuai dengan kepentingan serta nilai-nilai manusia.

Penilaian Risiko Lebih dari 10 Persen

Pernyataan Jacob mendapat dukungan dari Evan Hubinger, pimpinan tim penyelarasan di Anthropic. Ia menyebut pandangan Jacob benar dan menilai terdapat peluang lebih dari 10 persen bahwa AI dapat memusnahkan umat manusia.

“Kami memang sungguh-sungguh percaya bahwa AI dapat memusnahkan seluruh umat manusia! Secara pribadi, saya menilai kemungkinannya lebih dari 10 persen dalam sepuluh tahun ke depan,” tulis Hubinger.

Meski demikian, Hubinger menyatakan Anthropic telah berusaha semaksimal mungkin untuk menghadapi risiko tersebut. Namun, ia mengakui perusahaan belum mempunyai rencana pasti untuk menyelesaikan persoalan penyelarasan pada superintelligence.

Ia juga menilai perkembangan yang ada belum menunjukkan arah yang cukup untuk mengatasi tantangan tersebut. Pernyataan ini memperlihatkan bahwa kekhawatiran terhadap risiko AI tidak hanya datang dari pihak luar perusahaan, tetapi juga dari kalangan peneliti yang terlibat langsung dalam pengembangannya.

Risiko AI Menjadi Perhatian Global

Kekhawatiran mengenai potensi AI menyebabkan kepunahan manusia atau bencana berskala besar bukanlah isu baru. Pada 2023, sejumlah peneliti dan eksekutif teknologi AI terkemuka menandatangani pernyataan bersama mengenai pentingnya mengurangi risiko kepunahan akibat AI.

Dalam pernyataan tersebut, penanganan risiko AI disebut harus menjadi prioritas global, setara dengan upaya menghadapi ancaman pandemi dan perang nuklir. Hal ini menunjukkan bahwa dampak teknologi AI mulai dipandang sebagai isu keamanan dan kemanusiaan, bukan semata-mata persoalan inovasi teknologi.

Di lingkungan akademisi dan pakar AI, dikenal pula istilah p(doom). Istilah ini digunakan sebagai tolok ukur untuk memperkirakan peluang terjadinya skenario terburuk akibat perkembangan AI.

Kesimpulan

Peringatan dari Jacob Coxon dan Evan Hubinger menegaskan bahwa perkembangan AI membawa peluang besar sekaligus risiko yang tidak dapat diabaikan. Kemampuan AI yang semakin mendekati atau melampaui manusia memunculkan pertanyaan serius mengenai kendali, keselamatan, dan kesiapan perusahaan dalam menghadapi kemungkinan terburuk.

Ke depan, perdebatan mengenai batas pengembangan AI diperkirakan terus berlanjut. Di satu sisi, perusahaan teknologi berupaya menciptakan sistem yang lebih canggih. Di sisi lain, para peneliti mendesak agar pengembangan tersebut disertai langkah penyelarasan dan pengamanan yang memadai agar AI tetap berada dalam kendali manusia.

Sumber: Cnnindonesia