Bos Teknologi Serukan Perlambatan Pengembangan AI karena Risiko Kehilangan Kendali

Sejumlah pemimpin perusahaan teknologi menyerukan agar laju pengembangan kecerdasan buatan atau artificial intelligence (AI) diperlambat untuk sementara waktu. Seruan tersebut muncul karena meningkatnya kekhawatiran terhadap potensi risiko keamanan, penyalahgunaan teknologi, hingga kemungkinan manusia kehilangan kendali atas sistem AI yang semakin canggih.

CEO OpenAI Sam Altman dan pemilik SpaceX Elon Musk termasuk tokoh teknologi yang mendukung pernyataan CEO Anthropic Dario Amodei. Amodei memperingatkan bahwa apabila perkembangan AI tidak dikendalikan, sekumpulan sistem AI berpotensi menguasai seluruh jaringan internet dalam kurun waktu satu tahun.

Elon Musk dan Sam Altman Dukung Perlambatan AI

Elon Musk menyatakan dukungannya terhadap peringatan Amodei melalui sebuah unggahan di platform X. Ia menilai kekhawatiran mengenai bahaya AI merupakan hal yang benar dan kembali mengingatkan bahwa dirinya telah lama memperingatkan publik mengenai risiko teknologi tersebut.

“Saya sudah lama memperingatkan soal kecerdasan buatan,” tulis Musk dalam cuitannya.

Sam Altman juga menyampaikan pandangan serupa. Ia menyetujui gagasan bahwa perkembangan AI perlu diatur agar tidak bergerak terlalu cepat tanpa diimbangi langkah-langkah pengamanan yang memadai.

“Saya setuju dengan Dario bahwa kita perlu mengatur laju perkembangan di bidang ini. Ini telah menjadi topik utama diskusi yang kami lakukan di OpenAI dalam beberapa pekan terakhir,” ujar Altman, seperti dilansir Reuters.

Altman mengatakan OpenAI berencana mengadopsi gagasan yang diusulkan Anthropic. Salah satu langkah yang dipertimbangkan adalah melibatkan penilai independen yang memiliki akses layaknya karyawan untuk mengawasi dan mengevaluasi sistem AI.

Risiko AI Dinilai Mengancam Keamanan Manusia

Kekhawatiran Altman terhadap AI sebenarnya telah disampaikan jauh sebelum teknologi tersebut mengalami perkembangan pesat seperti saat ini. Dalam esai berjudul “Machine Intelligence, Bagian 1” yang ditulis pada 2015, ia menyebut pengembangan kecerdasan mesin yang melampaui kemampuan manusia berpotensi menjadi ancaman terbesar bagi kelangsungan hidup umat manusia.

Demis Hassabis, salah satu pendiri sekaligus pimpinan Google DeepMind, turut menyampaikan dukungan terhadap arah usulan untuk memperlambat perkembangan AI. Menurutnya, meski rincian teknis dari gagasan tersebut masih perlu dimatangkan, arah kebijakannya sudah tepat untuk merespons situasi saat ini.

Peringatan mengenai risiko AI tidak hanya berkaitan dengan kemampuan teknologi mengambil keputusan secara mandiri. Dario Amodei juga menyoroti kemungkinan penyalahgunaan AI untuk melancarkan serangan siber, mendukung bioterorisme, serta menimbulkan gangguan ekonomi yang serius.

Peringatan Dario Amodei tentang Kehilangan Kendali

Amodei menyampaikan seruannya melalui sebuah esai sepanjang sekitar 3.800 kata. Dalam tulisan tersebut, ia mengakui bahwa manusia berpotensi kehilangan kendali atas AI apabila perkembangan teknologi berlangsung terlalu cepat dan tidak disertai pengawasan yang bertanggung jawab.

Dalam wawancara dengan Anderson Cooper dari CNN pada Sabtu, 12 September, Amodei meminta para pemimpin industri teknologi untuk bekerja sama mencegah kesalahan dan mengurangi potensi bahaya AI terhadap umat manusia.

“Jika kita terlambat, saya percaya ada orang jahat yang akan menyalahgunakan teknologi tersebut,” kata Amodei, seperti dikutip CNN.

Kekhawatiran dari Internal Anthropic

Pernyataan Amodei muncul setelah seorang peneliti Anthropic mengundurkan diri. Pengunduran diri tersebut dikaitkan dengan kekhawatiran bahwa Anthropic dan para pesaingnya belum mengambil tindakan yang cukup bertanggung jawab dalam mengembangkan AI.

Mantan peneliti Anthropic, Jacob Coxon, juga menyampaikan kritik melalui platform X pada Selasa, 8 September. Ia menyoroti sikap para pengembang AI yang dinilai mengetahui potensi bahaya produk mereka, tetapi belum menunjukkan tindakan yang sebanding dengan tingkat risikonya.

Menurut Coxon, sejumlah eksekutif dan peneliti senior dapat menyampaikan pernyataan yang terdengar masuk akal di hadapan publik. Namun, di balik layar, mereka disebut mengungkapkan kekhawatiran yang lebih besar. Ia bahkan menilai belum ada aktivitas manusia lain yang menimbulkan tingkat bahaya seperti perkembangan AI.

Seruan Muncul di Tengah Persiapan IPO Anthropic

Seruan untuk memperlambat pengembangan AI tersebut mengemuka ketika Anthropic tengah mempersiapkan rencana untuk melantai di bursa saham Amerika Serikat. Penawaran saham perdana perusahaan itu disebut-sebut berpotensi menjadi IPO terbesar sepanjang sejarah, dengan target valuasi lebih dari US$2 triliun.

Situasi ini membuat isu keamanan AI semakin mendapat perhatian. Di satu sisi, perusahaan teknologi terus berupaya mengembangkan sistem yang lebih kuat. Di sisi lain, para pemimpin dan peneliti di industri tersebut mulai menekankan pentingnya pengawasan independen, kehati-hatian, serta kerja sama untuk mencegah penyalahgunaan.

Kesimpulan

Seruan Sam Altman, Elon Musk, Demis Hassabis, dan Dario Amodei menunjukkan bahwa risiko AI kini menjadi perhatian serius di kalangan pemimpin industri teknologi. Kekhawatiran utama mereka mencakup kemungkinan kehilangan kendali atas sistem AI, serangan siber, bioterorisme, gangguan ekonomi, serta potensi penyalahgunaan oleh pihak yang tidak bertanggung jawab.

Ke depan, perkembangan AI kemungkinan akan terus menjadi perdebatan antara kebutuhan inovasi dan tuntutan keamanan. Dukungan terhadap penilai independen serta perlambatan laju pengembangan dapat menjadi bagian dari upaya untuk memastikan teknologi tersebut berkembang secara lebih bertanggung jawab dan tidak menimbulkan ancaman bagi umat manusia.