CEO Anthropic Serukan Perlambatan Pengembangan AI karena Risiko Keamanan

CEO Anthropic Dario Amodei menyerukan agar perkembangan kecerdasan buatan (AI) diperlambat karena teknologi tersebut dinilai membawa risiko keamanan yang semakin mengkhawatirkan. Seruan itu disampaikan melalui esai sepanjang sekitar 3.800 kata yang dirilis pada Sabtu (12/9).

Amodei menilai kemajuan kemampuan model AI tetap akan berlangsung cepat. Namun, menurutnya, perlambatan diperlukan agar perusahaan, pemerintah, dan masyarakat memiliki waktu yang cukup untuk memahami risiko serta menyiapkan langkah pengamanan.

Amodei Khawatir Manusia Kehilangan Kendali atas AI

Dalam esainya, Amodei menyatakan bahwa laju peningkatan kemampuan AI perlu dikendalikan. Ia menilai waktu yang diperoleh dari perlambatan tersebut harus dimanfaatkan secara bijak untuk membangun sistem keselamatan dan pengawasan yang lebih kuat.

Ia juga mengakui adanya kemungkinan manusia kehilangan kendali atas AI. Selain itu, teknologi ini berpotensi disalahgunakan untuk serangan siber, bioterorisme, dan gangguan ekonomi yang serius.

Dalam wawancara dengan Anderson Cooper dari CNN pada Sabtu (12/9), Amodei meminta para pemimpin perusahaan teknologi untuk bekerja sama. Menurutnya, kolaborasi diperlukan agar industri tidak mengulangi kesalahan dan dapat mencegah potensi bahaya AI terhadap umat manusia.

“Jika kita terlambat, saya percaya ada orang jahat yang akan menyalahgunakan teknologi tersebut,” ujar Amodei, dikutip dari CNN.

Risiko Recursive Self-Improvement

Salah satu hal yang menjadi perhatian Amodei adalah kemampuan AI untuk meningkatkan dirinya sendiri. Dinamika tersebut dikenal dengan istilah recursive self-improvement atau RSI.

Menurut Amodei, perkembangan teknologi AI dalam beberapa bulan terakhir berlangsung jauh lebih cepat. Ia memperingatkan bahwa AI dapat berkembang sedemikian pesat hingga berpotensi mengambil alih seluruh internet dalam waktu enam hingga 12 bulan. Kondisi itu, menurutnya, dapat menimbulkan kerugian hingga ratusan miliar dolar.

Amodei menilai sistem AI yang dibiarkan berkembang tanpa kendali dapat melampaui kemampuan manusia untuk memahami dan mengaturnya. Karena itu, ia meminta agar pengembangan teknologi tersebut dilakukan dengan sangat hati-hati.

Kekhawatiran tersebut turut dipicu oleh insiden yang melibatkan OpenAI dan Hugging Face. Dalam insiden itu, agen-agen AI disebut bertindak secara fanatik dengan melakukan serangan keamanan siber tanpa diminta.

Kekhawatiran Mantan Peneliti Anthropic

Seruan Amodei muncul setelah pengunduran diri mantan peneliti Anthropic, Jacob Coxon. Ia sebelumnya menyampaikan kekhawatiran bahwa Anthropic dan perusahaan pesaing belum mengambil tindakan yang cukup bertanggung jawab dalam mengembangkan AI.

Melalui unggahan di X pada Selasa (8/9), Coxon menyoroti sikap sejumlah pengembang AI yang dinilai belum sebanding dengan besarnya risiko teknologi tersebut. Ia mengatakan, banyak eksekutif dan peneliti senior menyampaikan pernyataan yang terdengar masuk akal di media, tetapi secara pribadi mengungkapkan ketakutan terhadap bahaya AI.

Coxon bahkan menyebut bahwa tidak ada aktivitas manusia lain yang menurutnya menimbulkan tingkat bahaya sebesar pengembangan AI. Dalam wawancaranya dengan CNN, ia juga memperingatkan kemungkinan terjadinya RSI dalam waktu dekat dan dampaknya yang dapat mengancam keberlangsungan manusia.

Amodei menyatakan sepakat dengan kekhawatiran yang disampaikan Coxon. Ia mengakui AI memang berpotensi meningkatkan kualitas hidup manusia, tetapi risiko yang menyertainya tidak dapat dianggap sepele.

Anthropic Dorong Standar Keselamatan Bersama

Amodei meminta perusahaan-perusahaan AI mulai menerapkan batasan dan mengendalikan laju pengembangan teknologi. Ia juga menyatakan Anthropic berkomitmen untuk memverifikasi praktik keselamatan setiap perusahaan, melaporkan insiden, serta memeriksa model AI, alur pelatihan, dan proses pengembangannya.

Selain perusahaan, pemerintah dinilai memiliki peran penting dalam membangun standar keselamatan. Amodei mendorong pemerintah berbagai negara untuk berkoordinasi sehingga dapat menetapkan aturan bersama dalam mengawasi perkembangan AI.

Ia mengakui bahwa upaya untuk menjaga kemajuan AI tetap berada pada kecepatan yang aman tidak akan mudah. Namun, Amodei menilai industri dan pemerintah tetap memiliki tanggung jawab untuk mencobanya demi kepentingan umat manusia.

Sejumlah Pemimpin Industri Mendukung Seruan Perlambatan

Seruan Amodei mendapat tanggapan positif dari sejumlah pemimpin perusahaan teknologi melalui platform X. CEO OpenAI Sam Altman, CEO xAI Elon Musk, dan Ketua DeepMind Google Demis Hassabis disebut menyadari pentingnya memperlambat perkembangan AI.

Altman juga sebelumnya menyarankan agar pengembangan AI diperlambat setelah insiden yang melibatkan Hugging Face. Menurutnya, perlambatan dapat memberikan waktu yang cukup bagi masyarakat dan pemerintah untuk beradaptasi dengan kemampuan AI yang terus meningkat.

Meski demikian, pemerintah dinilai masih belum mampu mengimbangi perkembangan teknologi tersebut. Regulasi AI secara menyeluruh dan pengawasan yang memadai disebut belum sepenuhnya diterapkan.

Kesimpulan

Seruan Dario Amodei menunjukkan bahwa kekhawatiran terhadap risiko AI tidak hanya datang dari peneliti dan masyarakat, tetapi juga dari pemimpin perusahaan teknologi. Ancaman serangan siber, bioterorisme, gangguan ekonomi, serta kemungkinan terjadinya recursive self-improvement menjadi alasan utama perlunya pengembangan yang lebih terkendali.

Ke depan, perusahaan AI dan pemerintah dituntut memperkuat kerja sama, menerapkan batasan keselamatan, serta membangun standar pengawasan bersama. Perlambatan pengembangan AI bukan berarti menghentikan inovasi, melainkan memberikan waktu agar kemajuan teknologi dapat berlangsung secara lebih aman dan bertanggung jawab.