Anthropic Ungkap Dugaan Penyalahgunaan AI untuk Merancang Perangkat Lunak Rudal di Yaman

Perusahaan kecerdasan buatan Anthropic mengungkap dugaan penyalahgunaan model AI Claude oleh sebuah kelompok bersenjata yang berbasis di Yaman utara. Kelompok tersebut diduga memanfaatkan teknologi AI untuk membantu mengembangkan perangkat lunak yang digunakan dalam sistem panduan, navigasi, dan kendali rudal.

Dalam laporan terbarunya, Anthropic tidak menyebut nama Houthi secara langsung. Perusahaan hanya menggambarkan pelaku sebagai “sel aktor ancaman yang berbasis di Yaman utara” dan menjalankan tiga program pengembangan senjata. Namun, laporan tersebut dinilai merujuk kuat pada kelompok Houthi yang saat ini menguasai wilayah tersebut.

AI Claude Diduga Dimanfaatkan untuk Pengembangan Rudal

Melansir New York Post pada Kamis (11/9), kelompok tersebut diduga mencoba merancang sejumlah sistem persenjataan dengan bantuan Claude Code. Salah satu programnya berkaitan dengan pengembangan roket pemandu yang menggunakan komputer penerbangan dengan kemampuan setara perangkat smartphone biasa.

Roket itu disebut dirancang dengan sistem pemandu pada tahap akhir penerbangan. Selain itu, kelompok tersebut juga diduga mengembangkan rudal balistik bertingkat serta rudal multipredikat yang mencakup varian wahana luncur hipersonik.

Anthropic menyatakan bahwa para pelaku menggunakan Claude Code sebagai pengganti insinyur perangkat lunak manusia. Model AI tersebut dimanfaatkan untuk membantu mengembangkan perangkat lunak panduan, navigasi, dan kendali yang berfungsi mengarahkan sekaligus menstabilkan kendaraan terbang.

Pelaku Berusaha Menghindari Sistem Keamanan

Dalam menjalankan upaya tersebut, kelompok yang diidentifikasi Anthropic mencoba mengelabui sistem keamanan bawaan Claude. Mereka diduga menyembunyikan tujuan akhir dan jenis produk yang sedang dikembangkan dari model AI.

Selain menyamarkan tujuan penggunaan, para pelaku juga membagi permintaan instruksi ke dalam beberapa sesi penggunaan secara terpisah. Cara tersebut diduga dilakukan untuk menghindari deteksi sistem pengaman yang dapat mengenali permintaan terkait pengembangan senjata.

Anthropic mengatakan sistem keamanannya berhasil memblokir sebagian besar permintaan tersebut. Perusahaan juga menegaskan belum menemukan bukti bahwa para pelaku berhasil menghasilkan perangkat operasional melalui bantuan Claude.

Meski demikian, laporan itu menyebut kelompok tersebut sempat melakukan percobaan penembakan roket pemandu. Uji coba tersebut tampaknya mengalami kegagalan. Beberapa jam setelah percobaan itu, para pelaku kembali menggunakan Claude untuk menganalisis penyebab kegagalan.

Sejumlah Penyalahgunaan AI Turut Terungkap

Laporan Anthropic tidak hanya membahas dugaan pemanfaatan AI untuk pengembangan rudal di Yaman. Perusahaan juga mengungkap sejumlah insiden lain yang melibatkan pihak-pihak yang berupaya menyalahgunakan model AI mereka.

Salah satu kasus melibatkan kelompok yang terhubung dengan Iran. Kelompok tersebut diduga meminta Claude mengumpulkan informasi yang dapat digunakan untuk menargetkan militer Amerika Serikat. Informasi yang dicari mencakup pergerakan kapal dan pesawat tempur Amerika Serikat, serta kelemahan pada sistem komunikasi militer.

Anthropic juga menyatakan telah menggagalkan upaya sejumlah ilmuwan yang mencoba memanfaatkan AI untuk mendukung penelitian senjata biologis. Di sisi lain, individu yang berada di Rusia dan China disebut menggunakan AI untuk menyusun rancangan senjata konvensional, termasuk sistem senjata anti-torpedo.

Aktivitas lain yang teridentifikasi mencakup upaya aktor asal Rusia dalam menyebarkan propaganda secara daring. Anthropic juga menemukan dugaan pemanfaatan AI oleh pihak dari China dan Iran untuk memata-matai kelompok oposisi.

Kekhawatiran atas Perlombaan Pengembangan AI

Berbagai temuan tersebut memperkuat kekhawatiran global mengenai risiko penyalahgunaan teknologi kecerdasan buatan. AI dapat digunakan untuk membantu pekerjaan teknis dan analisis, tetapi kemampuan yang sama berpotensi disalahgunakan untuk mendukung pengembangan senjata atau aktivitas berbahaya lainnya.

Para ahli juga mengingatkan bahwa risiko AI tidak hanya berasal dari tindakan manusia yang menggunakan teknologi tersebut secara tidak bertanggung jawab. Kekhawatiran lain berkaitan dengan kemungkinan model AI beroperasi di luar kendali atau tidak sepenuhnya mengikuti batasan keamanan yang telah ditetapkan.

Jacob Coxon, mantan peneliti di Anthropic dan OpenAI, turut menyampaikan keprihatinannya pada awal pekan ini. Ia menilai kedua perusahaan tersebut belum bertindak secara bertanggung jawab di tengah persaingan untuk mengembangkan model AI yang semakin canggih.

Coxon juga memperingatkan adanya risiko besar dari perlombaan menuju kecerdasan buatan tingkat tinggi. Menurut isi laporan Anthropic, penguatan sistem keamanan dan pengawasan menjadi hal penting untuk mencegah teknologi tersebut dimanfaatkan oleh kelompok bersenjata, jaringan intelijen, maupun pihak lain yang memiliki tujuan berbahaya.

Kesimpulan

Laporan Anthropic mengungkap dugaan bahwa kelompok yang berbasis di Yaman utara berupaya menggunakan Claude Code untuk membantu pengembangan perangkat lunak panduan dan kendali rudal. Meski sebagian besar permintaan berhasil diblokir dan belum ada bukti perangkat operasional berhasil dibuat, laporan tersebut menunjukkan bahwa AI mulai menjadi sasaran penyalahgunaan dalam aktivitas persenjataan.

Ke depan, perusahaan pengembang AI perlu terus memperkuat sistem keamanan, sementara pemerintah dan lembaga terkait harus meningkatkan pengawasan terhadap penggunaan teknologi tersebut. Perkembangan AI yang semakin pesat perlu diimbangi dengan aturan dan pengamanan yang mampu mencegah dampaknya digunakan untuk memperbesar ancaman keamanan global.

Sumber: Cnnindonesia