Anthropic Perketat Keamanan Claude Setelah Disalahgunakan untuk Riset Senjata Biologis

Anthropic mengungkap bahwa model kecerdasan buatan (AI) Claude telah disalahgunakan oleh sejumlah pihak untuk berbagai tujuan berbahaya. Penyalahgunaan tersebut mencakup serangan siber, pengawasan, kampanye propaganda, hingga upaya mendukung riset yang berpotensi berkaitan dengan pembuatan senjata biologis.

Dalam laporan yang dirilis pada Kamis (10/9) dan dikutip AP News pada Jumat (11/9), Anthropic menyatakan telah memblokir sejumlah aktivitas mencurigakan. Perusahaan menilai kasus-kasus tersebut bukan sekadar penyalahgunaan biasa, melainkan contoh ancaman serius dan baru yang muncul seiring meningkatnya kemampuan teknologi AI.

Anthropic memperingatkan bahwa serangan siber yang sebelumnya membutuhkan keterampilan kompleks kini dapat dilakukan dengan bantuan AI. Bahkan, individu dengan kemampuan terbatas dinilai dapat menciptakan ancaman besar yang sekitar setahun lalu masih sulit dilakukan.

Claude Disalahgunakan untuk Berbagai Ancaman

Menurut Anthropic, temuan penyalahgunaan Claude melibatkan beragam aktor. Di antaranya adalah penjual perangkat lunak mata-mata atau spyware, individu dengan motif politik tertentu, serta kelompok yang didukung suatu negara untuk menyebarkan propaganda.

Para peneliti Anthropic menemukan aktivitas tersebut dalam periode Desember 2025 hingga Agustus 2026. Laporan perusahaan juga menyertakan sejumlah contoh kode berbahaya dan prompt yang terdeteksi dalam upaya penyalahgunaan layanan mereka.

Anthropic mendorong pemerintah serta perusahaan AI lain untuk ikut mengenali dan mencegah pola penyalahgunaan serupa. Perusahaan menilai peningkatan kemampuan AI harus diimbangi dengan sistem keamanan yang memadai agar teknologi tersebut tidak mudah dimanfaatkan untuk menciptakan ancaman baru.

Upaya Riset Biologis Berisiko Berhasil Diblokir

Salah satu temuan yang paling disoroti adalah upaya pihak tidak dikenal untuk menggunakan Claude dalam riset terkait senjata biologis. Sistem Anthropic memblokir prompt yang meminta bantuan untuk menyusun proposal permohonan dana penelitian ilmiah.

Proposal tersebut membahas eksperimen modifikasi genetik terhadap virus Chikungunya. Dalam laporan Anthropic, riset itu disebut bertujuan meningkatkan kemampuan virus agar lebih mudah menular dan lebih mampu menghindari sistem kekebalan tubuh.

Chikungunya merupakan virus yang ditularkan melalui gigitan nyamuk dan dapat menyebabkan gejala berat, termasuk demam serta nyeri yang intens. Anthropic menjelaskan bahwa penelitian terhadap virus semacam itu memang dapat memiliki manfaat untuk pengembangan vaksin dan pengobatan. Namun, pengetahuan yang sama juga berpotensi disalahgunakan untuk membuat virus menjadi lebih berbahaya.

Proposal yang diblokir tersebut disebut meminta bantuan AI untuk merancang perubahan yang dapat meningkatkan ancaman virus. Karena memiliki kegunaan ganda, permintaan semacam ini dinilai memerlukan pembatasan yang ketat.

Anthropic Perketat Sistem Keamanan Model AI

Anthropic mengakui bahwa perusahaan tidak dapat menjamin seluruh modelnya bebas dari risiko. Perusahaan menyebut Claude Opus 4 dan Claude Sonnet 4.5 yang dirilis pada 2025 masih berada jauh di bawah ambang kemampuan untuk secara signifikan membantu pengguna berpengalaman dalam melakukan penelitian biologi berbahaya.

Karena itu, sistem pengamanan pada model-model tersebut sebelumnya lebih banyak diarahkan untuk mencegah pengguna pemula mengakses konten yang dapat membantu mereka mereplikasi senjata biologis yang telah diketahui.

Situasinya berbeda pada model terbaru yang mampu membantu berbagai tugas penelitian ilmiah kompleks. Anthropic menyatakan bukti mengenai tingkat risikonya belum sepenuhnya pasti sehingga perusahaan tidak dapat memberikan jaminan keamanan yang sama.

Sebagai langkah pencegahan, Anthropic menerapkan sistem keamanan yang lebih ketat dan membatasi akses terhadap berbagai kueri penelitian biologi yang memiliki kegunaan ganda. Kebijakan ini ditujukan untuk mengurangi kemungkinan Claude digunakan dalam aktivitas yang dapat membahayakan manusia.

Claude Juga Mendeteksi Kampanye Propaganda

Selain ancaman siber dan riset biologis, Anthropic menemukan penyalahgunaan Claude dalam operasi propaganda politik. Dalam salah satu kasus, sebuah kelompok membuat ratusan akun media sosial palsu agar terlihat seperti akun milik pengguna biasa.

Akun-akun tersebut kemudian digunakan untuk mengunggah pandangan politik yang sama secara terus-menerus selama satu minggu. Anthropic mencatat terdapat sembilan kasus serupa yang terhubung dengan berbagai wilayah, termasuk Rusia, Iran, Turki, kawasan Teluk Persia, Asia Selatan, Afrika, dan Eropa.

Perusahaan media sosial biasanya baru dapat menemukan kampanye semacam itu setelah kontennya tersebar luas. Namun, Anthropic mengklaim Claude mampu mendeteksi aktivitas tersebut sejak tahap perancangan kampanye.

Perlombaan AI Supercerdas Jadi Sorotan

Laporan Anthropic dirilis setelah Jacob Coxon, salah satu peneliti perusahaan, mengundurkan diri. Coxon disebut mengkhawatirkan perlombaan Anthropic dan OpenAI dalam mengembangkan AI supercerdas yang dinilai berisiko mempertaruhkan keselamatan manusia.

Anthropic mengatakan laporan tersebut diterbitkan sebagai bentuk tanggung jawab untuk mengungkap cara layanan mereka disalahgunakan. Perusahaan menilai semakin canggih sebuah AI, semakin besar pula risikonya jika pembuat teknologi dan pihak keamanan tidak segera memperkuat perlindungan.

Kesimpulan

Penyalahgunaan Claude menunjukkan bahwa perkembangan AI membawa manfaat sekaligus risiko yang semakin kompleks. Ancaman tersebut tidak hanya muncul dalam bentuk serangan siber, tetapi juga propaganda digital dan penelitian biologis yang dapat disalahgunakan.

Ke depan, penguatan sistem keamanan, pembatasan akses terhadap permintaan berisiko, serta kerja sama antara perusahaan teknologi dan pemerintah menjadi hal penting. Langkah tersebut diperlukan agar kemajuan AI tetap dapat dimanfaatkan untuk kepentingan ilmiah dan masyarakat tanpa membuka peluang bagi terciptanya ancaman baru.