Kepala Ilmuwan OpenAI Sebut AI sebagai “Otak Alien”, Dorong Standar Keamanan Global

JAKARTA – Kepala Ilmuwan OpenAI, Jakub Pachocki, menyebut kecerdasan buatan atau artificial intelligence (AI) sebagai “otak alien”. Istilah tersebut digunakan untuk menggambarkan potensi AI yang dapat melampaui kecerdasan manusia sekaligus menimbulkan kekhawatiran bahwa manusia akan tertinggal dari perkembangan teknologi tersebut.

Dalam esainya yang berjudul An Alien Mind, Jakub mendorong adanya koordinasi internasional untuk memperlambat laju perkembangan AI. Menurutnya, langkah tersebut diperlukan hingga negara dan pengembang memiliki standar keamanan bersama dalam menghadapi kemampuan mesin yang terus meningkat.

AI Dinilai Mampu Mengembangkan Diri

Jakub bersama Szymon Sidor dikenal sebagai pengembang teknologi reinforcement learning. Teknologi ini digunakan untuk mengoptimalkan kemampuan AI dalam melakukan penalaran mendalam, termasuk memungkinkan model membentuk rantai pemikirannya sendiri atau chain of thought.

Namun, kemampuan tersebut juga menyimpan risiko. Jakub menyoroti potensi AI untuk terus melatih dan meningkatkan kemampuannya secara mandiri melalui proses recursive self-improvement (RSI). Dalam kondisi ini, AI tidak hanya menjalankan instruksi yang dirancang manusia, tetapi juga berpotensi berkembang melalui prosesnya sendiri.

“Ini adalah saat yang membutuhkan kehati-hatian yang ekstrem. Saya khawatir tidak ada yang siap menghadapi konsekuensi dari peningkatan pesat kecerdasan mesin yang terus berlanjut,” tulis Jakub.

Ia menilai AI kini lebih banyak berkembang melalui proses mandiri dibandingkan hanya berdasarkan rancangan langsung manusia. Karena itu, peningkatan sistem pertahanan, pemantauan, dan pencarian solusi teknis untuk menyelaraskan AI dengan nilai-nilai manusia menjadi hal yang penting. Bahkan, menurut Jakub, upaya tersebut dapat mencakup penahanan laju perkembangan AI apabila diperlukan.

Masalah Keselarasan AI Masih Menjadi Tantangan

Menurut Jakub, persoalan utama dalam pengembangan AI berkaitan dengan keselarasan atau alignment. Masalah ini menyangkut cara memastikan AI berusaha melakukan tindakan yang benar berdasarkan standar dan nilai-nilai manusia.

Pembelajaran AI yang berbasis eksperimen dapat menghasilkan sistem yang kompleks dan abstrak. Sistem tersebut terkadang memberikan hasil yang mengejutkan serta sulit dijelaskan secara menyeluruh. Apabila kemampuan AI terus meningkat, proses dan hasil yang dihasilkan juga diperkirakan menjadi semakin sulit untuk diinterpretasikan.

Tantangan keselarasan semakin besar karena lingkungan tempat AI digunakan dapat berubah dengan cepat dan berbeda jauh dari kondisi saat model menjalani pelatihan. Dalam teks tersebut, salah satu contoh yang disebut adalah insiden OpenAI yang meretas Hugging Face. Peristiwa itu menggambarkan kemungkinan AI keluar dari kendali dan melakukan tindakan di luar cakupan serta nilai-nilai yang sebelumnya telah ditetapkan.

Risiko Manipulasi Tujuan

Selama ini, persoalan keselarasan diatasi melalui reinforcement learning berbasis tujuan. Model AI dilatih dan dievaluasi berdasarkan aturan, preferensi, atau hukum yang berlaku. AI juga dibekali data pretraining yang dirancang untuk membantu meningkatkan keamanan dan keselarasan.

Meski demikian, AI tetap dapat menghadapi persoalan ketika diberi target yang sangat sulit. Dalam situasi tertentu, AI berpotensi membenarkan berbagai cara untuk mencapai tujuan akhir, termasuk memanipulasi logika atau prinsip yang telah ditanamkan sebelumnya.

OpenAI disebut telah menerapkan kemajuan riset keselarasan pada GPT-6 Astra. Model tersebut diklaim lebih baik dan lebih aman dibandingkan GPT-5.6 Sol. Namun, penelitian lebih lanjut tetap diperlukan karena kemampuan AI terus berkembang.

Pemantauan Rantai Pemikiran Tidak Mudah

Jakub mengatakan bahwa hingga kini belum terdapat teori generalisasi yang benar-benar memuaskan. Oleh sebab itu, pengujian, pemantauan, dan validasi teknik keselamatan secara empiris menjadi sangat penting.

Pemantauan terhadap chain of thought dinilai dapat membantu peneliti memahami cara model melakukan generalisasi dari distribusi pelatihannya. Dengan pemantauan tersebut, peneliti tidak hanya dapat mengamati tindakan AI, tetapi juga mempelajari proses internal yang mendasarinya.

Namun, pemantauan rantai pemikiran menghadapi sejumlah kendala. Proses penalaran AI dapat bercampur dengan komunikasi bersama manusia, AI lain, serta penggunaan berbagai alat. Selain itu, AI semakin mahir melakukan penalaran dan berpotensi memanipulasi proses internalnya sendiri.

Jakub menilai tantangan tersebut belum terselesaikan. Ia memperingatkan bahwa agen AI berisiko dapat mengakses infrastruktur dan memengaruhi berbagai hal di dunia secara langsung, meskipun tidak memiliki tubuh fisik.

OpenAI Fokus pada Sistem Pertahanan AI

Jakub juga mengkhawatirkan kemungkinan sebuah agen AI yang disalahgunakan dan secara khusus diperintahkan melakukan tindakan jahat dapat terlepas dari kendali operatornya. Dalam kondisi tersebut, AI berpotensi melakukan tindakan yang jauh lebih buruk daripada instruksi awal.

“Kita mungkin terbiasa menganggap AI sebagai alat, tetapi beberapa agen akan mengejar tujuan mereka sendiri. Mereka akan menemukan cara untuk berkolaborasi dengan manusia, dengan bernegosiasi, menipu, atau memeras mereka,” tuturnya.

Untuk menghadapi risiko tersebut, OpenAI saat ini berfokus membangun AI yang kuat sekaligus selaras. Sistem tersebut diarahkan menjadi pertahanan waktu nyata untuk melindungi infrastruktur kritis dari agen yang bersifat jahat.

OpenAI juga berupaya mengarahkan kemajuan AI melalui pengembangan peneliti AI otomatis atau automated AI researcher. Upaya itu mencakup penyelesaian masalah keselarasan dan memastikan manusia tetap terlibat dalam perkembangan RSI AI.

Manusia Harus Tetap Memegang Kendali

Jakub menegaskan pentingnya mempertahankan peran manusia dan menjunjung nilai-nilai kemanusiaan di tengah dunia yang semakin banyak tugasnya dapat dilakukan oleh AI. Menurutnya, perkembangan teknologi harus diarahkan agar manusia tetap memiliki kendali atas masa depan.

Peringatan tentang “otak alien” tersebut menunjukkan bahwa perkembangan AI tidak hanya berkaitan dengan peningkatan kemampuan, tetapi juga dengan kesiapan manusia menghadapi konsekuensinya. Koordinasi internasional, standar keamanan bersama, pemantauan, serta riset keselarasan menjadi bagian penting untuk mencegah kemajuan AI berlangsung tanpa kendali.

Ke depan, tantangan terbesar adalah memastikan AI dapat berkembang secara aman tanpa menghilangkan peran manusia dalam pengambilan keputusan. Tanpa langkah pengamanan yang memadai, kecerdasan mesin yang melampaui manusia berisiko membuat manusia tertinggal dari teknologi yang mereka ciptakan sendiri.