OpenAI Luncurkan ChatGPT untuk Remaja dengan Fitur Keamanan Tambahan

OpenAI meluncurkan ChatGPT for Teens, versi ChatGPT yang dirancang untuk memberikan perlindungan keamanan tambahan bagi pengguna berusia remaja. Kehadiran fitur ini diumumkan setelah perusahaan menghadapi serangkaian tuntutan hukum yang menyoroti dugaan keterkaitan percakapan dalam ChatGPT dengan kekerasan, bunuh diri, dan kematian di kalangan anak-anak.

Dalam tulisan blog yang diterbitkan pada Selasa (18/8), OpenAI menyatakan bahwa ChatGPT untuk remaja akan dilengkapi sejumlah fitur baru. Versi tersebut juga menggabungkan perlindungan keselamatan remaja yang sebelumnya telah diperkenalkan perusahaan.

Fitur Keamanan ChatGPT untuk Remaja

Salah satu fitur yang disiapkan adalah pengingat untuk beristirahat. Notifikasi tersebut akan muncul apabila pengguna telah aktif menggunakan ChatGPT selama 90 menit dalam rentang waktu tiga jam. Fitur ini ditujukan untuk membantu remaja mengatur durasi penggunaan chatbot.

OpenAI juga menghadirkan opsi Jam Tenang yang dapat diatur oleh remaja maupun orang tua. Ketika jadwal tersebut aktif, ChatGPT tidak dapat digunakan selama periode yang telah ditentukan. Selain itu, tersedia pula Jam Belajar yang secara otomatis mengaktifkan mode belajar pada ChatGPT.

Perlindungan lainnya berkaitan dengan respons chatbot terhadap kondisi emosional pengguna. OpenAI menyatakan telah meningkatkan sistem untuk mencegah ChatGPT mengungkapkan pendapat mengenai perasaan pribadi pengguna.

Pengguna juga akan menerima pengingat untuk berpikir ulang sebelum mengunggah gambar pribadi atau sensitif ke chatbot. Perlindungan ini dirancang untuk mengurangi kemungkinan remaja membagikan materi yang berisiko terhadap privasi mereka.

Mode Perlindungan Berdasarkan Usia

ChatGPT untuk remaja akan menerapkan pengamanan yang disesuaikan dengan usia. OpenAI mengatakan sistem tersebut dirancang untuk mengurangi paparan terhadap konten yang berpotensi berbahaya atau tidak sesuai dengan tahap perkembangan pengguna.

Meski demikian, perusahaan menyebut perlindungan tersebut tetap dirancang agar ChatGPT dapat membantu remaja belajar, berkreasi, dan bereksplorasi. Dengan demikian, fitur keselamatan tidak dimaksudkan untuk menghilangkan fungsi utama chatbot sebagai alat bantu digital.

Pengguna yang menyatakan berusia di bawah 18 tahun ketika membuat akun akan secara otomatis ditempatkan dalam mode perlindungan remaja. OpenAI juga berencana menggunakan kecerdasan buatan untuk memperkirakan usia pengguna.

Apabila sistem mencurigai seorang pengguna berusia di bawah 18 tahun, mode perlindungan yang sama akan diterapkan. Langkah tersebut tetap berlaku meskipun tanggal lahir yang tercantum dalam profil pengguna menunjukkan usia yang berbeda.

Ditujukan untuk Mendukung Fokus Belajar

Lauren Jonas, Kepala Bagian Remaja dan Keluarga OpenAI, mengatakan ChatGPT untuk remaja didedikasikan untuk mendukung fokus belajar anak. Menurut OpenAI, dukungan tersebut diberikan melalui kombinasi fitur pengamanan dan perlindungan tambahan yang disesuaikan dengan kebutuhan pengguna muda.

Kebutuhan terhadap fitur semacam ini muncul seiring meningkatnya penggunaan chatbot AI oleh remaja. Studi Pew Research Center yang diterbitkan pada Desember menunjukkan bahwa hampir sepertiga remaja di Amerika Serikat menggunakan chatbot AI setiap hari.

Dalam survei yang sama, ChatGPT tercatat sebagai chatbot AI yang paling populer. Separuh responden menyatakan pernah menggunakan layanan tersebut.

Peluncuran di Tengah Pengawasan dan Tuntutan Hukum

OpenAI saat ini menghadapi pengawasan ketat terkait risiko penggunaan ChatGPT oleh anak-anak dan remaja. Kekhawatiran yang muncul mencakup kemungkinan paparan terhadap konten tidak pantas, memburuknya rasa kesepian, serta dampak terhadap proses pembelajaran dan kemampuan berpikir kritis.

Sejumlah keluarga pengguna juga mengajukan tuntutan hukum dengan tuduhan bahwa ChatGPT berkontribusi, atau bahkan mendorong, tindakan bunuh diri anak mereka. OpenAI telah membantah tuduhan tersebut.

Pada musim gugur sebelumnya, OpenAI memperkenalkan kontrol orang tua yang memungkinkan fitur seperti memori dan riwayat obrolan dinonaktifkan. Orang tua juga dapat menerima pemberitahuan ketika sistem mendeteksi apa yang disebut sebagai “momen stres negatif akut” selama anak menggunakan chatbot.

Perusahaan turut menyatakan akan menambahkan peringatan yang berkaitan dengan gangguan makan. Namun, setelah kebijakan tersebut diperkenalkan, tuduhan mengenai tanggung jawab ChatGPT atas kekerasan terhadap anak-anak masih terus muncul.

Pada April, tujuh keluarga korban penembakan sekolah di British Columbia menggugat OpenAI dan CEO Sam Altman. Gugatan tersebut didasarkan pada tuduhan bahwa pelaku penembakan pernah melakukan percakapan dengan ChatGPT mengenai kekerasan menggunakan senjata api.

Setelah Altman menyampaikan permohonan maaf, OpenAI menyatakan telah memperkuat sistem pengamanan mereka. Namun, pada Juni, OpenAI dan Altman kembali menghadapi gugatan dari negara bagian Florida atas tuduhan serupa.

Dalam gugatan tersebut, ChatGPT dinilai gagal menangani risiko keamanan bagi pengguna di bawah umur. Chatbot itu dituduh membantu pelaku penembakan massal, mendorong bunuh diri, menyebabkan penghinaan publik, membuat anak mengalami kecanduan tanpa pengawasan orang tua, serta berkontribusi terhadap hilangnya kemampuan berpikir kritis.

Kesimpulan

Peluncuran ChatGPT for Teens menjadi langkah OpenAI untuk memperkuat perlindungan bagi pengguna remaja, terutama melalui pengaturan waktu penggunaan, mode belajar, perlindungan privasi, dan sistem pengamanan berbasis usia. Fitur tersebut hadir ketika perusahaan menghadapi sorotan luas serta sejumlah tuntutan hukum terkait risiko chatbot terhadap anak-anak.

Ke depan, efektivitas perlindungan ini akan sangat bergantung pada kemampuan sistem dalam memperkirakan usia pengguna dan mencegah paparan terhadap konten yang tidak sesuai. OpenAI menyatakan telah menerapkan perlindungan dan kebijakan terdepan, sementara berbagai tuduhan yang diajukan terhadap perusahaan masih terus menjadi perhatian publik.