New Orleans Gunakan AI untuk Menjawab Panggilan Darurat 911, Tuai Kritik

New Orleans menjadi kota besar pertama di Amerika Serikat yang menggunakan kecerdasan buatan (AI) untuk menjawab secara langsung panggilan darurat 911. Teknologi ini dirancang untuk menganalisis setiap panggilan, melakukan triase, serta menentukan tingkat prioritas sebelum meneruskannya kepada petugas manusia.

Penerapan sistem tersebut dilakukan oleh Dinas Komunikasi Distrik Orleans atau Orleans Parish Communications District (OPCD). Kebijakan ini diambil setelah distrik tersebut menerima lebih dari 1.000 panggilan darurat setiap hari. Jumlah itu menjadikannya wilayah dengan volume panggilan 911 tertinggi di Amerika Serikat.

AI Emergency Call Triage Mulai Diterapkan

Teknologi yang digunakan New Orleans disebut AI Emergency Call Triage. Sistem ini mulai diterapkan pada akhir Juli setelah sebelumnya menjalani uji coba melalui layanan hotline non-darurat 311 di kota tersebut.

Melalui sistem ini, panggilan 911 akan dianalisis oleh agen AI. Hasil analisis kemudian digunakan untuk menentukan panggilan yang perlu segera diteruskan kepada operator manusia dan panggilan yang masih dapat ditangani secara otomatis oleh sistem.

Bot AI juga akan membantu menangani panggilan berulang maupun panggilan dengan tingkat prioritas rendah. Dengan demikian, operator manusia diharapkan dapat lebih fokus pada situasi yang membutuhkan penanganan cepat dan keputusan langsung.

AI Tidak Dirancang Menggantikan Operator

Direktur Eksekutif OPCD Karl Fasold menegaskan bahwa penerapan AI bukan bertujuan menggantikan petugas operator manusia. Menurut dia, sistem tersebut berfungsi sebagai alat bantu untuk mengatur prioritas panggilan ketika jumlah laporan yang masuk sangat tinggi.

AI akan diprioritaskan dalam kondisi tertentu, termasuk ketika penelepon berada dalam jarak sekitar 200 meter dari lokasi kejadian yang dilaporkan. Sistem itu juga dapat digunakan ketika seluruh petugas manusia sedang menangani panggilan lain.

Dalam skema tersebut, AI bertugas membantu menyaring dan mengelompokkan laporan. Panggilan yang dinilai memiliki tingkat urgensi tinggi tetap dapat diteruskan kepada petugas manusia untuk memperoleh penanganan lebih lanjut.

Penggunaan AI Panggilan Darurat Menuai Kritik

Meski disebut dapat meringankan beban operator, penggunaan AI untuk menjawab panggilan darurat mendapat kritik dari sejumlah praktisi dan pakar. Mereka memperingatkan bahwa kesalahan dalam memahami informasi dari penelepon dapat menimbulkan konsekuensi serius.

Boxy, seorang kritikus daring yang mengaku pernah bekerja sebagai operator 911 selama 11 tahun, menilai gagasan AI untuk menjawab panggilan darurat merupakan keputusan yang berisiko. Ia mengingatkan bahwa penelepon dalam situasi genting belum tentu mampu berbicara dengan jelas.

Menurut Boxy, terdapat kondisi ketika korban tidak dapat menyampaikan keadaan sebenarnya secara langsung. Dalam kasus kekerasan domestik, misalnya, korban bisa saja berpura-pura memesan makanan atau berbicara menggunakan kode tertentu agar tidak diketahui pelaku.

“Ada skenario di mana seseorang tidak bisa bicara dengan jelas atau memiliki aksen yang kuat. Petugas harus mampu merasakan kondisi seseorang atau menangkap hal-hal yang tidak mereka katakan,” kata Boxy.

Ia menambahkan bahwa situasi semacam itu membutuhkan kepekaan manusia. “Anda butuh seorang manusia,” ujarnya.

AI 911 Juga Digunakan di Kota Lain

New Orleans memang menjadi kota besar pertama di Amerika Serikat yang mengizinkan AI menjawab langsung panggilan darurat 911. Namun, sejumlah kota lain juga telah mengintegrasikan teknologi AI ke dalam sistem tanggap darurat mereka, meski dengan fungsi yang berbeda.

Atlanta, misalnya, menggunakan AI untuk membantu operator menemukan lokasi penelepon dengan lebih cepat. Teknologi tersebut juga dimanfaatkan untuk mendukung komunikasi lintas bahasa.

Sementara itu, Seattle telah menggunakan teknologi serupa sejak 2024. Sistem tersebut membantu operator menentukan panggilan mana yang perlu segera direspons dan panggilan mana yang tidak memiliki tingkat urgensi setinggi itu. Berdasarkan investigasi Seattle Times, penggunaan teknologi tersebut berlangsung selama dua tahun tanpa diumumkan kepada publik.

Risiko Akurasi dan Keamanan Siber

Sejumlah penelitian menunjukkan bahwa tingkat akurasi AI, terutama dalam menganalisis percakapan suara, masih menjadi perhatian. Risiko kesalahpahaman dinilai cukup tinggi karena penelepon 911 umumnya berada dalam kondisi panik, sehingga sulit menjelaskan kejadian secara runtut dan lengkap.

Selain persoalan akurasi, peneliti keamanan juga memperingatkan kerentanan sistem suara berbasis AI terhadap serangan dari luar. Model suara dapat menjadi sasaran peretasan atau manipulasi yang membuat sistem berperilaku tidak sesuai dengan fungsinya.

Para pejabat New Orleans tetap menyatakan keyakinannya terhadap penerapan teknologi tersebut. Mereka menilai AI dapat bekerja secara efektif apabila didukung pengawasan manusia, data pelatihan yang memadai, keamanan siber, serta regulasi terhadap algoritma yang digunakan.

Kesimpulan

Penerapan AI untuk menjawab panggilan darurat 911 di New Orleans menjadi langkah baru dalam pengelolaan layanan tanggap darurat di Amerika Serikat. Sistem ini diharapkan mampu membantu memilah lebih dari 1.000 panggilan harian dan memberi kesempatan kepada operator manusia untuk berkonsentrasi pada situasi paling mendesak.

Namun, teknologi tersebut masih menghadapi tantangan berupa risiko salah memahami percakapan, kesulitan menangkap pesan tersirat, serta ancaman keamanan siber. Ke depan, efektivitas AI dalam layanan darurat akan sangat bergantung pada kualitas pengawasan manusia, pelatihan sistem, dan penerapan regulasi yang ketat.