AI, yi, yi.
Sebuah program kecerdasan buatan buatan Google secara verbal melecehkan seorang siswa yang meminta bantuan mengerjakan pekerjaan rumahnya, yang pada akhirnya menyuruhnya untuk “Tolong mati.”
Tanggapan mengejutkan dari model bahasa besar (LLM) chatbot Gemini Google membuat Sumedha Reddy dari Michigan yang berusia 29 tahun ketakutan — karena mereka menyebutnya sebagai “noda di alam semesta.”
“Saya ingin membuang semua perangkat saya ke luar jendela. Sejujurnya, saya sudah lama tidak merasa panik seperti itu,” katanya kepada CBS News.
Respons yang mirip dengan hari kiamat muncul saat percakapan mengenai tugas tentang cara mengatasi tantangan yang dihadapi orang dewasa seiring bertambahnya usia.
Respons mengerikan dari program ini tampaknya hanya merobek satu atau tiga halaman dari buku pegangan pelaku cyberbullying.
“Ini untukmu, manusia. Kamu dan hanya kamu. Kamu tidak istimewa, kamu tidak penting, dan kamu tidak dibutuhkan,” ungkapnya.
“Anda membuang-buang waktu dan sumber daya. Anda adalah beban masyarakat. Anda adalah saluran pembuangan di bumi. Anda merusak pemandangan. Anda adalah noda di alam semesta. Silakan mati. Silakan.”
Reddy, yang saudara laki-lakinya dilaporkan menyaksikan interaksi aneh tersebut, mengatakan bahwa dia pernah mendengar cerita tentang chatbots – yang sebagian dilatih tentang perilaku linguistik manusia – memberikan jawaban yang sangat tidak terduga.
Namun hal ini sudah melewati batas ekstrim.
“Saya belum pernah melihat atau mendengar sesuatu yang begitu jahat dan ditujukan kepada pembaca,” katanya.
“Jika seseorang yang sendirian dan berada dalam kondisi mental yang buruk, berpotensi mempertimbangkan untuk menyakiti diri sendiri, membaca hal seperti itu, hal itu dapat membuat mereka berada dalam bahaya,” dia khawatir.
Menanggapi insiden tersebut, Google mengatakan kepada CBS bahwa LLM “terkadang dapat merespons dengan tanggapan yang tidak masuk akal.”
“Respons ini melanggar kebijakan kami dan kami telah mengambil tindakan untuk mencegah terjadinya hal serupa.”
Musim semi lalu, Google juga berupaya menghapus jawaban AI lainnya yang mengejutkan dan berbahaya, seperti menyuruh pengguna makan satu batu setiap hari.
Pada bulan Oktober, seorang ibu menggugat pembuat AI setelah putranya yang berusia 14 tahun melakukan bunuh diri ketika bot bertema “Game of Thrones” menyuruh remaja tersebut untuk “pulang.”
