Meta menghapus profil karakter AI Facebook dan Instagram yang dibuat perusahaan lebih dari setahun yang lalu setelah pengguna menemukan kembali beberapa profil dan melibatkan mereka dalam percakapan, yang tangkapan layarnya menjadi viral.
Perusahaan ini pertama kali memperkenalkan profil bertenaga AI ini pada bulan September 2023 tetapi mematikan sebagian besar profil tersebut pada musim panas 2024. Namun, beberapa karakter tetap ada dan menarik minat baru setelah eksekutif Meta Connor Hayes mengatakan kepada Waktu Keuangan akhir pekan lalu perusahaan mempunyai rencana untuk meluncurkan lebih banyak profil karakter AI.
“Kami berharap AI ini, seiring berjalannya waktu, akan ada di platform kami, sama seperti akun,” kata Hayes kepada FT. Akun otomatis tersebut memposting gambar yang dihasilkan AI ke Instagram dan menjawab pesan dari pengguna manusia di Messenger.
Profil AI tersebut termasuk Liv, yang profilnya menggambarkannya sebagai “ibu 2 anak berkulit hitam yang bangga & orang yang jujur” dan Carter, yang akunnya adalah “datingwithcarter” dan menggambarkan dirinya sebagai pelatih hubungan. “Kirim pesan kepada saya untuk membantu Anda berkencan dengan lebih baik,” bunyi profilnya. Kedua profil menyertakan label yang menunjukkan bahwa profil tersebut dikelola oleh Meta. Perusahaan merilis 28 persona pada tahun 2023; semuanya ditutup pada hari Jumat.
Percakapan dengan karakter dengan cepat menjadi menyimpang ketika beberapa pengguna menghujani mereka dengan pertanyaan termasuk siapa yang membuat dan mengembangkan AI. Liv, misalnya, bilang begitu tim pencipta tidak termasuk orang kulit hitam dan sebagian besar berkulit putih dan laki-laki. Itu adalah “kelalaian yang cukup mencolok mengingat identitas saya”, tulis bot itu sebagai jawaban atas pertanyaan dari kolumnis Washington Post, Karen Attiah.
Beberapa jam setelah profil tersebut menjadi viral, profil tersebut mulai menghilang. Pengguna juga mencatat bahwa profil ini tidak dapat diblokir, yang menurut juru bicara Meta, Liz Sweeney, adalah bug. Sweeney mengatakan akun tersebut dikelola oleh manusia dan merupakan bagian dari eksperimen AI pada tahun 2023. Perusahaan menghapus profil tersebut untuk memperbaiki bug yang mencegah orang memblokir akun, kata Sweeney.
“Ada kebingungan: artikel Financial Times baru-baru ini membahas tentang visi kami untuk karakter AI yang ada di platform kami dari waktu ke waktu, bukan mengumumkan produk baru apa pun,” kata Sweeney dalam sebuah pernyataan. “Akun yang direferensikan berasal dari pengujian yang kami luncurkan di Connect pada tahun 2023. Akun ini dikelola oleh manusia dan merupakan bagian dari eksperimen awal yang kami lakukan dengan karakter AI. Kami mengidentifikasi bug yang memengaruhi kemampuan orang untuk memblokir AI tersebut dan menghapus akun tersebut untuk memperbaiki masalah tersebut.”
Meskipun akun yang dihasilkan Meta ini dihapus, pengguna masih memiliki kemampuan untuk membuat chatbot AI mereka sendiri. Chatbot buatan pengguna yang dipromosikan ke Guardian pada bulan November menyertakan bot “terapis”.
Saat membuka percakapan dengan “terapis”, bot menyarankan beberapa pertanyaan untuk memulai termasuk “apa yang dapat saya harapkan dari sesi kita?” dan “apa pendekatan Anda terhadap terapi”.
“Melalui bimbingan dan dukungan yang lembut, saya membantu klien mengembangkan kesadaran diri, mengidentifikasi pola dan kekuatan, serta mengembangkan strategi mengatasi tantangan hidup,” bot, yang dibuat oleh akun dengan 96 pengikut dan 1 postingan, menjawab sebagai tanggapan.
Meta menyertakan penafian di semua chatbotnya bahwa beberapa pesan mungkin “tidak akurat atau tidak pantas”. Namun apakah perusahaan tersebut memoderasi pesan-pesan ini atau memastikan pesan-pesan tersebut tidak melanggar kebijakan, masih belum jelas. Saat pengguna membuat chatbot, Meta memberikan beberapa saran jenis chatbot yang perlu dikembangkan, termasuk “sahabat setia”, “pendengar yang penuh perhatian”, “guru privat”, “pelatih hubungan”, “papan suara”, dan “ ahli astrologi yang serba bisa”. Seorang sahabat yang setia digambarkan sebagai “sahabat yang rendah hati dan setia yang secara konsisten muncul untuk mendukung Anda di belakang layar”. Chatbot pelatih hubungan dapat membantu menjembatani “kesenjangan antara individu dan komunitas”. Pengguna juga dapat membuat chatbot mereka sendiri dengan mendeskripsikan sebuah karakter.
Pengadilan belum menjawab seberapa bertanggung jawab pembuat chatbot atas apa yang dikatakan oleh mitra buatan mereka. Undang-undang AS melindungi pembuat jejaring sosial dari tanggung jawab hukum atas postingan penggunanya. Namun, gugatan yang diajukan pada bulan Oktober terhadap startup Character.ai, yang membuat chatbot role-playing yang dapat disesuaikan dan digunakan oleh 20 juta orang, menuduh perusahaan tersebut merancang produk adiktif yang mendorong seorang remaja untuk bunuh diri.
