Pemilu 2024 sudah di depan mata, dan kecerdasan buatan sudah memainkan peran penting. Teknologi baru ini mengubah cara kita berkomunikasi satu sama lain — sekaligus menciptakan peluang baru untuk memengaruhi dan memanipulasi pemilih.
Aktor jahat dapat menggunakan AI untuk membuat konten audio atau visual yang menipu — terkadang disebut “pemalsuan mendalam” — yang secara meyakinkan menggambarkan realitas yang salah atau terdistorsi. AI dapat menyesatkan pemilih tentang apa yang dikatakan atau dilakukan seseorang, bahkan menunjukkan kepada mereka peristiwa yang tidak pernah terjadi. Kita telah melihat deepfake digunakan untuk menyebarkan kebohongan tentang kandidat, dan kemungkinan kita akan melihat lebih banyak lagi sebelum pemilu 2024 berakhir.
Misalnya, menjelang pemilihan pendahuluan presiden New Hampshire tahun 2024, panggilan otomatis yang menampilkan pesan buatan AI yang meniru suara Presiden Biden memberi tahu calon pemilih Demokrat tidak memilih pada pemilihan pendahuluan karena hal itu akan menghalangi mereka untuk memberikan suara dalam pemilihan umum, yang jelas tidak benar.
Hal serupa juga terjadi pada malam menjelang pemilihan wali kota Chicago yang berlangsung sengit tahun lalu, sebuah akun media sosial anonim mengunggah pesan deepfake menggambarkan secara salah seorang kandidat berkata, “dulu di zaman saya, polisi bisa membunuh 17 atau 18 orang dan tidak ada yang akan peduli.” Postingan tersebut menjadi viral sebelum dihapus, dan kandidat yang menjadi sasaran kalah dalam pemilihan dengan selisih kurang dari 26.500 suaraatau 4,5 persen suara yang diberikan.
Contoh-contoh ini mungkin akan segera tampak amatiran karena teknologi baru ini terus berkembang. Seiring dengan semakin meluasnya penggunaan AI, potensi terjadinya kecurangan pemilu akan semakin meningkat.
Politisi mungkin bukan satu-satunya pihak yang secara keliru digambarkan atau menjadi sasaran: AI dapat digunakan untuk secara keliru menggambarkan orang yang berpengaruh, seperti Penyanyi Taylor Swift atau Elon Muskmendorong khalayak ramai untuk mendukung kandidat tertentu atau salah menggambarkan di mana atau bagaimana cara memberikan suara.
Ancaman ini tidak berakhir pada Hari Pemilihan: deepfake yang dihasilkan oleh AI dapat digunakan untuk secara keliru menunjukkan petugas pemilu membuang surat suara atau membawa surat suara palsu untuk mengubah hasil pemilu, dalam upaya untuk mengobarkan api amarah masyarakat dan bahkan melakukan kekerasan pasca-pemilu seperti yang kita lihat selama Serangan 6 Januari di gedung DPR AS.
Kongres harus segera menetapkan pagar pembatas di sekitar area yang pada dasarnya tidak diatur ini — bukan setelah peristiwa pemilu yang membawa bencana terjadi. Badan-badan regulasi federal telah mengambil beberapa langkah yang berguna, meskipun kecil, ke arah yang benar. Namun, upaya mereka yang terbatas sangat tidak memadai untuk menghadapi tantangan yang ada.
Misalnya saja, Komisi Pemilihan Umum Federal, lembaga yang bertanggung jawab utama dalam memastikan integritas pemilu federal, baru saja mengeluarkan “aturan interpretatif” secara efektif mengonfirmasi bahwa undang-undang berusia puluhan tahun yang melarang “penyajian keliru atas kewenangan kampanye” — termasuk secara keliru mengklaim berbicara untuk atau atas nama kandidat dengan cara yang “merugikan” mereka — berlaku terlepas dari apakah aktor jahat menggunakan AI atau tidak.
Meskipun panduan itu bermanfaat, namun hal itu tidak mampu mengatasi berbagai bahaya terkait pemilu yang ditimbulkan oleh AI.
Sementara itu, Komisi Komunikasi Federal (FCC), yang mengatur lembaga penyiaran seperti stasiun TV dan radio, sedang menyusun peraturan untuk mengharuskan penyiar untuk memberikan pernyataan penyangkalan pada iklan politik apa pun yang menggunakan AI. Penyangkalan semacam itu akan membuat pemilih sadar ketika iklan yang mereka lihat menggunakan AI untuk mendistorsi kenyataan, yang merupakan ide bagus. Namun, FCC hanya dapat menerapkan aturan ini pada iklan radio dan TV — di era di mana sebagian besar iklan politik muncul secara daring, di aplikasi, atau melalui video streaming, mengatur radio dan TV saja tidak akan berhasil.
Yang dibutuhkan adalah undang-undang federal baru yang, minimal, mencapai dua hal: melarang iklan yang menipu dan memanipulasi pemilih, dan mengharuskan penyangkalan pada iklan politik yang menggunakan AI terlepas dari media yang digunakan untuk mendistribusikan iklan tersebut.
Pertama, Kongres harus melarang penggunaan deepfake dalam iklan yang menampilkan kandidat atau petugas pemilu. Tidak ada tempat dalam demokrasi kita untuk kebohongan dan manipulasi langsung tentang pemilu kita. Meskipun Amandemen Pertama melindungi kebebasan berekspresi, namun tidak melindungi ujaran yang curang.
Kedua, Kongres harus mewajibkan pernyataan sanggahan pada iklan politik yang muncul di media apa pun, yang memberi tahu pemirsa saat konten iklan telah dibuat, diubah, atau disebarluaskan secara material dengan AI. Pernyataan sanggahan pada bagian depan komunikasi akan memberi tahu pemilih bahwa sesuatu yang mereka lihat atau dengar telah diubah, memberi mereka kesempatan untuk menyelidiki perubahan tersebut, atau setidaknya menanggapi pesan tersebut dengan tingkat skeptisisme yang diperlukan.
Kabar baiknya adalah Kongres saat ini sedang mempertimbangkan beberapa RUU yang dapat mencapai tujuan-tujuan ini: Undang-Undang Perlindungan Pemilu dari Penipuan AIitu Undang-Undang Transparansi AI dalam Pemiluitu Mempersiapkan Penyelenggara Pemilu untuk UU AIitu Peraturan Kecerdasan Buatan yang Menipu (FAIR) Undang-Undang Pemiludan Undang-Undang Iklan AI.
Berita yang kurang baiknya adalah waktunya hampir habis bagi Kongres untuk bertindak sebelum pemilu 2024.
Selama beberapa minggu ke depan, warga Amerika akan terus dibanjiri iklan politik setiap kali mereka menyalakan TV, menjelajahi internet, atau membuka aplikasi media sosial favorit mereka. Selama beberapa dekade, para pemilih harus memilah-milah iklan tersebut untuk memilah-milah politik dan memutuskan siapa yang akan dipilih. Kini, berkat AI, mereka harus memutuskan apakah yang mereka lihat atau dengar itu nyata.
Itu merupakan tuntutan yang sangat besar untuk melaksanakan hak paling dasar atas partisipasi demokrasi, dan ada risiko nyata bahwa warga Amerika yang frustrasi dan tidak percaya akan mengabaikannya dan berpaling.
Kongres seharusnya tidak membiarkan hal itu terjadi. Kongres seharusnya bertindak sekarang untuk mencegah AI merusak demokrasi kita, pada tahun 2024 dan seterusnya.
Saurav Ghosh menjabat sebagai direktur Reformasi Pendanaan Kampanye Federal di Pusat Hukum Kampanye yang nonpartisan. Sebelumnya, ia bertugas di Kantor Penasihat Umum di Komisi Pemilihan Federal, menyelidiki dugaan pelanggaran dalam puluhan masalah pendanaan kampanye.
