Bagaimana deepfake dan meme AI memengaruhi pemilu global pada tahun 2024 : NPR

Pada bulan Januari, ribuan pemilih di New Hampshire mengangkat telepon mereka untuk mendengar apa yang terdengar seperti perintah Presiden Biden kepada Partai Demokrat untuk tidak memberikan suara pada pemilihan pendahuluan di negara bagian itu, yang hanya berjarak beberapa hari lagi.

“Kami tahu pentingnya memilih Partai Demokrat ketika suara kami dihitung. Penting bagi Anda untuk menyimpan suara Anda untuk pemilu November,” kata suara di sambungan telepon tersebut.

Tapi itu bukan Biden. Ini adalah sebuah deepfake yang diciptakan dengan kecerdasan buatan (artificial Intelligence) – dan merupakan manifestasi dari ketakutan bahwa gelombang pemilu global pada tahun 2024 akan dimanipulasi dengan gambar, audio, dan video palsu, karena kemajuan pesat dalam teknologi AI generatif.

“Situasi mimpi buruk terjadi sehari sebelumnya, pada hari pemilu, sehari setelah pemilu, beberapa gambar yang mengejutkan, beberapa video atau audio yang mengejutkan hanya akan membuat dunia terbakar,” kata Hany Farid, seorang profesor di Universitas California di Berkeley. yang mempelajari media yang dimanipulasi.

Deepfake Biden ternyata dilakukan atas perintah konsultan politik Partai Demokrat yang mengatakan bahwa dia melakukannya untuk meningkatkan kewaspadaan terhadap AI. Dia didenda $6 juta oleh FCC dan didakwa atas tuntutan pidana di New Hampshire.

Namun seiring berlalunya tahun 2024, gelombang deepfake yang menipu dan ditargetkan tidak benar-benar terwujud.

“Tahun ini bukanlah tahun pemilihan AI seperti yang diramalkan banyak orang,” kata Zeve Sanderson, yang mempelajari bagaimana informasi digital mengubah masyarakat di Pusat Media Sosial dan Politik NYU.

Sebaliknya, penggunaan AI yang paling terlihat di banyak negara adalah untuk membuat meme dan konten yang asal usulnya tidak disamarkan. Seringkali, hal tersebut diungkapkan secara terbuka oleh politisi dan pendukungnya.

Farid mengatakan memasuki tahun ini, dia lebih khawatir tentang “kematian akibat seribu luka” dibandingkan skenario bom AI.

“Saya kira gambar-gambar tersebut tidak dirancang untuk menipu, namun dirancang untuk mendorong narasi dan propaganda,” katanya. “Saya pikir ada polusi umum pada ekosistem informasi ketika orang-orang mulai menyerah.”

Menghidupkan kembali diktator yang sudah mati

Misalnya Indonesia, dimana partai politik Golkar menggunakan AI menghidupkan kembali Soehartodiktator lama yang meninggal pada tahun 2008.

“Saya Suharto, presiden kedua Indonesia,” kata AI Suharto sebelum mendukung calon dari partai tersebut, dalam sebuah video yang diposting ke situs media sosial X oleh wakil ketua Golkar. Suharto yang palsu berkata bahwa calon-calon Golkar akan “melanjutkan impian saya untuk kemajuan Indonesia.”

Segera setelah itu, menantu Suharto – yang juga mendapat dukungan Golkar – terpilih sebagai presiden.

Meme AI juga lazim di India, tempat pelaksanaan demokrasi terbesar di dunia berlangsung musim semi lalu.

Pada bulan Mei, di sebuah pasar di Jaipur, seorang pedagang bernama Dilip, yang hanya memiliki satu nama, mengatakan kepada NPR bahwa teman-temannya meneruskan meme buatan AI ke WhatsApp, platform perpesanan populer milik Meta.

Dia mengatakan dia menyukai video yang mengejek pemimpin oposisi Rahul Gandhi, seperti versi AI dari Gandhi yang digambarkan sebagai pencuri bodoh, membayangkan semua uang yang akan dia curi jika dia menang.

Meski begitu, Dilip mengatakan meski ada meme tersebut, dia sudah memutuskan siapa yang akan dipilihnya.

Salah satu seniman AI generatif di India, yang dikenal secara profesional dengan nama Sahid SK, mengatakan bahwa dia menggunakan meme karena risiko dituntut karena pencemaran nama baik oleh kandidat yang marah lebih kecil. Dia mengatakan meme hanyalah sebuah kedipan mata, bukan sebuah gambaran keliru.

“Saya pikir itulah satu-satunya alasan kita belum melihat banyak kesalahan dalam pemilu kali ini. Karena semua orang takut dengan pemberitahuan hukum,” kata Sahid SK.

Banyak narasi palsu dan menyesatkan yang tersebar di India dan negara-negara lain tanpa menggunakan AI sama sekali – melainkan melalui video yang telah diedit dan direkayasa yang dikenal sebagai “cheapfakes”.

Musk dan Trump menganut meme yang dihasilkan AI

Di AS, meme politik dan video viral mencakup spektrum mulai dari gambar hasil editan dan klip di luar konteks hingga potret Wakil Presiden Kamala Harris yang dibuat oleh AI pada tahun 2017. pakaian Soviet dan dari Orang Amerika berkulit hitam mendukung mantan Presiden Donald Trump.

BROWNSVILLE, TEXAS – 19 NOVEMBER: Presiden terpilih AS Donald Trump dan Elon Musk menyaksikan peluncuran uji terbang keenam roket SpaceX Starship pada 19 November 2024 di Brownsville, Texas. Miliarder pemilik SpaceX, Elon Musk, orang kepercayaan Trump, telah ditunjuk untuk memimpin Departemen Efisiensi Pemerintahan yang baru bersama mantan kandidat presiden Vivek Ramaswamy. (Foto oleh Brandon Bell/Getty Images)

Gambar Brandon Bell/Getty

sembunyikan keterangan

beralih keterangan

Gambar Brandon Bell/Getty

Pada bulan Juli, Elon Musk, pemilik X, membagikan iklan palsu di mana seorang Klon AI suara Harris menggambarkan dirinya sebagai “perekrutan keberagaman tertinggi,” tanpa mengungkapkan bahwa video tersebut awalnya diposting sebagai parodi.

Musk dan pendukung Trump lainnya sering membagikan meme AI yang mengejek Harris dan Partai Demokrat serta mendukung mantan presiden tersebut.

Trump sendiri memposting gambar kartun AI yang dimaksudkan untuk menunjukkan Taylor Swift mendukungnya – yang jelas dia tidak mendukungnya.

Sanderson mengatakan penggunaan AI ini tidak dimaksudkan untuk mengubah pikiran masyarakat, namun untuk “membuat kandidat pilihan mereka terlihat patriotik atau mulia (atau) membuat kandidat lawan mereka terlihat jahat.” Dia mencatat bahwa manipulasi ini dapat dilakukan dengan alat pengeditan foto dan video tradisional, tetapi “AI generatif membuatnya lebih mudah.”

Sanderson juga memperingatkan bahwa AI mungkin telah digunakan dengan cara yang kurang dapat dideteksi. “Saya rasa kita masih belum memiliki pemahaman yang baik dan mendalam tentang bagaimana AI generatif digunakan dalam skala besar, oleh siapa, dan untuk tujuan apa,” katanya.

Terlebih lagi, sulit untuk menarik garis langsung dari pemalsuan AI yang diidentifikasi tahun ini dengan cara masyarakat memilih, kata Farid dari UC Berkeley.

“Apakah menurut saya hal itu mengubah hasil pemilu? Tidak,” katanya. “Apakah menurut saya hal itu berdampak pada cara berpikir orang-orang? Ya, menurut saya hal itu berdampak. Dan menurut saya hal itu akan terus berlanjut.”

Diaa Hadid dari NPR menyumbangkan laporan dari Jaipur dan Kolkata, India.