Komisi Komunikasi Federal (FCC) telah secara resmi mengeluarkan denda penuh yang direkomendasikan terhadap konsultan politik Steve Kramer atas serangkaian robocall ilegal yang menggunakan teknologi AI palsu dan spoofing ID penelepon selama pemilihan pendahuluan di New Hampshire. Kramer harus membayar denda $6 juta dalam 30 hari ke depan atau Departemen Kehakiman akan menangani penagihannya, menurut .
Kramer melanggar disahkan pada tahun 2009 yang melarang siapa pun “dengan sengaja mengirimkan informasi identifikasi penelepon yang menyesatkan atau tidak akurat dengan tujuan untuk menipu, menyebabkan kerugian, atau secara tidak sah memperoleh sesuatu yang berharga,” menurut catatan legislatif. Undang-undang tersebut mendahului penggunaan AI secara luas, tetapi FCC menyetujuinya untuk menerapkannya pada deepfake pada bulan Februari lalu.
Robocall palsu tersebut mengirimkan rekaman audio suara Presiden Biden menggunakan teknologi AI deepfake kepada penduduk New Hampshire menjelang pemilihan pendahuluan presiden tahun 2024. Presiden Biden yang palsu mengatakan kepada pemilih untuk tidak memberikan suara pada pemilihan pendahuluan mendatang dengan mengatakan “Suara Anda membuat perbedaan di bulan November, bukan pada hari Selasa ini,” menurut laporan sebelumnya dari . Robocall tersebut dipalsukan sehingga seolah-olah berasal dari mantan ketua Partai Demokrat New Hampshire, menurut .
Kramer menyewa pesulap New Orleans (bukan, sebenarnya, pesulap sungguhan) Paul Carpenter untuk membuat rekaman palsu. Tukang kayu menunjukkan bagaimana dia membuat file audio deepfake Presiden Biden menggunakan generator suara AI yang disebut ElevenLabs. Pembuatan rekamannya, klaimnya, hanya membutuhkan waktu sekitar 20 menit. Carpenter mengatakan Kramer membayarnya melalui Venmo dan menurutnya pekerjaan yang dia lakukan disahkan oleh tim kampanye Presiden Biden. Eleven Labs telah menutup akun Carpenter.
Kramer mengklaim dia mengirimkan robocall untuk meningkatkan kesadaran tentang bahaya dan penyalahgunaan teknologi. Eksperimen yang dilakukannya hanya menghabiskan biaya sebesar $500 namun, menurut konsultan politik, menghasilkan keuntungan besar. “Bagi saya yang melakukan itu dan mendapatkan eksposur senilai $5 juta, bukan untuk saya,” kata Kramer kepada CBS New York. “Saya merahasiakan diri saya sehingga peraturan bisa berlaku sendiri atau mulai berlaku sendiri. Saya tidak perlu menjadi terkenal. Itu bukan niat saya. Niat saya adalah membuat perbedaan.”
Kramer tidak hanya menghadapi denda FCC yang besar, dia juga menghadapi tuntutan pidana. diumumkan pada bulan Mei lalu bahwa Kramer menerima 13 dakwaan kejahatan berupa penindasan terhadap pemilih dan 13 dakwaan pelanggaran ringan berupa peniruan identitas seorang kandidat.
