Deepfake Audio Biden Membuat Ahli Khawatir Menjelang Pilpres

(SeaPRwire) –   Tidak ada deepfake politik yang lebih mengkhawatirkan para ahli disinformasi di seluruh dunia selain pesan suara Joe Biden yang mulai beredar pada akhir pekan.

Dalam pesan telepon, suara yang diedit untuk terdengar seperti Biden mengimbau pemilih di New Hampshire untuk tidak memberikan suara mereka dalam pemilihan primer Demokrat yang berlangsung Selasa. “Simpan suara Anda untuk pemilihan November,” kata pesan telepon itu. Bahkan menggunakan salah satu frasa khas Biden: “Apa yang membuat malarkey.” Sebenarnya, presiden tidak mencalonkan diri dalam pemilihan New Hampshire – dan memberikan suara dalam pemilihan primer tidak mencegah orang untuk berpartisipasi dalam pemilihan November nanti.

Banyak yang memperingatkan bahwa generator gambar dan video buatan baru yang didukung kecerdasan buatan akan digunakan tahun ini untuk keuntungan politik, sementara representasi hampir setengah dunia berada di tangan pemungutan suara. Tapi deepfake audio yang menjadi perhatian para ahli sekarang. Mereka mudah diedit, murah diproduksi dan sangat sulit dilacak. Gabungkan pesan telepon yang meyakinkan dengan basis data pendaftaran pemilih, dan pelaku jahat memiliki senjata yang kuat bahkan sistem pemilihan tercanggih pun tidak mampu menangani, menurut para peneliti.

“Saat deepfake politik telah tiba,” kata Robert Weissman, presiden lembaga advokasi konsumen Public Citizen. Ia menyerukan agar para pembuat undang-undang menerapkan perlindungan terhadap rekaman audio dan video palsu untuk menghindari “kekacauan pemilihan.”

Pesan palsu Biden ini muncul saat semakin banyak kampanye politik AS yang menggunakan perangkat lunak AI untuk menjangkau konstituen secara masal – dan saat investor mengalirkan dana ke perusahaan pembuat suara kloning. Senin, saat pesan deepfake telepon itu beredar, perusahaan pembuat suara kloning ElevenLabs mengumumkan telah menggalang dana baru yang menilai perusahaan pada $1,1 miliar.

Rekaman politik yang dimanipulasi itu bukan yang pertama. Tahun lalu, deepfake audio tersebar di media sosial menjelang pemilihan parlemen Slowakia, termasuk satu cuplikan di mana pemimpin partai Michal Simecka tampak membahas rencana untuk membeli suara. Penggunaan video dan audio deepfake politik sementara terbukti terbatas.

Belum jelas persis bagaimana pesan Biden itu dihasilkan. Jaksa Agung New Hampshire sedang menyelidiki panggilan itu Senin. Tapi melacak sumber palsu audio ke sumbernya akan membuktikan sangat sulit karena disebarkan melalui telepon daripada secara online, menurut Joan Donovan, profesor jurnalisme dan studi media baru di Boston University. Pesan audio yang disampaikan melalui telepon tidak disertai jejak digital yang sama.

“Ini merupakan indikasi trik kotor generasi berikutnya,” kata Donovan.

Ada alasan lain mengapa potongan palsu Biden itu sangat mengkhawatirkan para peneliti disinformasi dan pejabat pemilihan. Hal itu mengkonfirmasi ketakutan terbesar mereka: Pelaku jahat menggunakan deepfake tidak hanya untuk mempengaruhi opini publik tetapi juga untuk mencegah pemilih datang ke tempat pemungutan suara.

“Bahkan jika informasi yang salah itu hanya menimbulkan kebingungan yang hanya mempengaruhi beberapa ratus atau ribuan suara, hal itu bisa berarti dalam hal hasil dan keputusan,” kata Nick Diakopoulos, profesor di Universitas Northwestern yang telah meneliti audio dan pemilihan yang dimanipulasi.

Komisi Pemilihan Federal AS telah mengambil langkah kecil untuk mengatur deepfake politik, tetapi belum menindak teknologi yang membantu menghasilkannya. Beberapa negara bagian telah mengusulkan undang-undang mereka sendiri untuk membatasi deepfake.

Pejabat pemilihan sedang melakukan latihan pelatihan untuk mempersiapkan serbuan. Sekitar 100 pejabat federal dan negara bagian berkumpul di Colorado pada Agustus untuk berpikir tentang respons terbaik terhadap video palsu hipotetis yang berisi informasi pemilihan palsu. Deepfake menjadi fokus latihan lain di Arizona pada Desember ketika pejabat bekerja melalui skenario di mana video Sekretaris Negara Adrian Fontes dipalsukan untuk menyebarkan informasi yang tidak akurat.

Sementara itu, alat deteksi deepfake masih berada di tahap awal dan hasilnya masih belum pasti.

Senin, misalnya, alat deteksi milik ElevenLabs menunjukkan bahwa panggilan Biden kemungkinan besar tidak dibuat menggunakan perangkat lunak kloning – bahkan ketika startup deteksi deepfake Clarity mengatakan kemungkinannya lebih dari 80% merupakan deepfake.

Artikel ini disediakan oleh penyedia konten pihak ketiga. SeaPRwire (https://www.seaprwire.com/) tidak memberikan jaminan atau pernyataan sehubungan dengan hal tersebut.

Sektor: Top Story, Daily News

SeaPRwire menyediakan distribusi siaran pers real-time untuk perusahaan dan lembaga, menjangkau lebih dari 6.500 toko media, 86.000 editor dan jurnalis, dan 3,5 juta desktop profesional di 90 negara. SeaPRwire mendukung distribusi siaran pers dalam bahasa Inggris, Korea, Jepang, Arab, Cina Sederhana, Cina Tradisional, Vietnam, Thailand, Indonesia, Melayu, Jerman, Rusia, Prancis, Spanyol, Portugis dan bahasa lainnya.