Pencarian Taylor Swift Diblokir oleh X Akibat Beredarnya Deepfakes

81st Annual Golden Globe Awards - Arrivals

(SeaPRwire) –   Platform media sosial X, yang dulu bernama Twitter, telah memblokir pencarian nama Taylor Swift untuk menanggulangi penyebaran deepfakes seksualis yang eksplisit dari bintang pop tersebut, mengungkap tantangan menangani konten semacam itu.

“Ini adalah tindakan sementara dan dilakukan dengan kehati-hatian berlebih saat memprioritaskan keamanan masalah ini,” kata Joe Benarroch, kepala operasi bisnis di X, kepada TIME dalam email Minggu. Pada saat publikasi, pencarian nama Taylor Swift di X masih tidak dapat diakses.

Jumat lalu, akun Keamanan X di platform tersebut mengunggah bahwa konten pornografi non-konsensual secara ketat dilarang dan perusahaan tersebut memiliki “Tim yang sedang menghapus semua gambar yang teridentifikasi dan mengambil tindakan yang tepat terhadap akun yang bertanggung jawab atas pengunggahan mereka,” bunyi pernyataan itu. “Kami berkomitmen untuk memelihara lingkungan yang aman dan menghormati bagi semua pengguna.”

TIME telah menghubungi juru bicara Swift untuk komentar.

Deepfakes Swift telah menyoroti masalah pornografi yang dihasilkan AI, dimana wajah seseorang disisipkan ke dalam gambar atau video eksplisit tanpa persetujuannya, dan sebagai regulasi yang berjuang mengejar teknologi. Sebagaimana diakui X, melarang pencarian hanyalah langkah sementara. Meskipun telah digunakan untuk efektif dalam kasus ini, ini bukan solusi jangka panjang untuk masalah yang luas.

Sembilan puluh enam persen dari semua deepfakes online pada tahun 2019 adalah pornografi non-konsensual, hampir semuanya wanita, analis media Sensity mengatakan, dan FBI bahwa konten ini dapat digunakan untuk dan keuntungan kriminal keuangan.

“Ini mengkhawatirkan,” kata Juru Bicara Gedung Putih Karine Jean-Pierre ketika ditanya tentang deepfakes Swift. “Meskipun perusahaan media sosial membuat keputusan independen tentang pengelolaan konten, kami percaya mereka memiliki peran penting dalam menegakkan aturan mereka sendiri untuk mencegah penyebaran informasi yang salah dan gambar intim non-konsensual orang nyata.”

Meskipun 10 negara bagian mengkriminalisasi deepfakes, hukum federal tidak, dan legislator di Kongres mempercepat untuk mencoba melarang konten tersebut.

Rep. Joe Morelle, seorang Demokrat dari New York, memperkenalkan tahun lalu, tetapi rancangan undang-undang belum maju. Demokrat New York lainnya, Rep. Yvette Clarke, memperkenalkan tahun lalu untuk melindungi ancaman keamanan nasional dan memberikan upaya hukum bagi korban.

Pada Januari, legislator memperkenalkan untuk melindungi warga Amerika dari manipulasi AI atas suara dan gambar mereka.

Dalam tanggapan atas pertanyaan reporter tentang rancangan undang-undang yang diusulkan, Jean-Pierre mengatakan “seharusnya ada undang-undang, tentu saja, untuk menangani masalah ini,” tetapi menunjukkan bahwa Presiden Joe Biden sudah mengambil tindakan dengan menulis panduan tentang bagaimana administrasinya akan mengatur AI generatif dan menciptakan tim tugas untuk.

Artikel ini disediakan oleh penyedia konten pihak ketiga. SeaPRwire (https://www.seaprwire.com/) tidak memberikan jaminan atau pernyataan sehubungan dengan hal tersebut.

Sektor: Top Story, Daily News

SeaPRwire menyediakan distribusi siaran pers real-time untuk perusahaan dan lembaga, menjangkau lebih dari 6.500 toko media, 86.000 editor dan jurnalis, dan 3,5 juta desktop profesional di 90 negara. SeaPRwire mendukung distribusi siaran pers dalam bahasa Inggris, Korea, Jepang, Arab, Cina Sederhana, Cina Tradisional, Vietnam, Thailand, Indonesia, Melayu, Jerman, Rusia, Prancis, Spanyol, Portugis dan bahasa lainnya.