(SeaPRwire) –   xAI milik Elon Musk telah membatasi kemampuan generasi gambar chatbot AI Grok hanya untuk pelanggan berbayar, setelah adanya kecaman luas karena penggunaannya untuk membuat gambar seksual tanpa izin dari wanita dan anak-anak nyata.

“Generasi dan pengeditan gambar saat ini terbatas untuk pelanggan berbayar,” deklarasikan Grok melalui pada hari Jumat. Pembatasan ini berarti sebagian besar pengguna tidak dapat lagi mengakses fitur tersebut. Pelanggan berbayar yang terverifikasi dengan detail kartu kredit di file masih dapat melakukannya, tetapi secara teoritis mereka dapat diidentifikasi lebih mudah jika fungsi tersebut disalahgunakan.

Namun, ahli, regulator, dan korban mengatakan bahwa pembatasan baru ini bukanlah solusi untuk masalah yang sekarang sudah meluas.

“Argumen bahwa menyediakan detail pengguna dan metode pembayaran akan membantu mengidentifikasi pelaku juga tidak meyakinkan, mengingat betapa mudahnya menyediakan info palsu dan menggunakan metode pembayaran sementara,” Henry Ajder, ahli deepfake berbasis Inggris, mengatakan kepada . “Logika di sini juga reaktif: seharusnya membantu mengidentifikasi pelaku setelah konten dihasilkan, tetapi tidak merepresentasikan keselarasan atau batasan berarti pada model itu sendiri.”

Pemerintah Inggris menyebut langkah ini “menghina” korban, dalam komentar. juru bicara Perdana Menteri Inggris mengatakan kepada wartawan pada hari Jumat bahwa perubahan ini “hanya mengubah fitur AI yang memungkinkan pembuatan gambar ilegal menjadi layanan premium.

“Sudah waktunya X menangani masalah ini; jika perusahaan media lain memiliki papan iklan di pusat kota yang menampilkan gambar ilegal, ia akan bertindak segera untuk menghapusnya atau menghadapi reaksi negatif publik,” katanya.

Wakil dari X mengatakan mereka “sedang melihat” pembatasan baru ini. xAI menanggapi dengan pesan otomatis: “Legacy Media Lies.”

Selama minggu terakhir, wanita nyata telah menjadi target secara besar-besaran dengan pengguna memanipulasi foto untuk menghilangkan pakaian, menempatkan subjek dalam bikini, atau menempatkan mereka dalam skenario eksplisit secara seksual tanpa izin mereka. Beberapa korban melaporkan merasa dirugikan dan terganggu oleh tren ini, dengan banyak yang mengatakan laporan mereka ke X tidak dijawab dan gambar tetap aktif di platform.

Peneliti mengatakan skala di mana Grok menghasilkan dan berbagi gambar adalah tanpa preceden karena, tidak seperti bot AI lain, Grok pada dasarnya memiliki sistem distribusi built-in di platform X.

Seorang peneliti, yang analisisnya memperkirakan bahwa X telah menjadi situs paling produktif untuk deepfakes selama minggu terakhir. Genevieve Oh, peneliti media sosial dan deepfake yang melakukan analisis 24 jam terhadap gambar yang di-posting akun @Grok ke X, mengatakan bahwa ia menghasilkan sekitar 6.700 gambar yang menyarankan seks atau nudifikasi per jam. Sebagai perbandingan, lima situs terkemuka lain untuk deepfakes seksual rata-rata menghasilkan 79 gambar undressing AI baru per jam selama periode yang sama. Penelitian Oh juga menemukan bahwa konten seksual mendominasi output Grok, menyumbang 85% dari semua gambar yang dihasilkan chatbot tersebut.

Ashley St. Clair, komentator konservatif dan ibu dari salah satu anak Musk, termasuk di antara mereka yang terkena dampak gambar tersebut. bahwa pengguna mengubah gambar di profil Xnya menjadi foto AI eksplisit tentang dirinya, termasuk beberapa yang menurutnya menggambarkannya sebagai minor. Setelah berbicara keluar terhadap gambar tersebut dan mengangkat kekhawatiran tentang deepfakes pada minor, St Clair juga mengatakan X mengambil alih statusnya sebagai pelanggan berbayar yang terverifikasi tanpa memberitahu dia atau mengembalikan biayanya sebesar $8 per bulan.

“Membatasinya ke pengguna berbayar saja menunjukkan bahwa mereka akan memperkuat ini, menempatkan beban yang tidak wajar pada korban untuk melapor ke penegak hukum dan penegak hukum untuk menggunakan sumber daya mereka untuk melacak orang-orang ini,” kata Ashley St Clair tentang pembatasan baru ini. “Ini juga adalah upaya pengambilan uang.”

St Clair mengatakan kepada . bahwa banyak akun yang menargetkannya sudah merupakan pengguna terverifikasi: “Ini sama sekali tidak efektif,” katanya. “Ini hanya untuk mengantisipasi lebih banyak pertanyaan penegak hukum mengenai generasi gambar Grok.”

Tekanan Regulator

Langkah untuk membatasi kemampuan Grok datang di tengah tekanan yang meningkat dari regulator di seluruh dunia. Di Inggris, Perdana Menteri Keir Starmer telah untuk melarang platform secara keseluruhan, menggambarkan konten tersebut sebagai “menghinakan” dan “menjijikan.” Regulator di juga telah meluncurkan penyelidikan atau investigasi.

Komisi Eropa untuk menyimpan semua dokumen internal dan data terkait Grok, meningkatkan penyelidikan mereka terhadap praktik moderasi konten platform setelah menggambarkan penyebaran deepfakes eksplisit seksual tanpa izin sebagai “ilegal,” “menakutkan,” dan “menjijikan.”

Ahli mengatakan pembatasan baru ini mungkin tidak memenuhi kekhawatiran regulator: “Pendekatan ini adalah instrumen kasar yang tidak menangani akar masalah dengan keselarasan Grok dan kemungkinan tidak akan diterima oleh regulator,” kata Ajder. “Membatasi fungsionalitas ke pengguna berbayar tidak akan menghentikan generasi konten ini; langganan sebulan bukanlah solusi yang kuat.”

Di AS, situasi ini juga kemungkinan akan menguji undang-undang yang ada, seperti Bagian 230 dari Undang-Undang Kesopanan Komunikasi, yang melindungi penyedia online dari tanggung jawab atas konten yang dibuat oleh pengguna.

Riana Pfefferkorn dari Stanford’s Institute for Human-Centered Artificial Intelligence sebelumnya mengatakan kepada . bahwa tanggung jawab seputar gambar yang dihasilkan AI adalah samar. “Kami memiliki situasi di mana untuk pertama kalinya, platform itu sendiri yang secara besar-besaran menghasilkan pornografi tanpa izin dari orang dewasa dan minor sama sekali,” katanya. “Dari perspektif tanggung jawab serta perspektif PR, undang-undang CSAM menimbulkan risiko tanggung jawab terbesar di sini.”

Musk sebelumnya telah menyatakan bahwa “siapa pun yang menggunakan Grok untuk membuat konten ilegal akan mengalami konsekuensi yang sama seperti jika mereka mengunggah konten ilegal.” Namun, masih tidak jelas bagaimana akun akan dipertanggungjawabkan.