(SeaPRwire) –   Dua negara Asia Tenggara—Malaysia dan Indonesia—telah menjadi negara pertama di dunia yang mengambil tindakan terhadap chatbot Grok milik Elon Musk dan kemampuannya menghasilkan gambar deepfake.

Pada 10 Januari, Indonesia mengumumkan akan sementara membatasi akses ke Grok. Meutya Hafid, Menteri Komunikasi dan Digital negara itu, menulis bahwa larangan itu diberlakukan untuk melindungi “wanita, anak-anak, dan masyarakat luas” dari konten pornografi palsu yang dibuat oleh AI.

Kemudian, hari berikutnya, Komisi Komunikasi dan Multimedia Malaysia (MCMC) mengatakan akan juga “sementara membatasi” akses ke Grok setelah “pemakaian berulang… untuk menghasilkan gambar yang cabul, eksplisit seksual, tidak sopan, sangat menyinggung, dan dimanipulasi tanpa persetujuan.”

Dalam sebuah pernyataan, , namun menganggap tanggapan mereka “tidak cukup untuk mencegah bahaya atau memastikan kepatuhan hukum.”

Baik Indonesia maupun Malaysia memiliki aturan ketat terhadap pornografi online. Indonesia, rumah bagi populasi Muslim terbesar di dunia, telah menjadi sangat agresif, dan telah menuntut pembuat konten OnlyFans baik warga Indonesia maupun asing berdasarkan Undang-Undang Pornografi 2008.

Pada 9 Januari, membatasi pembuatan gambar hanya untuk pengguna berbayar dalam upaya membatasi banjir gambar deepfake, di mana pengguna meminta Grok untuk mengubah gambar wanita, menampilkannya berpakaian terbuka. Korban telah mengkritik X karena mengizinkan pembuatan konten seksual tanpa persetujuan, termasuk terhadap anak-anak. Pejabat pemerintah juga sedang mempertimbangkan untuk mengambil tindakan terhadap X dan Grok.

xAI mengirim email dengan teks “Legacy Media Lies” saja setelah menghubungi mereka untuk komentar tentang larangan Indonesia dan Malaysia.

Kehilangan keamanan yang terus-menerus

Tindakan pemerintah terhadap X dan Grok kemungkinan tidak dapat dihindari, mengingat betapa mudahnya menghasilkan konten deepfake.

“Pembatasan Grok mudah untuk dilewati,” kata Chew Han Ei, seorang peneliti senior di Lee Kuan Yew School of Public Policy di Universitas Nasional Singapura (NUS). “Ketika sebuah sistem dapat dengan mudah didorong untuk menghasilkan atau memperkuat konten sintetis berbahaya, itu menunjukkan kelemahan desain.”

Tindakan Indonesia dan Malaysia terhadap Grok dan X terjadi di tengah kekhawatiran yang lebih luas di kawasan tentang media sosial dan deepfake.

Beberapa pemerintah di Asia telah mengeluarkan peraturan terhadap produksi deepfake, biasanya dalam konteks pencegahan kejahatan siber, penipuan, dan campur tangan dalam pemilu. Pada 2024, Korea Selatan menjadikan nonton atau membuat pornografi deepfake sebagai tindakan kriminal.

Tahun lalu, baik Australia maupun Malaysia melarang akses media sosial bagi anak di bawah 16 tahun, dengan alasan kekhawatiran akan bahaya online seperti perundungan siber, eksploitasi seksual, dan penipuan keuangan. Senin lalu, Meta mengungkapkan telah menutup 550.000 akun di Facebook, dan Threads untuk mematuhi larangan baru Australia.

“Pemerintah semakin tidak bersedia mentolerir pendekatan rilis dulu, perbaiki nanti. Jika perlindungan tidak kredibel, akses ke alat tersebut menjadi pertanyaan kebijakan yang sah,” kata Chew.