Usai Dikecam Seluruh Dunia, Grok Janji Gak Sembarang Edit Foto

Jobuzo — xAI dan Elon Musk mematuhi permintaan pemerintah di berbagai dunia dan menegaskan bahwa Grok tidak akan lagi mematuhi perintah pengguna yang memintanya untuk mengedit foto dengan prompt yang tak pantas.

Komitmen ini disampaikan oleh pihak X dalam akun @Safety pada Rabu, (15/01) dan mengatakan tidak akan secara spesifik menolak prompt untuk mengedit orang dengan pakaian terbuka. Agar tidak kecolongan lagi, Elon Musk juga menerapkan teknologi tambahan demi mencegah penyalahgunaan ini.

“Kami telah menerapkan langkah-langkah dan teknologi untuk mencegah Grok mematuhi pengeditan gambar orang dengan pakaian seperti bikini. Pembatasan ini berlaku untuk semua pengguna, termasuk pelanggan berbayar,” kata X dalam pengumuman tersebut.

xAI juga membatasi kemampuan editan di aplikasi maupun percakapan Grok hanya untuk pelanggan berbayar saja.

“Ini menambahkan lapisan perlindungan ekstra dengan membantu memastikan bahwa individu yang mencoba menyalahgunakan akun Grok untuk melanggar hukum atau kebijakan kami dapat dimintai pertanggungjawaban,” tambah X.

Alhasil, pengguna berbayar yang melanggar aturan tersebut akan dikenakan berbagai hukuman termasuk pencabutan akses pada program monetisasi X.

Pengumuman ini muncul setelah X diserbu reaksi tegas global atas gambar seksual yang menargetkan wanita dan anak-anak, termasuk larangan dan peringatan oleh beberapa pemerintah. 

Bukan lagi teguran, xAI berjanji akan memblokir konten jika melanggar hukum di tempat tertentu sesuai dengan lokasi akun mereka.

Grok mode ‘Dewasa’ menjadi celah bagi pengguna untuk membuat konten-konten eksplisit, yang menyebabkan reaksi dari pemerintah di seluruh dunia.

Malaysia dan Indonesia menjadi yang paling awal mengambil tindakan hukum dan memblokir akses ke Grok. Lalu ada California yang juga menindak materi sensual tanpa persetujuan yang diproduksi menggunakan Grok. 

Inggris dan Uni Eropa juga sedang menyelidiki potensi pelanggaran undang-undang keamanan online yang dilakukan oleh Grok. Prancis dan India juga telah mengeluarkan peringatan, menuntut kontrol yang lebih ketat kepada X dan xAI. Kemudian ada Brasil yang menyerukan penyelidikan atas penyalahgunaan Grok.

“Fungsi pengeditan Grok memfasilitasi produksi skala besar gambar intim nonconsensual deepfake yang digunakan untuk melecehkan wanita dan anak perempuan di internet, termasuk melalui platform media sosial X,” kata pihak berwenang dari California.

Mereka melanjutkan bahwa pemerintah California memiliki toleransi nol untuk pembuatan berbasis AI dan penyebaran gambar intim nonkonsensual atau materi pelecehan seksual anak.