Grok AI Resmi Diblokir Komdigi usai Konten Asusila Merebak di X  

JATIMTIMES - Pemerintah akhirnya mengambil langkah tegas menyikapi maraknya penyalahgunaan kecerdasan buatan (AI) untuk konten asusila. Kementerian Komunikasi dan Digital (Komdigi) resmi memutus sementara akses Grok, layanan chatbot berbasis AI milik platform X (sebelumnya Twitter), mulai Sabtu (10/1/2026).

Pemblokiran ini dilakukan menyusul merebaknya praktik pembuatan konten pornografi palsu atau deepfake yang menyasar perempuan dan anak. Pemerintah menilai, fenomena tersebut sudah masuk kategori darurat dan berpotensi menimbulkan dampak serius bagi korban.

Baca Juga : Cara Registrasi SIM Card Biometrik 2026, Aktivasi Nomor HP Kini Pakai Pengenalan Wajah

Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa keputusan tersebut diambil demi melindungi masyarakat dari risiko penyalahgunaan teknologi AI.

"Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok," tegas Meutya Hafid dikutip dalam pernyataan resminya, Sabtu (10/1/2026).

Komdigi menilai praktik deepfake seksual nonkonsensual adalah pelanggaran serius terhadap hak asasi manusia, terutama hak atas identitas visual seseorang atau right to one’s image.

Dampaknya tidak main-main. Mulai dari tekanan psikologis, kerusakan reputasi sosial, hingga potensi pelecehan berkelanjutan di ruang publik digital menjadi alasan pemerintah bergerak cepat. Selain memblokir akses Grok, Komdigi juga telah memanggil pihak Platform X untuk memberikan klarifikasi terkait dampak negatif layanan tersebut.

Langkah pemutusan akses ini mengacu pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Dalam Pasal 9, setiap PSE diwajibkan memastikan sistemnya tidak memuat, memfasilitasi, atau menyebarluaskan konten terlarang.

Tak hanya platform, pengguna yang membuat atau menyebarkan konten deepfake asusila juga berpotensi dijerat hukum pidana. Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menegaskan manipulasi data elektronik tanpa izin merupakan tindak kriminal.

"Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik, maka itu menjadi suatu hal yang dipidana," ujar Himawan. 

Baca Juga : PP Tunas Batasi Akses Digital untuk Anak, Puguh DPRD Jatim: Solusi Tekan Cyberbullying

Ancaman pidana ini berlaku bagi pengguna Grok maupun aplikasi AI lain yang disalahgunakan untuk tujuan serupa.

Sebelum diblokir Komdigi, fitur Grok AI memang telah menuai sorotan. Chatbot ini dinilai mampu memproduksi konten pornografi secara instan. Sejumlah pengguna X memanfaatkan fitur tersebut dengan mengunggah foto perempuan, termasuk figur publik dan anak-anak, disertai perintah seperti “pakaikan dia bikini” atau “lepaskan pakaiannya.”

Merespons kritik global, X sempat membatasi fitur edit foto Grok dengan mengklaim hanya bisa diakses oleh pelanggan berbayar X Premium.

"Pembuatan dan pengeditan gambar saat ini terbatas untuk pelanggan berbayar. Anda dapat berlangganan untuk mengakses fitur-fitur tersebut," tulis Grok dalam postingannya di X.

Namun pembatasan itu dinilai belum efektif. Pasalnya, pengguna gratisan masih bisa mengedit gambar melalui berbagai celah, seperti tombol Edit image di versi desktop maupun aplikasi X, serta lewat akses Grok di situs dan aplikasi mandiri. Kondisi ini membuat potensi penyalahgunaan tetap terbuka lebar.