Bogordaily.net – Pemerintah Indonesia mengambil langkah tegas di tengah pesatnya perkembangan teknologi kecerdasan buatan. Melalui Kementerian Komunikasi dan Digital (Komdigi), akses terhadap layanan chatbot berbasis artificial intelligence (AI) bernama Grok, yang dikembangkan oleh platform X (dulu Twitter), resmi diputus sementara.
Kebijakan ini diterapkan setelah pemerintah mencermati maraknya penyalahgunaan Grok untuk memproduksi konten deepfake bermuatan pornografi.
Teknologi yang sejatinya dirancang sebagai asisten percakapan tersebut dinilai telah disalahgunakan secara masif, hingga menimbulkan ancaman serius bagi keamanan ruang digital nasional.
Pemutusan akses Grok mulai diberlakukan pada Sabtu, 10 Januari 2026. Pemerintah menilai fitur pengolahan gambar dan perintah berbasis AI dalam layanan tersebut berpotensi digunakan untuk menciptakan konten asusila palsu yang menyasar individu tanpa persetujuan, terutama perempuan dan anak-anak.
Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa langkah ini merupakan bentuk kehadiran negara dalam melindungi masyarakat dari ancaman baru di era digital.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya.
Alasan Pemblokiran
Menurut Komdigi, fenomena deepfake seksual nonkonsensual tidak bisa dipandang sebagai pelanggaran etika semata.
Praktik manipulasi visual berbasis AI tanpa izin disebut sebagai bentuk pelanggaran serius terhadap hak asasi manusia, karena merampas hak individu atas identitas dan citra dirinya sendiri.
Konten deepfake dinilai mampu menghancurkan reputasi korban dalam waktu singkat, memicu tekanan psikologis berat, hingga membuka peluang terjadinya perundungan dan pelecehan di ruang publik maupun ruang digital.
Atas dasar itu, pemerintah memilih bertindak cepat sebelum dampak yang ditimbulkan semakin meluas.
Tak hanya menghentikan akses, Komdigi juga telah memanggil perwakilan Platform X untuk dimintai klarifikasi terkait mekanisme pengamanan Grok serta tanggung jawab platform terhadap penyalahgunaan teknologi tersebut di Indonesia.
Langkah pemblokiran sementara ini memiliki pijakan hukum yang jelas. Pemerintah merujuk pada Peraturan Menteri Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat.
Dalam regulasi tersebut ditegaskan bahwa setiap PSE wajib memastikan sistemnya tidak memuat, memfasilitasi, atau menyebarkan konten yang dilarang oleh peraturan perundang-undangan.
Diduga Disalahgunakan untuk Konten Pornografi
Sebelumnya, Grok AI sempat menuai sorotan global setelah banyak pengguna platform X memanfaatkan fitur pengeditan gambar untuk menghasilkan konten pornografi secara instan.
Dalam praktiknya, sejumlah pengguna mengunggah foto perempuan termasuk figur publik dan anak di bawah umur lalu memberikan perintah seperti “pakaikan bikini” atau “lepaskan pakaiannya”.
Menanggapi kritik internasional, perusahaan X milik Elon Musk sempat menyatakan telah membatasi fitur pengeditan gambar Grok hanya untuk pelanggan berbayar X Premium.
Dalam beberapa respons otomatis, Grok juga menyebut bahwa pembuatan dan pengeditan gambar memiliki batasan tertentu.
Namun di lapangan, pembatasan tersebut dinilai belum efektif. Pengguna non-berbayar masih dapat mengakses fitur pengeditan gambar melalui berbagai celah, baik lewat situs resmi X, aplikasi Grok, maupun jalur alternatif lainnya.
Situasi inilah yang akhirnya mendorong pemerintah Indonesia mengambil langkah pemutusan akses sementara. Pemerintah menegaskan bahwa kebijakan ini bersifat preventif dan dapat dievaluasi kembali setelah ada jaminan perlindungan yang memadai terhadap masyarakat dan ruang digital nasional.