Komdigi Blokir Grok AI Milik X karena Risiko Konten Deepfake Seksual

Ntvnews.id, Jakarta - Pemerintah mengambil langkah tegas dengan menghentikan sementara akses ke aplikasi Grok, chatbot berbasis kecerdasan artifisial yang terintegrasi dengan platform X milik Elon Musk. Kebijakan ini diambil menyusul temuan potensi penyalahgunaan teknologi AI untuk membuat konten pornografi palsu berbasis foto asli masyarakat.

Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa negara tidak mentoleransi praktik deepfake seksual nonkonsensual karena dinilai melanggar hak asasi manusia dan mengancam keamanan warga di ruang digital.

“Pembuatan dan penyebaran deepfake seksual tanpa persetujuan merupakan pelanggaran serius terhadap martabat dan hak dasar setiap orang,” ujar Meutya dalam pernyataan resmi, Sabtu (10/1/2026).

Selain melakukan pemutusan akses, Kementerian Komunikasi dan Digital juga meminta pihak platform X untuk segera memberikan penjelasan resmi terkait dampak penggunaan Grok terhadap keselamatan pengguna, khususnya perempuan dan anak.

Baca Juga: Persija Matangkan Taktik Jelang Tandang ke Markas Persib

Langkah ini dilakukan berdasarkan kewenangan pemerintah sebagaimana diatur dalam Peraturan Menteri Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Aturan tersebut mewajibkan setiap platform digital memastikan layanannya tidak memuat atau memfasilitasi konten yang melanggar hukum.

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan hasil penelusuran awal menunjukkan Grok AI belum dilengkapi pengamanan yang memadai untuk mencegah pembuatan dan distribusi konten pornografi berbasis foto asli warga Indonesia.

Menurutnya, ketiadaan pengaturan spesifik ini membuka celah pelanggaran privasi, terutama ketika gambar seseorang dimanipulasi dan disebarkan tanpa persetujuan.

“Teknologi ini berisiko besar disalahgunakan karena belum ada mekanisme perlindungan yang cukup terhadap hak citra diri dan privasi individu,” jelas Alexander.

Sebelumnya, pemerintah telah menyoroti penggunaan Grok yang diduga dimanfaatkan untuk memproduksi dan menyebarkan konten asusila di dalam platform X. Pemutusan akses sementara ini menjadi bagian dari upaya pemerintah memperkuat pengawasan terhadap pemanfaatan AI agar tidak merugikan masyarakat.

Kemkomdigi menegaskan bahwa inovasi teknologi tetap didukung, namun harus berjalan seiring dengan tanggung jawab, etika, dan perlindungan hukum bagi pengguna di ruang digital.