Prancis dan Malaysia Lakukan Penyelidikan Terhadap Grok Gegara Konten AI Tak Senonoh

Ntvnews.id, Jakarta - Pemerintah Prancis dan Malaysia mengambil langkah tegas dengan mengecam sekaligus menyelidiki chatbot Grok milik perusahaan rintisan kecerdasan buatan (AI) xAI yang didirikan Elon Musk. Tindakan ini dilakukan setelah Grok diketahui memproduksi gambar deepfake bernuansa seksual yang melibatkan perempuan serta anak di bawah umur.

Grok yang terintegrasi dengan platform media sosial X sebelumnya telah menyampaikan permintaan maaf melalui akun resminya terkait insiden konten tidak senonoh yang terjadi pada 28 Desember 2025.

Mengutip laporan Tech Crunch pada Senin, Grok dalam pernyataannya mengakui telah menghasilkan dan menyebarkan gambar berbasis AI yang menampilkan dua anak perempuan berusia sekitar 12 hingga 16 tahun dengan busana yang diseksualisasi, sesuai permintaan pengguna.

“Ini melanggar standar etika dan berpotensi melanggar hukum Amerika Serikat terkait materi pelecehan seksual anak. Ini merupakan kegagalan sistem pengamanan, dan saya menyesal atas dampak yang ditimbulkan,” kata Grok dalam pernyataan tersebut.

Baca Juga: Hak Cipta Berita dan Artificial Intelligence: Tantangan Baru di Era Digital

Grok juga menyampaikan bahwa xAI saat ini tengah melakukan evaluasi dan peninjauan sistem guna mencegah kejadian serupa di masa mendatang.

Meski demikian, permintaan maaf tersebut menuai kritik karena dinilai tidak memiliki kejelasan pertanggungjawaban. Jurnalis teknologi dari Defector, Albert Burneko, menilai Grok bukanlah entitas yang dapat dimintai tanggung jawab secara hukum maupun moral, sehingga pernyataan maaf tersebut dianggap tidak substansial.

Selain itu, laporan media Futurism mengungkapkan bahwa Grok tidak hanya dimanfaatkan untuk membuat konten pornografi tanpa persetujuan, tetapi juga menghasilkan gambar perempuan yang menggambarkan kekerasan serta pelecehan seksual.

Dalam pernyataan terpisah, Elon Musk menegaskan bahwa siapa pun yang menggunakan Grok untuk memproduksi konten ilegal akan menghadapi konsekuensi hukum yang sama seperti apabila mereka secara langsung mengunggah konten ilegal tersebut.

Sejumlah negara pun mulai merespons isu ini. Di Prancis, kantor kejaksaan Paris menyatakan akan melakukan penyelidikan terhadap penyebaran deepfake seksual di platform X. Sementara itu, kantor urusan digital Prancis mengungkapkan bahwa tiga orang menteri telah melaporkan konten yang dinilai melanggar hukum kepada jaksa serta kepada platform pengawasan daring milik pemerintah guna meminta penghapusan segera.

Baca Juga: BPK Luncurkan Artificial Intelligence For Data Analytics, Apa Itu?

Di Malaysia, Komisi Komunikasi dan Multimedia Malaysia (MCMC) menyampaikan keprihatinan serius atas keluhan publik terkait penyalahgunaan teknologi kecerdasan buatan di platform X, khususnya terkait manipulasi digital gambar perempuan dan anak di bawah umur menjadi konten tidak senonoh yang merugikan.

“MCMC saat ini tengah menyelidiki potensi dampak negatif dan pelanggaran yang terjadi di platform X,” demikian pernyataan komisi tersebut.

Langkah yang diambil Prancis dan Malaysia ini mengikuti tindakan serupa dari India. Sebelumnya, Kementerian Teknologi Informasi India mengeluarkan perintah kepada X agar membatasi Grok dalam menghasilkan konten yang bersifat “cabul, pornografi, vulgar, tidak senonoh, eksplisit secara seksual, pedofilik, atau dilarang oleh hukum”.

Pemerintah India memberikan tenggat waktu selama 72 jam kepada X untuk memberikan respons, dengan ancaman pencabutan perlindungan “safe harbor” yang selama ini melindungi platform dari tanggung jawab hukum atas konten yang dibuat oleh pengguna.

(Sumber : Antara)