Miris! Grok AI Malah Produksi Konten Porno, DPR RI Tegaskan Negara Wajib Lindungi Warganya

Jakarta, tvOnenews.com - DPR RI menyoroti maraknya penyalahgunaan teknologi kecerdasan buatan untuk memproduksi dan menyebarkan konten pornografi di platform digital, termasuk melalui Grok AI yang terintegrasi dengan media sosial X.

Hal tersebut disampaikan Anggota Komisi I DPR RI dari Fraksi Partai Kebangkitan Bangsa (PKB), Syamsu Rizal.

Ia mendukung langkah Kementerian Komunikasi dan Digital (Komdigi) yang mengancam akan memblokir Grok AI dan platform X apabila tidak mampu mengendalikan penyalahgunaan layanan mereka.

Politikus yang akrab disapa Daeng Ical itu menilai kemampuan Grok AI dalam memanipulasi foto atau gambar seseorang hingga menjadi konten asusila merupakan ancaman serius, terlebih karena dinilai belum memiliki sistem moderasi konten yang memadai.

“Selama ini kita melihat Grok AI di platform X dimanfaatkan oleh pengguna untuk mengubah foto atau gambar seseorang menjadi konten asusila. Dengan permintaan yang spesifik, Grok AI dapat menuruti instruksi tersebut. Ini jelas berbahaya,” ujar Daeng Ical, Kamis (8/1/2026).

Ia menegaskan, penyalahgunaan kecerdasan buatan tanpa pengawasan yang ketat tidak hanya merugikan individu yang menjadi korban, tetapi juga berdampak pada tatanan sosial dan moral masyarakat.

Baca Juga

Pembahasan Perpres Ojol Tinggal Satu Langkah Lagi: DPR Undang Kementerian Terkait Pekan Depan

“Jika Grok AI dan platform X tidak mampu mengendalikan sistemnya dan tetap membiarkan produksi serta penyebaran konten pornografi, maka Komdigi harus bersikap tegas dengan memblokirnya,” tegasnya.

Menurut Daeng Ical, negara memiliki kewajiban untuk melindungi masyarakat dari dampak negatif teknologi digital, khususnya yang berkaitan dengan eksploitasi, pornografi, dan pelanggaran privasi.

“Langkah tegas ini penting karena jika dibiarkan, penggunaan AI yang tidak bertanggung jawab akan sangat membahayakan dan merusak moral bangsa,” pungkasnya.

Sebelumnya, Kementerian Komdigi menyatakan Grok AI dan platform X berpotensi dikenakan sanksi administratif hingga pemutusan akses jika tidak patuh dan kooperatif terhadap ketentuan yang berlaku di Indonesia.

Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menegaskan bahwa platform X sebagai Penyelenggara Sistem Elektronik (PSE) wajib mematuhi peraturan perundang-undangan nasional.

Ia menambahkan, penyedia layanan kecerdasan buatan maupun pengguna yang terbukti memproduksi dan atau menyebarkan konten pornografi, termasuk manipulasi citra pribadi tanpa hak, dapat dikenakan sanksi administratif dan atau pidana sesuai ketentuan hukum yang berlaku. (rpi/iwh)