Penyalahgunaan Grok AI Dinilai Langgar Data Pribadi, DPR Desak Platform Bertanggung Jawab

Jakarta, tvOnenews.com - Maraknya penyalahgunaan teknologi kecerdasan buatan (artificial intelligence/AI) untuk memproduksi dan menyebarkan konten pornografi berbasis foto atau video orang lain tanpa persetujuan memicu kekhawatiran soal pelindungan data pribadi di ruang digital.

Anggota Komisi I DPR RI, Amelia Anggraini menilai praktik tersebut merupakan pelanggaran serius terhadap hak privasi dan data pribadi warga. 

Menurutnya, manipulasi identitas visual ke dalam konten asusila tanpa izin tidak dapat ditoleransi dan harus menjadi perhatian pemerintah.

“Pemrosesan identitas visual untuk konten seksual tanpa dasar hukum yang sah harus diperlakukan sebagai pelanggaran serius terhadap data pribadi,” ujar Amelia, Minggu (11/1/2026).

Legislator Fraksi Partai NasDem itu merujuk pada pernyataan Kementerian Komunikasi dan Digital melalui Direktorat Jenderal Pengawasan Ruang Digital yang menyebutkan bahwa hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi pornografi berbasis foto nyata.

Ia menilai kondisi tersebut menunjukkan lemahnya sistem pengamanan pada platform kecerdasan buatan. 

Karena itu, Amelia meminta pemerintah bersikap proaktif dan tidak menunggu hingga kasus serupa meluas atau menjadi viral.

Menurutnya, negara wajib hadir melindungi warga di ruang digital melalui kebijakan yang tegas, terukur, dan dapat diawasi publik. 

Ia juga mendorong Kementerian Komunikasi dan Digital untuk menagih kepatuhan penyelenggara sistem elektronik, termasuk penyedia layanan AI, dengan standar yang jelas dan dapat diuji.

Selain itu, Amelia menekankan pentingnya tanggung jawab platform digital dalam mencegah penyalahgunaan teknologi. 

Standar kepatuhan, kata dia, harus mencakup pencegahan sejak tahap desain sistem serta mekanisme moderasi konten yang transparan dan dapat diaudit.

“Jika platform AI lain bisa memasang pagar pengaman dan pembatasan yang jelas, tidak ada alasan Grok AI tidak melakukan hal yang sama,” tegasnya.

Terkait penegakan hukum, Amelia mengingatkan bahwa ruang digital tidak berada di luar hukum. 

Ia menyebut ketentuan pidana dalam KUHP Nasional yang berlaku sejak 2 Januari 2026 juga mengatur soal pornografi.

Sebagai bagian dari fungsi pengawasan DPR, Amelia memastikan Komisi I DPR RI akan mengawal penanganan penyalahgunaan AI agar menghasilkan perlindungan nyata bagi korban dan mendorong kepatuhan tegas dari platform digital. (rpi/iwh)