TERASJABAR.ID – Anggota Komisi I DPR RI, Amelia Anggraini, menilai pemanfaatan teknologi kecerdasan buatan Grok AI untuk membuat dan menyebarkan konten pornografi, terutama yang menggunakan foto atau video orang nyata tanpa izin, sebagai pelanggaran berat terhadap martabat manusia, hak privasi, serta pelindungan data pribadi.
Amelia menegaskan bahwa manipulasi wajah, foto, atau identitas visual seseorang ke dalam konten asusila tanpa persetujuan tidak dapat dipandang sebatas persoalan moral.
Praktik tersebut, menurutnya, sudah masuk kategori kekerasan berbasis teknologi yang berpotensi menimbulkan dampak psikologis, sosial, hingga merusak reputasi korban.
“Ketika identitas visual seseorang dimanipulasi tanpa izin untuk konten asusila, itu merupakan bentuk perampasan hak individu atas citra dirinya” tegas Amelia, sebagaimana ditulis Parlementaria pada Jumat (9/1/2026).
Temuan awal Kementerian Komunikasi dan Digital melalui Direktorat Jenderal Pengawasan Ruang Digital juga menunjukkan Grok AI belum memiliki pengaturan yang jelas dan memadai untuk mencegah produksi serta penyebaran pornografi berbasis foto nyata.
Hal ini, kata Amelia, harus menjadi perhatian serius pemerintah.
Ia mendorong Kemkomdigi untuk bersikap aktif dan tidak menunggu kasus menjadi viral.
Negara, menurutnya, wajib hadir melindungi warga di ruang digital melalui kebijakan yang tegas, terukur, dan dapat diawasi publik.
Dalam kerangka Undang-Undang Pelindungan Data Pribadi, Amelia menekankan bahwa wajah, foto, dan video termasuk data pribadi yang tidak boleh diproses tanpa dasar hukum yang sah.
Amelia juga meminta penguatan standar kepatuhan Penyelenggara Sistem Elektronik dan penyedia AI, termasuk pencegahan sejak tahap desain sistem, mekanisme pelaporan yang efektif, serta takedown cepat.
Ia menegaskan bahwa hukum pidana nasional juga berlaku di ruang digital, dan Komisi I DPR RI akan terus mengawal penanganan kasus serupa agar korban terlindungi dan platform patuh terhadap aturan.-***
