HitzSerpong – Kementerian Komunikasi dan Digital (Kemkomdigi) tengah menyelidiki dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi tanpa persetujuan pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menyatakan hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan eksplisit untuk mencegah pembuatan konten pornografi berbasis foto nyata warga Indonesia.
Hal ini berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image).
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Ini berisiko menimbulkan pelanggaran serius,” ujar Alexander dikutip dari laman resmi Komdigi RI, Kamis (8/1/2026).
Komdigi menilai manipulasi digital foto pribadi bukan hanya persoalan kesusilaan, tetapi juga bentuk perampasan kendali individu atas identitas visualnya yang dapat menimbulkan kerugian psikologis dan reputasi.
**Baca Lainnya: DPR RI Minta Pengembang Gim Patuhi Aturan Lindungi Anak dari Konten Kekerasan
Alexander menegaskan pihaknya kini sedang berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan mekanisme perlindungan yang efektif, termasuk penguatan moderasi konten, pencegahan deepfake asusila, serta prosedur penanganan laporan yang cepat.
Komdogi juga mengingatkan kewajiban kepatuhan terhadap hukum Indonesia bagi seluruh PSE yang beroperasi di Tanah Air.
Jika ditemukan ketidakpatuhan, sanksi administratif hingga pemutusan akses layanan dapat dijatuhkan.
Sejak berlakunya KUHP baru (UU No. 1 Tahun 2023), konten pornografi diatur dalam Pasal 172 dan Pasal 407, dengan ancaman pidana penjara hingga 10 tahun.
Masyarakat yang menjadi korban manipulasi foto atau deepfake asusila dapat menempuh upaya hukum, termasuk melaporkan ke aparat penegak hukum dan mengadukan ke Kominfo.
“Kami mengimbau seluruh pihak menggunakan teknologi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum,” tutupnya.(eka)
