Kemkomdigi dan Bareskrim Selidiki Penyalahgunaan Grok AI untuk Konten Asusila

Jakarta, Sinata.di - Pemerintah meningkatkan pengawasan terhadap dugaan penyalahgunaan teknologi kecerdasan buatan Grok AI di platform X, yang diduga dimanfaatkan untuk membuat dan menyebarkan konten bermuatan asusila melalui manipulasi foto pribadi tanpa persetujuan pemiliknya. Langkah ini ditempuh untuk melindungi privasi serta hak atas citra diri masyarakat di ruang digital.

Kementerian Komunikasi dan Digital menyatakan hasil penelusuran awal menemukan belum adanya pengaturan teknis yang tegas dan memadai pada Grok AI guna mencegah pembuatan maupun peredaran konten pornografi berbasis foto asli warga Indonesia.

Kondisi tersebut dinilai membuka celah terjadinya pelanggaran privasi dan penyalahgunaan identitas visual seseorang.

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengatakan celah pengamanan ini berpotensi memicu pelanggaran serius, terutama ketika foto pribadi dimodifikasi atau disebarluaskan tanpa persetujuan sah pemiliknya.

“Dari temuan sementara, belum ada pengaturan khusus yang efektif untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan distribusi konten pornografi berbasis foto pribadi,” ujar Alexander di Jakarta, Rabu (7/1/2026).

Kemkomdigi menilai praktik manipulasi digital terhadap foto personal tidak hanya menyentuh aspek kesusilaan, tetapi juga merupakan bentuk pengambilalihan kendali individu atas identitas visualnya.

Dampaknya dapat meluas, mulai dari tekanan psikologis, stigma sosial, hingga kerusakan reputasi korban.

Untuk menutup celah tersebut, Kemkomdigi saat ini memperkuat koordinasi dengan para Penyelenggara Sistem Elektronik (PSE). Upaya yang dilakukan meliputi penguatan moderasi konten, pencegahan pembuatan deepfake bermuatan seksual, serta penerapan mekanisme penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.

Alexander menegaskan, setiap PSE bertanggung jawab memastikan teknologi yang mereka sediakan tidak disalahgunakan sebagai sarana pelanggaran privasi, eksploitasi seksual, atau perusakan martabat seseorang.

Pemerintah juga mengingatkan bahwa seluruh PSE yang beroperasi di Indonesia wajib mematuhi peraturan perundang-undangan nasional. Ketidakpatuhan atau sikap tidak kooperatif dapat berujung pada sanksi administratif hingga pembatasan atau pemutusan akses layanan Grok AI maupun platform X.

Selain sanksi administratif, Kemkomdigi menegaskan bahwa penyedia layanan kecerdasan buatan maupun pengguna yang terbukti memproduksi atau menyebarkan konten pornografi serta manipulasi citra pribadi tanpa hak dapat dijerat sanksi pidana sesuai ketentuan hukum yang berlaku.