Di Indonesia, Kementerian Komunikasi dan Digital (Kemkomdigi) menyatakan tengah mendalami kasus tersebut dan membuka kemungkinan sanksi administratif hingga pembatasan akses platform jika tidak kooperatif. Aparat penegak hukum juga menilai manipulasi foto berbasis AI dapat masuk ranah pidana jika memenuhi unsur pelanggaran hukum.
Namun hingga kini, penanganan masih berada pada tahap penyelidikan dan tekanan regulatif. Belum ada langkah tegas yang sepenuhnya menghentikan praktik tersebut.
Kasus JKT48, AI Berujung Ancaman Hukum
Di dalam negeri, penyalahgunaan Grok AI menuai kecaman setelah anggota JKT48 menjadi korban pembuatan konten tidak senonoh. Manajemen JKT48 mengambil sikap tegas dengan mengancam jalur hukum terhadap para pelaku.
Kapten JKT48, Freya Jayawardana, mengungkapkan keresahannya atas maraknya foto anggota yang dimanipulasi menjadi gambar bermuatan pornografi. Praktik tersebut dinilai sebagai bentuk pelecehan dan pelanggaran privasi.
“Apabila dalam waktu 2x24 jam setelah pengumuman ini kami masih menemukan konten tersebut tersebar, maka JKT48 Operation Team akan mendukung penuh langkah hukum dan memfasilitasi pendampingan penasihat hukum hingga proses selesai,” tulis manajemen JKT48 dalam pernyataan resminya di akun X @officialJKT48, Kamis (8/1/2026).
Manajemen juga meminta seluruh pihak yang membuat atau menyebarkan konten tersebut untuk segera menghentikan tindakan dan menghapusnya secara permanen.
Apa Itu Grok AI?
Grok adalah asisten AI yang dikembangkan xAI dan terintegrasi langsung dengan platform X. Berdasarkan laman resmi X, Grok dirancang untuk membantu menjawab pertanyaan, memecahkan masalah, serta mencetuskan ide dengan pendekatan cerdas dan humoris.
Terinspirasi dari The Hitchhiker’s Guide to the Galaxy dan JARVIS dari Iron Man, Grok memiliki kemampuan unik untuk mencari unggahan publik di X atau melakukan pencarian web secara real-time guna merespons pertanyaan pengguna.
Kritik terhadap Grok tidak hanya datang dari Indonesia. Pemerintah Malaysia menyatakan tengah menyelidiki manipulasi gambar perempuan dan anak di bawah umur. India telah mengirimkan surat resmi ke X untuk meninjau Grok agar tidak menghasilkan konten pornografi ilegal.
Sementara itu, Prancis menilai Grok berpotensi melanggar Digital Services Act (DSA) Uni Eropa karena dianggap memfasilitasi penyebaran konten seksual tanpa persetujuan.
Komentar (0)
Seluruh isi komentar merupakan tanggung jawab masing-masing pengguna dan berada di luar tanggung jawab redaksi. Komentar yang melanggar hukum akan ditindak sesuai ketentuan peraturan perundang-undangan.