Grok AI Disorot: Selfie Bisa Jadi Konten Asusila, Regulator Bergerak

Pematangsiantar, Sinata.id — Media sosial yang selama ini menjadi ruang berekspresi, berbagi cerita, hingga membangun personal branding, kini justru menimbulkan rasa waswas.

Di platform X, pengguna mulai berpikir dua kali sebelum mengunggah foto, bahkan sekadar swafoto paling sederhana.

Kekhawatiran ini muncul seiring maraknya penyalahgunaan teknologi kecerdasan buatan (AI) untuk memanipulasi foto pengguna menjadi gambar tidak pantas tanpa persetujuan. Fenomena tersebut ramai diperbincangkan setelah muncul gelombang kasus yang melibatkan Grok AI, chatbot berbasis AI milik perusahaan xAI yang terintegrasi langsung dengan platform X.

Meski gambar yang dihasilkan bukan foto asli korban, praktik ini dinilai tetap berbahaya karena menyentuh ranah pelecehan siber, pelanggaran privasi, dan penyalahgunaan identitas digital.

Modus penyalahgunaan Grok terbilang sederhana namun meresahkan. Pelaku cukup mengambil foto dari akun publik atau unggahan pengguna, lalu membalasnya dengan perintah (prompt) tertentu. Dalam hitungan detik, Grok dapat menghasilkan gambar baru yang memanipulasi visual korban, mulai dari sekadar lelucon hingga konten bernuansa seksual atau asusila.

Hasil gambar buatan AI tersebut langsung muncul di kolom komentar dan dapat dilihat, disukai, dikomentari, bahkan dibagikan ulang. Meski berlabel “AI-generated”, visual tersebut tetap mengaitkan identitas seseorang dengan konten tidak pantas tanpa izin.

Pelecehan Siber Berkedok Teknologi

Praktik ini banyak dikategorikan sebagai pelecehan berbasis gambar (image-based abuse). Dampaknya tidak hanya psikologis, tetapi juga sosial dan reputasi digital korban. Wajah, tubuh, hingga persona daring seseorang dijadikan bahan candaan atau fantasi seksual pihak lain.

Kelompok paling rentan terdampak adalah perempuan dan anak-anak, seiring tingginya objektifikasi tubuh di ruang digital. Dalam konteks ini, AI berubah menjadi alat yang berbahaya ketika tidak dibarengi sistem pengamanan dan etika yang kuat.

Hingga kini, perlindungan terhadap pengguna dinilai masih minim. Sistem pengaman (guardrails) dan pembatasan perintah AI disebut belum efektif mencegah penyalahgunaan. AI yang seharusnya meningkatkan produktivitas justru dibiarkan beroperasi di area abu-abu, tanpa mekanisme perlindungan yang jelas bagi korban.

Kasus ini menarik perhatian regulator di berbagai negara, termasuk Inggris, Australia, Prancis, India, Malaysia, hingga Indonesia. Otoritas setempat mulai menyelidiki dugaan pelanggaran terkait manipulasi foto non-konsensual dan konten asusila berbasis AI.