Beberapa unggahan tersebut meraih jutaan tayangan. Di X, kreator konten tertentu mendapatkan insentif finansial berdasarkan jumlah interaksi, sehingga memicu produksi konten sensasional.
Dari empat permintaan yang tidak menghasilkan gambar, satu tidak dijawab sama sekali. Dalam kasus lain, Grok menyatakan bahwa pengeditan gambar berada di luar kemampuannya atau hanya tersedia bagi pelanggan premium terverifikasi.
Sejak Januari, X memang membatasi sebagian fitur pembuatan gambar Grok untuk pelanggan berbayar, menyusul kontroversi terkait penggunaan AI untuk membuat gambar manipulatif, termasuk pelecehan seksual digital (deepfake).
Setelah 6 Februari, terpantau adanya pengamanan tambahan. Dari 16 permintaan baru yang ditemukan antara 7–9 Februari, Grok tidak lagi mencoba membuka sensor. Dalam sebagian besar kasus, chatbot tidak memberikan respons, sementara dalam dua kasus lainnya Grok menghasilkan gambar yang sama sekali berbeda dari gambar asli.
Dalam salah satu tanggapan, Grok menyatakan tidak dapat membuka sensor karena identitas anak di bawah umur dilindungi secara etis dan hukum, serta menyarankan pengguna merujuk ke sumber resmi DOJ.
Hingga berita ini ditulis, pihak X belum memberikan pernyataan resmi terkait dugaan penambahan sistem pengamanan tersebut.
AI dan Rekayasa Gambar
Kasus ini bukan kali pertama teknologi AI digunakan untuk merekayasa gambar terkait berkas Epstein. Sejumlah gambar yang beredar di X dan diklaim memperlihatkan Epstein bersama tokoh publik ternama dilaporkan merupakan hasil manipulasi AI.
Beberapa foto asli memang tersedia di situs DOJ, tetapi sejumlah gambar lain terbukti hasil rekayasa digital.
Penggunaan Grok juga sebelumnya menuai kontroversi dalam kasus lain, termasuk upaya mengidentifikasi individu secara keliru dalam insiden penembakan di As. Dalam beberapa contoh, AI menghasilkan wajah palsu dan tuduhan tidak berdasar terhadap individu yang tidak terkait peristiwa tersebut.
Selain itu, Grok sempat menjadi sorotan karena menghasilkan konten seksual eksplisit. Beberapa negara, termasuk Inggris dan Prancis, meluncurkan penyelidikan terhadap chatbot tersebut terkait dugaan pembuatan gambar seksual tanpa persetujuan, termasuk konten yang melibatkan anak di bawah umur.
Malaysia dan Indonesia bahkan sempat memblokir akses Grok karena kekhawatiran terhadap konten pornografi berbasis deepfake.
Komentar (0)
Seluruh isi komentar merupakan tanggung jawab masing-masing pengguna dan berada di luar tanggung jawab redaksi. Komentar yang melanggar hukum akan ditindak sesuai ketentuan peraturan perundang-undangan.