Penulis: Jacobus E Lato | Editor: Yobie Hadiwijaya
KREDONEWS.COM, JAKARTA-Sejumlah negara dari Benua Asia (termasuk Indonesia) hingga Eropa jengah dengan kasus konten pornografi yang diproduksi platform AI, Grok, milik Elon Musk, hasil teknologi generating sebuah foto atau video.
Dalam perkembangannya pemerintah Inggris tengah mendesak Elon Musk untuk mengatasi persoalan ini karena telah banyak bukti, bahkan, banyak gambar anak-anak sensual tersebar hasil tool AI Grok.
Perdana Menteri Inggris Keir Starmer menyebut apa yang dihasilkan Grok AI sebagai cara “memalukan, menjijikkan,” ucap dia dalam laporan Bloomberg News, dikutip Jumat (9/1/2025).
“Kami akan mengambil tindakan atas hal ini karena ini benar-benar tidak dapat ditoleransi,” tambahnya, menggambarkan gambar-gambar tersebut sebagai “ilegal.” Dalam sebuah laporan terpisah disebutkan banyak ada ribuan konten bermuatan pornografi dihasilkan setiap jamnya.
Internet Watch Foundation, sebuah lembaga pengawas di Inggris telah menemukan konten sejenis dan melaporkannya kepada aparat penegak hukum. Mereka menyebutnya sebagai konten “kriminal” yaitu anak perempuan usia 11 hingga 13 tahun dan tersebar di dark web.
Kemampuan tool AI Grok memiliki risiko menggiring tindakan serupa ke arus utama, disampaikan Ngaire Alexander, kepala layanan pengaduan IWF, dilaporkan Bloomberg News.
IWF jadi bagian dari pemerintahan Inggris yang diberi kewenangan mengidentifikasi dan mengklasifikasikan materi pelecehan seksual anak. Keputusan lembaga ini memicu penghapusan wajib konten serta memberikan klasifikasi yang dibutuhkan oleh lembaga penegak hukum untuk mengejar pelaku kejahatan.
Para ahli keselamatan anak kini justru khawatir bahwa pengguna menggunakan platforms dan situs Grok untuk menghasilkan materi yang lebih ekstrem secara pribadi dan membagikannya.
Anggota dark web menjelaskan bahwa gambar bermuatan pornografi mereka hasilkan melalui tool Grok Imagine, untuk kemudian memprosesnya kembali melalui platform AI lain yang tidak teridentifikasi. Artinya dampak merugikan ini “menyebar luas,” kata Alexander.
Grok AI Terancam Blokir di Indonesia
Dirjen Pengawasan Ruang Digital Kemkomdigi RI Alexander Sabar menyatakan pihaknya sudah mengidentifikasi kemampuan Grok AI memproduksi dan menyebarkan konten asusila.
Dugaan penyalahgunaan tool AI Grok di platform X — keduanya milik Elon Musk — termasuk tindakan pelanggaran serius atas privasi dan hak citra diri (right to one’s image). Sabar menyebut Grok AI belum mempunyai pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi.
Penegak hukum dari Bareskrim Polri menegaskan penyalahgunaan AI, termasuk juga diduga dilakukan Grok, bisa berpotensi terkena hukum pidana. Direktur Tindak Pidana Siber Brigjen Pol Himawan Bayu Aji menyinggung jenis perbuatan tersebut masuk dalam tindakan manipulasi data elektronik.
Perkembangan teknologi AI harus memiliki batasan yaitu tidak boleh disalahgunakan untuk aktivitas menyimpang hingga merugikan masyarakat. “Perkembangan teknologi saat ini mengarah pada artificial intelligence, termasuk deepfake. Dalam praktiknya, teknologi ini kerap disalahgunakan untuk membuat konten negatif, palsu, dan manipulasi visual,” urai Aji.
