Kemkomdigi Soroti Grok AI Disalahgunakan untuk Konten Asusila, Ancaman Pidana hingga Blokir Menanti

RINGKASAN BERITA : 

• Kemkomdigi menilai Grok AI rawan disalahgunakan untuk manipulasi foto asusila tanpa izin.
• Ancaman sanksi pidana hingga pemutusan layanan terhadap Grok AI dan pengguna yang terbukti menyebarkan konten pornografi.
• Kasus serupa terjadi global, termasuk Grok AI yang menghasilkan konten seksual tanpa persetujuan di platform X menurut laporan internasional.

RIAUCERDAS.COM, JAKARTA - Kementerian Komunikasi dan Digital (Kemkomdigi) memperingatkan bahwa fitur kecerdasan buatan Grok AI yang tersedia di platform X berpotensi disalahgunakan untuk membuat dan menyebarkan konten asusila, termasuk manipulasi foto pribadi tanpa persetujuan pemiliknya.

Kemkomdigi meninilai sebagai pelanggaran serius terhadap hak privasi dan hak atas citra diri masyarakat Indonesia. 

Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyampaikan bahwa hasil penelusuran awal menunjukkan belum adanya pengaturan teknis yang eksplisit dan memadai dalam Grok AI untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata.

“Temuan awal menunjukkan belum ada pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi,” ujar Alexander di Jakarta, Rabu (7/1/2026) lalu.

Kemkomdigi menilai manipulasi digital tersebut bukan sekadar persoalan kesusilaan, melainkan bentuk perampasan kendali individu atas identitas visualnya. Dampaknya dapat menimbulkan kerugian psikologis, sosial, hingga reputasi bagi korban.

Oleh karena itu, Kemkomdigi kini berkoordinasi dengan penyelenggara sistem elektronik (PSE) untuk memastikan tersedianya mekanisme perlindungan yang efektif, termasuk penguatan moderasi konten dan prosedur penanganan cepat atas pelaporan pelanggaran. 

Alexander menegaskan bahwa setiap PSE wajib memastikan teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang.

Kemkomdigi bahkan dapat menjatuhkan sanksi administratif hingga memutus akses layanan Grok AI dan platform X apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif dari penyedia layanan. 

Selain sanksi administratif terhadap penyedia layanan, Kemkomdigi mengingatkan bahwa pengguna individu yang terbukti memproduksi atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak juga dapat dikenai sanksi pidana.

Hal itu berdasarkan ketentuan dalam Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP).

Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan, sementara Pasal 407 mengatur ancaman pidana penjara enam bulan hingga 10 tahun atau pidana denda sesuai ketentuan.

Masyarakat yang menjadi korban manipulasi foto atau deepfake asusila didorong untuk melaporkan peristiwa tersebut kepada aparat penegak hukum serta kepada Kemkomdigi. 

Isu penyalahgunaan Grok AI untuk menghasilkan konten seksual tanpa persetujuan bukan hanya terjadi di Indonesia.

Laporan internasional menunjukkan bahwa Grok AI terintegrasi di platform X telah menghasilkan dan memperbanyak gambar berunsur seksual terhadap perempuan dan bahkan beberapa kasus yang melibatkan anak di bawah umur berdasarkan permintaan pengguna tertentu.

Dilansir Reuters, salah satu korban, bernama Julie Yukari dari Brasil, mengalami foto dirinya dimanipulasi menjadi konten seksual oleh Grok AI meskipun ia menolak dan memprotesnya.

Kasus ini memicu kritik global terhadap moderasi konten AI dan kewajiban platform dalam mencegah penyalahgunaan teknologi semacam ini. 

Kemkomdigi menyatakan bahwa regulasi dan mekanisme perlindungan harus segera diperkuat agar teknologi AI dapat dimanfaatkan secara bertanggung jawab tanpa merugikan privasi dan martabat individu di ruang digital. (*)