The Indonesia Times- Wacana pemblokiran Grok AI dan platform X kembali menguat setelah muncul temuan maraknya produksi serta penyebaran konten pornografi berbasis kecerdasan buatan. Komisi I DPR RI menilai lemahnya pengawasan dan moderasi konten pada teknologi tersebut berpotensi menimbulkan pelanggaran serius terhadap hukum, etika, dan hak privasi warga negara.
Anggota Komisi I DPR RI dari Fraksi PKB, Syamsu Rizal, menyatakan dukungannya terhadap langkah Kementerian Komunikasi dan Digital (Komdigi) yang membuka opsi pemblokiran jika platform terkait tidak segera melakukan pembenahan. Menurutnya, kemampuan Grok AI dalam memanipulasi foto menjadi konten asusila menunjukkan adanya celah berbahaya dalam tata kelola teknologi digital.
“Ini bukan sekadar soal kebebasan berekspresi. Ketika AI bisa mengubah wajah seseorang menjadi konten pornografi hanya dengan perintah teks, maka negara tidak boleh diam,” kata Syamsu Rizal, Jumat (9/1/2026).
Legislator yang akrab disapa Daeng Ical itu menilai, absennya sistem moderasi yang ketat membuka ruang penyalahgunaan teknologi secara masif. Ia mengingatkan bahwa korban manipulasi visual berbasis AI tidak hanya mengalami kerugian reputasi, tetapi juga tekanan psikologis dan sosial.
“Teknologi seharusnya melindungi manusia, bukan justru menjadi alat eksploitasi. Jika platform tidak mampu mengendalikan produknya, maka sanksi tegas, termasuk pemutusan akses, adalah langkah yang sah,” tegasnya.
Daeng Ical juga menyoroti potensi preseden buruk jika negara membiarkan praktik tersebut terus berlangsung. Menurutnya, pembiaran akan memperlemah posisi hukum Indonesia dalam mengatur ruang digital yang sehat dan aman.
“Negara punya kewajiban konstitusional melindungi warga dari kejahatan digital, termasuk pornografi dan pelanggaran privasi berbasis AI,” ujarnya.
Sementara itu, Kementerian Komunikasi dan Digital menegaskan bahwa Grok AI dan platform X berada dalam pengawasan ketat. Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menyatakan bahwa X sebagai Penyelenggara Sistem Elektronik (PSE) wajib tunduk pada hukum nasional.
“Jika tidak patuh dan kooperatif, sanksi administratif hingga pemblokiran akses dapat dilakukan,” kata Alexander.
Ia menambahkan, baik penyedia layanan AI maupun pengguna yang terbukti memproduksi atau menyebarkan konten pornografi, termasuk manipulasi citra pribadi tanpa izin, dapat dijerat sanksi pidana sesuai peraturan perundang-undangan.
Kasus ini menambah daftar panjang tantangan pengawasan teknologi kecerdasan buatan di Indonesia. Di tengah pesatnya perkembangan AI, pemerintah dan DPR dihadapkan pada urgensi memperkuat regulasi agar inovasi digital tidak berubah menjadi ancaman sosial.
