JAKARTA — Pembatasan fitur pembuatan dan penyuntingan gambar pada Grok AI di platform X menjadi sorotan global. Kebijakan yang diambil oleh pemilik X, Elon Musk, dinilai sebagai respons cepat atas maraknya penyalahgunaan kecerdasan buatan untuk membuat konten asusila. Namun, langkah tersebut juga memunculkan perdebatan karena dianggap belum menyentuh akar persoalan, yakni lemahnya sistem pencegahan konten ilegal sejak tahap desain teknologi.
Sejak Jumat, 9 Januari 2026 waktu Amerika Serikat, fitur pembuatan dan edit gambar Grok dibatasi hanya untuk pelanggan berbayar X Premium. Pengguna X versi gratis yang mencoba memerintah Grok melalui unggahan dengan tagar @Grok akan menerima pesan otomatis. Pesan tersebut menyatakan bahwa pembuatan dan penyuntingan gambar hanya tersedia bagi pelanggan berbayar, lengkap dengan tautan menuju halaman langganan.
Pembatasan ini diberlakukan menyusul meningkatnya laporan penggunaan Grok AI untuk menghasilkan gambar pornografi dan konten deepfake. Sejumlah organisasi pemantau keamanan digital menemukan bahwa Grok dimanfaatkan untuk memanipulasi foto individu nyata tanpa persetujuan, termasuk untuk membuat konten asusila. Praktik ini menimbulkan kekhawatiran serius karena berpotensi melanggar privasi, merusak reputasi, serta menimbulkan trauma psikologis bagi korban.
Meski demikian, kebijakan tersebut tidak sepenuhnya menutup akses. Pengguna gratis masih dapat membuat gambar jika membuka tab Grok secara langsung di dalam aplikasi X. Selain itu, aplikasi Grok yang berdiri terpisah dari X juga belum menerapkan pembatasan serupa. Kondisi ini menimbulkan kritik bahwa kebijakan yang diterapkan bersifat parsial dan tidak konsisten.
Reaksi kritis datang dari berbagai negara. Di Inggris, juru bicara pemerintah menyatakan bahwa pembatasan berbasis langganan hanya memindahkan akses ke layanan berbayar, tanpa mencegah pembuatan konten ilegal. Pandangan serupa disampaikan oleh Komisi Eropa yang menegaskan bahwa inti persoalan terletak pada sistem moderasi dan pengamanan teknologi, bukan pada siapa yang membayar layanan.
Di Amerika Serikat, isu ini turut memicu langkah politik. Sejumlah senator dilaporkan mengirimkan surat kepada Apple dan Google untuk meminta evaluasi terhadap keberadaan aplikasi X di toko aplikasi. Permintaan tersebut didasarkan pada dugaan bahwa platform X belum sepenuhnya memenuhi ketentuan distribusi aplikasi terkait keamanan pengguna dan pencegahan konten berbahaya.
Di Indonesia, perhatian serius datang dari Kementerian Komunikasi dan Digital. Komdigi menyatakan telah melakukan penyelidikan awal terhadap Grok AI. Berdasarkan penelusuran sementara, Grok dinilai belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto asli warga Indonesia.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menegaskan bahwa manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan. Menurutnya, praktik tersebut merupakan pelanggaran hak atas citra diri, yaitu hak setiap individu untuk mengendalikan penggunaan identitas visualnya. Pelanggaran ini berpotensi menimbulkan kerugian psikologis, sosial, dan reputasi yang serius.
Komdigi juga menekankan bahwa seluruh Penyelenggara Sistem Elektronik wajib memastikan teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat manusia. Pemerintah saat ini berkoordinasi dengan berbagai PSE untuk memperkuat sistem moderasi konten, mencegah pembuatan deepfake asusila, serta memastikan adanya mekanisme pelaporan dan penanganan cepat bagi korban.
Pemerintah mengingatkan bahwa kepatuhan terhadap hukum nasional bersifat wajib bagi seluruh platform digital yang beroperasi di Indonesia. Jika ditemukan ketidakpatuhan atau sikap tidak kooperatif, sanksi administratif hingga pemutusan akses layanan dapat dijatuhkan. Hal ini termasuk kemungkinan pembatasan atau pemblokiran layanan Grok AI dan platform X.
Sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana pada 2 Januari 2026, konten pornografi dan manipulasi citra pribadi tanpa hak telah diatur secara tegas. Pasal-pasal dalam KUHP baru mengatur definisi pornografi serta ancaman pidana penjara dan denda bagi pihak yang memproduksi atau menyebarkan konten tersebut. Ketentuan ini berlaku bagi pengguna maupun penyedia layanan teknologi.
Kasus Grok AI mencerminkan tantangan besar dalam tata kelola kecerdasan buatan di ruang digital. Pembatasan akses berbasis langganan dinilai belum cukup jika tidak disertai pengamanan teknis yang kuat dan transparan. Di tengah pesatnya perkembangan AI generatif, pemerintah dan perusahaan teknologi dituntut untuk memastikan inovasi berjalan seiring dengan perlindungan privasi, hak asasi manusia, serta kepastian hukum bagi masyarakat luas.
