Pemblokiran sementara Grok AI oleh Kementerian Komunikasi dan Digital menandai babak baru dalam pengawasan teknologi kecerdasan buatan di Indonesia. Langkah ini diambil setelah layanan AI tersebut disalahgunakan untuk membuat konten asusila melalui rekayasa foto atau deepfake tanpa izin pihak yang menjadi objek.
Pemerintah menilai praktik tersebut sebagai ancaman nyata bagi keamanan dan martabat warga di ruang digital. Teknologi yang awalnya dirancang untuk membantu kreativitas dan produktivitas justru dimanfaatkan untuk menghasilkan konten pornografi palsu yang berpotensi merugikan banyak pihak.
Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa pemutusan akses ini dilakukan sebagai langkah perlindungan. Pemerintah menempatkan keselamatan masyarakat, khususnya perempuan dan anak, sebagai prioritas utama dalam pengambilan kebijakan tersebut.
Gambaran Pemblokiran di Lapangan
Pantauan di berbagai wilayah menunjukkan bahwa akses ke Grok AI mengalami pembatasan dengan pola yang tidak seragam. Sejumlah pengguna melaporkan tidak dapat membuka Grok.com maupun domain X.AI dan diarahkan langsung ke laman Trustpositif. Pada aplikasi mandiri Grok AI, muncul pemberitahuan kesalahan saat layanan dicoba diakses.
Namun, pada jaringan tertentu, akses ke situs Grok masih terbuka. Selain itu, fitur Grok yang terintegrasi di platform X masih dapat digunakan melalui tab khusus. Untuk fitur pembuatan gambar melalui mention atau penandaan akun @Grok, akses dilaporkan terbatas bagi pelanggan X Premium.
Situasi ini menunjukkan bahwa penerapan pemutusan akses secara teknis masih menghadapi tantangan. Perbedaan kebijakan dan kesiapan antar penyedia layanan internet menyebabkan pemblokiran belum sepenuhnya efektif.
Landasan Aturan yang Diterapkan
Pemblokiran Grok AI didasarkan pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Dalam regulasi tersebut, penyelenggara diwajibkan memastikan sistem yang dikelola tidak memfasilitasi atau menyebarkan konten terlarang.
Menurut Komdigi, penyalahgunaan fitur AI Grok untuk membuat konten asusila telah melanggar prinsip dasar perlindungan pengguna. Oleh karena itu, pemutusan akses sementara dinilai sebagai langkah yang sah dan diperlukan sambil menunggu klarifikasi dari pengelola layanan.
Deepfake dan Dampak Nyata bagi Korban
Deepfake seksual nonkonsensual dipandang sebagai bentuk pelanggaran serius terhadap hak asasi manusia. Dengan teknologi ini, wajah seseorang dapat ditempelkan ke tubuh lain dalam gambar atau video bermuatan pornografi, sehingga sulit dibedakan dari konten asli.
Dampaknya tidak hanya terjadi di dunia maya. Korban berpotensi mengalami tekanan psikologis, kerusakan reputasi, hingga gangguan dalam kehidupan sosial dan profesional. Dalam beberapa kasus global, deepfake juga digunakan sebagai alat pemerasan atau intimidasi.
Pemerintah menilai bahwa pembiaran terhadap praktik semacam ini dapat menciptakan rasa tidak aman di ruang digital. Kepercayaan publik terhadap teknologi visual pun terancam, karena semakin sulit membedakan antara konten asli dan hasil rekayasa.
Tanggung Jawab Pengembang AI
Grok AI dikembangkan oleh xAI, perusahaan teknologi yang didirikan oleh Elon Musk. Hingga saat ini, pemerintah Indonesia masih menunggu klarifikasi resmi terkait langkah pengamanan yang diterapkan pada layanan tersebut.
Komdigi meminta penjelasan mengenai sistem moderasi, pembatasan fitur sensitif, serta mekanisme pencegahan penyalahgunaan. Pemerintah menegaskan bahwa pemblokiran tidak dimaksudkan untuk menghentikan inovasi, melainkan untuk memastikan teknologi AI digunakan secara bertanggung jawab.
Sinyal Awal Tata Kelola AI Nasional
Kasus Grok AI menjadi pengingat bahwa perkembangan kecerdasan buatan berjalan lebih cepat dibandingkan regulasi. Pemblokiran sementara ini dinilai sebagai sinyal awal bahwa pemerintah mulai memperkuat posisi dalam mengawasi penggunaan AI.
Ke depan, Indonesia dihadapkan pada kebutuhan untuk menyusun kebijakan AI yang lebih komprehensif. Tantangannya adalah menjaga keseimbangan antara mendorong inovasi teknologi dan melindungi warga dari risiko penyalahgunaan. Kasus Grok AI kemungkinan akan menjadi referensi penting dalam pembentukan kerangka regulasi tersebut.
