Jakarta, Gizmologi – Penyalahgunaan kecerdasan buatan kembali memicu polemik global. Kali ini, sorotan tertuju pada Grok, chatbot milik X yang dikembangkan xAI, setelah ramai digunakan untuk membuat gambar deepfake bernuansa seksual tanpa persetujuan pihak yang menjadi objek.
Tren ini menjadi viral di X, dengan banyak pengguna meminta Grok menghasilkan gambar perempuan berpakaian minim, termasuk figur publik. Masalah membesar ketika sejumlah organisasi non-profit menuding bahwa sebagian target dalam gambar tersebut merupakan anak di bawah umur.
Bahkan, Reuters sendiri memberikan informasi bahwa Pemerintah Indonesia lewat Komdigi sudah sangat bulat dalam memblokir Grok di Tanah Air. Maka dari itu, para pengguna sudah tidak bisa mengakses aplikasi Grok. Hal ini juga sudah dirasakan oleh sebagian besar pengguna X yang mulai memberikan cuitan terbarunya terkait jalur akses aplikasi yang tidak bisa digunakan lagi.
Indonesia menjadi salah satu negara pertama yang mengambil langkah tegas. Pemerintah resmi memblokir akses Grok di X, meski platform X secara keseluruhan tetap dapat diakses oleh pengguna di Tanah Air.
Baca Juga: Komdigi Resmi Memutus Sementara Akses Grok AI, Cegah Dampak Negatif yang Semakin Masif
Pelanggaran HAM dan Ancaman Ruang Digital
Menteri Komunikasi dan Digital Meutya Hafid menegaskan bahwa praktik deepfake seksual non-konsensual merupakan pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga di ruang digital. Dalam konteks Indonesia yang memiliki aturan ketat soal pornografi, respons keras ini relatif bisa diprediksi.
Sebagai negara dengan populasi Muslim terbesar di dunia, Indonesia selama ini memang dikenal memiliki pendekatan konservatif terhadap konten seksual. Namun, pemblokiran Grok juga memperlihatkan bahwa isu deepfake kini tidak lagi dianggap sekadar masalah etika teknologi, melainkan sudah masuk ranah perlindungan warga negara.
Tekanan Global Meningkat, Tapi Solusi Masih Kabur
Indonesia bukan satu-satunya yang bereaksi. Perdana Menteri Inggris, Sir Keir Starmer, secara terbuka menyebut praktik Grok menghasilkan deepfake seksual sebagai tindakan melanggar hukum dan tidak dapat ditoleransi. Regulator Uni Eropa pun menyatakan tengah menyelidiki dugaan penyalahgunaan Grok untuk membuat konten seksual menyerupai anak-anak.
Meski begitu, langkah-langkah ini masih terkesan reaktif. Blokir atau penyelidikan hanya menyentuh permukaan masalah, sementara teknologi pembuat deepfake terus berkembang dan mudah direplikasi lewat berbagai platform lain. Tanpa standar global yang jelas dan mekanisme teknis yang kuat, celah serupa bisa kembali muncul dengan nama dan produk berbeda.
Kasus Grok menunjukkan bahwa AI generatif sudah melampaui kapasitas regulasi saat ini. Pemblokiran mungkin efektif dalam jangka pendek, tetapi tantangan terbesar justru ada pada bagaimana negara, platform, dan pengembang AI membangun sistem perlindungan yang benar-benar mencegah penyalahgunaan, bukan sekadar memadamkan api setelah terlanjur membesar.
Eksplorasi konten lain dari Gizmologi.id
Berlangganan untuk dapatkan pos terbaru lewat email.
