Jakarta, Gizmologi – Dalam beberapa pekan terakhir, warganet cukup diramaikan dengan tren Grok AI yang sangat mengkhawatirkan. Memanfaatkan kemampuan manipulasi digital, cukup banyak pengguna platform X yang menyalahgunakannya, hingga menimbulkan keresahan cukup masif. Untuk itu, pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) resmi memutus akses sementara terhadap Grok AI per hari ini (10/1).
Ya, sebelumnya pihak Komdigi memang telah memberikan tanggapan spesifik terkait tren Grok AI, namun saat itu baru disebutkan sejumlah risiko bila memang terus dibiarkan. Grok AI sendiri lebih dikenal sebagai platform AI mirip ChatGPT, yang kini terintegrasi di dalam platform media sosial X. Meski memang, saat ini Grok Ai juga sudah bisa diakses tanpa X, membuatnya juga layak menjadi pesaing Google Gemini.
Selain mampu menjawab beragam pertanyaan, Grok AI juga memungkinkan pengguna untuk menciptakan sebuah gambar baru berbasis perintah input teks alias prompt. Namun yang lebih membahayakan, Grok AI juga mampu menuruti keinginan pengguna platform X untuk mengubah foto orang lain, lewat kemampuan manipulasi digital berteknologi deepfake dengan hasil yang sangat mendekati realita.
Baca juga: Komdigi Tindak Penyalahgunaan Grok AI untuk Konten Asusila, Bisa Kena Pidana!
Komdigi: “Kami Meminta Platform X Segera Memberikan Klarifikasi”
Melalui sebuah pernyataan resmi, Menteri Komunikasi dan Digital RI, Meutya Hafid sebutkan bila pihaknya telah melakukan pemutusan akses sementara terhadap platform Grok AI. Langkah tersebut akhirnya diambil sebagai tindakan preventif, demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi AI.
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” jelas Meutya. Selain menutup akses sementara, Komdigi juga tengah meminta platform X untuk segera memberikan klarifikasi terkait dampak negatif yang telah dimunculkan, terutama dalam beberapa hari terakhir yang terbilang masif.
Lebih lanjut, tindakan pemutusan akses sementara terhadap platform Grok AI, diambil berdasarkan kewenangan Kemkomdigi yang telah diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020, terkait Penyelenggara Sistem Elektronik (PSE) lingkup privat. Pada Pasal 9, disebutkan bila setiap PSE wajib memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang.
Meutya menambahkan, penggunaan Grok AI yang salah seperti membuat hingga menyebarkan konten pornografi palsu tanpa persetujuan pihak yang menjadi obyek, termasuk dalam bentuk kekerasan berbasis digital. Di mana dampaknya tentu saja sangat buruk, karena bisa merugikan korban baik secara sosial, hukum, dan tentunya aspek psikologis.
Tidak Hanya Berlangsung di Indonesia, Juga di Beberapa Wilayah Negara Lainnya
Sebelumnya, disebutkan bila Grok AI telah merilis pernyataan, bila mereka yang mampu membuat dan mengedit gambar hanyalah pelanggan berbayar di dalam platform X. Namun begitu, tren negatif yang muncul dalam beberapa hari terakhir, seolah menepis pernyataan tersebut. Di mana siapa pun dapat membuat atau mengubah gambar, tanpa harus berlangganan, dan termasuk mengubah gambar orang lain atau dari cuitan lain.
Selain Indonesia, terdapat sejumlah wilayah lain yang juga mengecam platform X serta Grok AI, seperti Inggris, Uni Eropa, hingga India. India sendiri dikabarkan tengah memerintahkan platform X untuk segera melakukan perubahan, demi menghentikan dampak buruk dari penyalah gunaan fitur AI di dalamnya.
Eksplorasi konten lain dari Gizmologi.id
Berlangganan untuk dapatkan pos terbaru lewat email.
