Kementerian Komunikasi dan Digital (Komdigi) saat ini sedang mengkaji aturan pelabelan konten bikinan kecerdasan buatan (AI), di mana nantinya Peraturan Menteri ini akan mengatur label konten AI agar masyarakat lebih mudah mengetahui asal-usul materi digital yang beredar di internet.
Rencana ini disampaikan langsung oleh Wakil Menteri Komdigi Nezar Patria, di mana regulasi ini akan mewajibkan pengembang menggunakan penanda digital untuk membantu mengidentifikasi konten yang dibuat atau dimodifikasi menggunakan AI.
Baca Juga: GTA 6 PC Dikabarkan Rilis Lebih Cepat dari GTA 5 dan RDR 2, Kapan?
Nezar Patria mengatakan, kemampuan AI menghasilkan gambar, video, dan suara yang semakin realistis membawa tantangan baru dalam membedakan informasi asli dengan hasil rekayasa.
“Perkembangan ini sangat cepat untuk makin membuat garis pemisah antara fakta, antara realita dengan sesuatu yang sintetik makin lama makin tipis,” ujarnya.
Menurut Nezar, perkembangan tersebut juga membuka peluang penyalahgunaan AI untuk penipuan dan manipulasi informasi. Apalagi, teknologi deepfake kini dapat digunakan untuk meniru wajah maupun suara seseorang dengan hasil yang meyakinkan.
Komdigi Ingin Ada Label Konten AI untuk Tahu Keaslian
Dalam penyusunan aturan label konten AI ini, Komdigi turut memperhatikan pendekatan autentikasi dan penelusuran asal-usul konten digital yang mulai dikembangkan di tingkat global.
Pendekatan tersebut dikenal dengan istilah authentication dan provenance. Secara sederhana, teknologi ini memungkinkan suatu konten memiliki informasi mengenai asal-usul dan riwayat pengolahannya, misalnya melalui metadata menyertai file digital.
Informasi tersebut dapat membantu menunjukkan apakah sebuah gambar atau video dibuat menggunakan perangkat tertentu, serta apakah konten telah melalui proses pengeditan menggunakan teknologi AI, sepanjang riwayatnya tercatat.
“Di Indonesia, Komdigi sedang mengkaji itu untuk membuat peraturan menteri agar setiap perusahaan-perusahaan pengembang AI itu bisa memberikan label tentang otentisitas dari keaslian produk video yang dibuat atau produk digital media yang dihasilkan,” kata Nezar.
Salah satu standar yang sudah dikembangkan secara global adalah Content Credentials dari Coalition for Content Provenance and Authenticity (C2PA). Standar ini memungkinkan informasi asal-usul dan riwayat perubahan konten disimpan serta diperiksa melalui mekanisme autentikasi digital.
Meski begitu, informasi tersebut tidak otomatis menjamin isi sebuah foto atau video merupakan fakta. Metadata juga dapat hilang ketika file diproses atau dibagikan melalui layanan tidak mempertahankan informasi tersebut.
Komdigi sendiri belum merinci mekanisme teknis yang akan digunakan dalam aturan label konten AI di Indonesia. Belum dijelaskan pula perusahaan mana saja yang akan terkena kewajiban, bentuk label harus digunakan, maupun kapan aturan tersebut akan mulai diterapkan.
Penipuan Deepfake Jadi Salah Satu Perhatian
Untuk menggambarkan risiko penyalahgunaan AI, Nezar menyinggung kasus penipuan melalui konferensi video di Hong Kong pada 2024.
Dalam kasus tersebut, seorang staf keuangan perusahaan tertipu setelah mengikuti pertemuan daring yang menampilkan sosok-sosok menyerupai jajaran pimpinan dan rekan kerjanya. Para pelaku menggunakan teknologi deepfake untuk membuat pertemuan tersebut terlihat meyakinkan.
Akibatnya, korban memberikan otorisasi transfer dana ke sejumlah rekening dengan total kerugian sekitar 25 juta dolar AS, atau setara kurang lebih 200 juta dolar Hong Kong.
Kasus ini menjadi contoh bagaimana rekayasa wajah dan suara dapat dimanfaatkan untuk melakukan penipuan, bahkan dalam lingkungan kerja profesional.
Di luar rencana label konten AI, pemerintah juga tengah menyiapkan Peta Jalan Nasional Kecerdasan Artifisial untuk periode 2026–2029. Menurut Komdigi, penyusunannya melibatkan lebih dari 400 lembaga, komunitas, kementerian, dan unsur industri.
Peta jalan atau roadmap terkait AI tersebut sedang disiapkan untuk menjadi bagian dari arah pengembangan dan tata kelola AI di Indonesia.
Nezar mengingatkan, perkembangan teknologi tetap perlu diimbangi kemampuan manusia dalam memeriksa informasi dan mengambil keputusan. Kehadiran AI, menurutnya, tidak menghilangkan tanggung jawab pengguna terhadap hasil maupun dampak pemanfaatannya.
“AI harus didudukkan sebagai alat, sebagai mitra kerja bukan pengganti nalar dan tanggung jawab manusia,” tegas Nezar.
Dengan rencana label konten AI ini, Komdigi berupaya menghadirkan mekanisme tambahan untuk membantu masyarakat mengenali asal-usul konten digital. Namun, efektivitas penerapannya masih akan bergantung pada ketentuan teknis dan cakupan aturan yang nantinya ditetapkan pemerintah.
Eksplorasi konten lain dari Gizmologi.id
Berlangganan untuk dapatkan pos terbaru lewat email.
