Jakarta, Gizmologi โ Deepfake tengah menjadi pembicaraan karena telah membuat banyak orang tertipu membedakan kebenaran dan yang bukan. Deepfakeย merupakan salah satu jenis dari teknologi kecerdasan buatan (artificial intelligence/AI) yang memungkinkan penggunanya untuk membuat video atau audio palsu yang tampak dan terdengar serupa dengan orang yang ditiru.
Tim peneliti Palo Alto, Unit 42, telah menemukan banyak kampanye penipuan menggunakan video yang menampilkan kemiripan dengan berbagai tokoh publik, termasuk CEO, pembawa berita, dan pejabat pemerintah di seluruh dunia. Selain dalam bentuk konferensi video, deepfake juga hadir berbasis web. Palo Alto melaporkan Juni 2024 terdapat ratusan domain yang digunakan untuk mempromosikan jenis penipuan ini, dengan setiap domain diakses hingga 114.000 kali secara global sejak pertama kali ditayangkan dan domain-domain ini relatif berumur panjang, dengan waktu aktif rata-rata 142 hari.
Penemuan alat penipuan ini juga dilakukan oleh Kementerian Komunikasi dan Informatika (Kominfo). Direktur Jenderal Informasi dan Komunikasi Publik (IKP) Kemenkominfo, Prabunindya Revta Revolusiย menjelaskan bahwa konten deepfake yang telah ditemukan telah di-takedown.
Baca Juga: VIDA Identity Stack Rilis, Tangkal Penipuan Berbasis Deepfake dan AI
Kominfo Telah Takedown Ribuan Konten Deepfake
โTadi yang pertama tentang deepfake ya konten, kalau angka pastinya saya harus cek datanya. Saya gak hafal datanya, tapi apakah banyak. Iya, mungkin ribuan konten ya, ribuan akun atau konten yang di-takedown, baik melalui inisiatif dari Kominfo ataupun juga yang langsung dari platform,โ ujar Prabu ketika ditemui pada acara Ngopi bersama Kominfo, Jakarta Pusat, Jumat (13/9/2024).
Ia juga menjelaskan bahwa tugas untuk men-takedown konten penipuan ini juga ada turut andil dari pihak platform. Pihak platform terkait memiliki moderasi dan tetap melaporkan ke Kominfo.
Prabu juga menceritakan salah satu kasus penemuan kasus penipuan dengan metode tersebut, sekitar 3 atau 4 hari lalu. Kominfo menemukan konglomerat yang secara jujur mengumumkan ia menggunakan deepfake.
โKami men-takedown konten di salah satu platform, ada satu orang konglomerst pakai deepfake, menggunakan AI, jadi dia ngomong kalau mau kaya silahkan follow akun saya dan daftar di nomor yang ada di bawah ini, pakai deepfake,โ ungkap Prabu.
Followers akun pelaku tersebut sudah mencapai 300.000 โ 400.000, banyak followers tak menyadari konten tersebut merupakan palsu karena mirip dengan asli. Proses takedown konten ini juga tidak mudah bila lewat sistem.
Konten tersebut akan bisa terlihat palsu atau tidak bila di zoom. Pelaku cukup pintar untuk menghadirkan konten dengan medium shot bukan close up.
โNih saya udah dapat konfirmasi nih bukan akun nya ini deepfake, setelah di cek di zoom baru terlihat tidak sesuai lipsnya dengan kata-katanya. Jadi dia pinter gambarnya medium shot gak close up, makanya gak kelihatan gerak bibirnya agak sedikit beda. Udah beberapa bulan gitu ya nih akunnya hidup,โ jelas Prabu.
Eksplorasi konten lain dari Gizmologi.id
Berlangganan untuk dapatkan pos terbaru lewat email.
