Jakarta, Gizmologi – Berkembangnya teknologi Artificial Intelligence (AI) membuat kekhawatiran akan serangan siber dan adanya penipuan AI. Seperti contohnya, kejadian yang menimpa Melaney Ricardo pada Januari 2024, suaranya sempat dibuat menjadi penipuan AI oleh toko obat pelangsing.
Toko obat pelangsing tersebut menggunakan suara Melaney yang kalimatnya diubah dengan menggunakan AI. Sebelum Melaney, video Raffi Ahmad dan Atta Halilintar mengiklankan judi online juga ramai dibicarakan.
Video tersebut menampilkan percakapan Raffi dan Atta tentang keunggulan salah satu situs judi online bersama Najwa Shihab. Usut punya usut, terdapat orang yang menyalahgunakan video lama mereka di suatu acara untuk mempromosikan judi online.
Baca Juga: Review Humane AI Pin Mulai Bermunculan, Dinilai Belum Bisa Gantikan Smartphone
Tanggapan Wakil Menteri Komunikasi dan Informatika Terkait Penipuan AI
Nezar Patria, Wamenkominfo, menanggapi kekhawatiran penyalahgunaan AI hingga penipuan yang mungkin juga berdampak ke e-commerce. Penipuan AI ini menurutnya perlu dicegah dengan bantuan para pemimpin industri.
“Kita bekerja sama dengan platform digital untuk sama-sama monitoring atas penyalahgunaan AI terutama upaya-upaya sifatnya manipulatif menggunakan suara, biasanya tokoh masyarakat, tokoh publik, selebriti, dalam rangka mempromosikan barang yang sebenarnya tidak dilakukan,” ujarnya di lapangan Anantakupa Kementerian Kominfo, Selasa (16/4/2024).
Nezar juga mengatakan penipuan AI ini melanggar etik dan bisa berdampak buruk buat tokoh yang dipakai namanya. Maka dari itu kerja sama platform itu perlu untuk melakukan pemantauan.
Platform serta pihak kementerian perlu memantau dalam beberapa lapis. Lapis pertama publik untuk mengadukan, lalu platform melakukan seperti cyber patrol melihat sumber konten tersebut.
“Ketiga, kita mendapatkan pengaduan dan berpotensi misalnya menyalahi aturan perundangan kita akan mengambil tindak. Memblokir atau meminta platform menurunkan atau mencabut konten bermasalah itu,” jelas Nezar Patria.
Pemerintah Mengimbau Masyarakat dengan Penipuan AI ini
Sejauh ini, pemerintah Indonesia khususnya Kemenkominfo telah berkoordinasi dan bekerja sama dengan banyak lembaga. Termasuk komisi perlindungan perempuan dan anak, juga lembaga konsumen yang telah mendengar banyak pengaduan.
Wamenkominfo mengimbau kepada masyarakat agar terhindar dari penipuan AI ini. Hal pertama yang harus diingat oleh masyarakat adalah critical thinking, berpikir kritis.
Bila ada satu tokoh yang besar namanya ditemukan mempromosikan satu produk yang kurang masuk akal, masyarakat jangan langsung percaya. Nezar ingatkan untuk masyarakat selaku check dan re-check.
“Ada satu tokoh big name yang mempromosikan satu produk kira-kira kurang masuk akal akan mempromosikan konten tersebut masyarakat perlu waspada, jangan cepat percaya. Cek and ricek,” terang Wamenkominfo.
Bila masyarakat menemui konten penipuan atau penyalahgunaan AI bisa langsung mengadukan ke platform digital atau bisa langsung mengadu ke Kominfo.
“Kalau konten itu menyalahi aturan adukan ke platform digital bisa mengadu ke kominfo kemudian kita proses. Yang penting jangan terkecoh tertipu dengan banyak promosi yang mencatut banyak nama publik,” tambahnya.
Eksplorasi konten lain dari Gizmologi.id
Berlangganan untuk dapatkan pos terbaru lewat email.
