Jakarta, Gizmologi โ Wakil Menteri Komunikasi dan Informatika, Nezar Patria, dalam gelaran Diskusi Publik yang diselenggarakan Bisnis Indonesia Group, membahas mengenai dampak negatif AI atau kecerdasan buatan. Bila berbicara mengenai teknologi, ada manfaat dan juga dampak yang harus diantisipasi.
Meski manfaat AI sangat banyak, namun dampak negatif AI juga perlu kita ketahui. Nezar memberikan contoh salah satunya ialah penyalahgunaan teknologi deepfake yang sudah banyak dibicarakan pada pemilihan Presiden dan legislatif.
โPerlu mengantisipasi tantangan negatif dari penggunaan AI yang tidak tepat. Penyalahgunaan teknologi deepfake sebetulnya sudah banyak kita bicarakan dalam konteks hari-hari ini di Pilpres dan Pileg kemarin ada beberapa deepfake untuk mencreate public opinion,โ ujar Wamenkominfo, Nezar Patria, di Jakarta Pusat, Selasa (20/8/2024).
Baca Juga: Edit Momen Berharga Jadi Lebih Unik & Kreatif Pakai Galaxy AI di Galaxy Z Flip6!
Sebagai contoh, Nezar menyebut dampak negatif AI yang memanfaatkan deepfake terjadi di Pemilu Amerika Serikat. Baru-baru ini deepfake memasukkan profil Hillary Clinton untuk mendukung gubernur Florida yang ternyata ditunjukkan untuk menyesatkan para pemilih dan merusak integritas proses demokrasi di sana.
โKita juga melihat banyak pihak yang implemnetasi sistem pengawasan menggunakan tech face recognition yang berbasis AI untuk memantau pergerakan masyarakat. Sekaligus mengumpulkan data pribadi untuk mengawasi hubungan sosial dan pandangan politik individu terjadi sebuah negara,โ jelas Nezar.
Cara Wamenkominfo Atasi Dampak Negatif AI dengan Tata Kelola AI
Dalam kasus dampak negatif AI tersebut sistem pengawasan dianggap berbahaya karena dapat mengancam hak privasi dan kebebeasan ekspresi masyarakat. Yang perlu dipelajar dalam mengatasi dampak negatif AI ini ialah bagaimana mengelola civil liberities dengan state security.
โAdopsi AI bisa meningkatkan pengawasan state security, tetapi akan mengorbankan civil liberities. Ini diskusi cukup menarik di abad 21, dimana disrupsi teknologi berdampak pada semua dimensi yang ada di masyarakat, sosial, ekonomi politik,โ tutur Wamenkominfo.
Untuk mengelola civil liberities dan state security, Nezar mengatakan harus memberikan space yang lebih luas kepada civil liberities berarti mengorbankan sebagian hal state security. Berikan porsi yg lebih besar pada state security mengorbankan berapa sisi pada civil liberities.ย
โMengambil satu jalan tengah dan seimbang saya kira exercise pemerintahan demokratis. Harus ditopang oleh good will, satu panduan etika dalam kehidupan berpolitik. Satu exercise terutama kita negara negara menuju advance economies. Kitaย membutuhkan satu stabilitas memang untuk pertumbuhan ekonomi berjalan baik. Tapi pertumbuhan ekonomi yang baik juga menghasilkan sejumlah gap, membuat kelompok-kelompok masyarakat meningkatkan demand nya pada partisipasi yang lebih besar, menggoyang stabilitas satu putaran kehidupan sosial dan ekonomi,โ katanya.
Oleh karena itu, kehadiran tata kelola AI sangat penting untuk menghindari dampak negatif AI, agar pemanfaatan AI dapat digunakan secara bertanggung jawab dan produktif. Ada enam prinsip dalam tata kelola ai global yg perlu dicermati bersama.
Pertama, adalah prinsip save, yaitu memastikan keselamatan dan keamanan developer atau deployerย dan pengguna AI. Lalu yang kedua ialah ethical, pengembangan, penerapan, dan penggunaan AI perlu memperhatikan prinsip etika, sosial, dan HAM.
Selain itu, trustworthy, memastikan sistem AI dapat dipercaya, diandalkan dan dipertanggungjawabkan. Prinsip keempat ialah fairness dan non discrimination, yakni memastikan pengembangan dan pemanfaatan ai dilakukan secara adil dan tidak diskriminatif dapat menghindari potensi bias dalam algoritma dan data AI.
โIni menjadi isu cukup kritikal di tengah masyarakat demokratis, inklutivitas pluralisme perlu dijaga. Di sisi lain produk AI masih mengandung bias cukup besar. Termasuk bias gender, suku, agama dsb. Tentu saja dia bisa memicu memproduksi information disorder karena bias akan berdampak serius pada pluralisme sosial dsb.,โ tambah Nezar.ย
Prinsip kelima ialah soal inclusion dan participation, mendorong pengembangan AI melalui pendekatan yang kolaboratif.ย Serta, accountabilty, yang dianggap penting sekali untuk PSE (Penyelenggara Sistem Elektronik) harus bertanggung jawab atas hasil dari sistem AI yang mereka gunakan atau ciptakan untuk mencegah penyalahgunaan dan trust pada teknologi AI.
Eksplorasi konten lain dari Gizmologi.id
Berlangganan untuk dapatkan pos terbaru lewat email.
