Jakarta, Gizmologi – Canggihnya teknologi ternyata tak hanya dimanfaatkan dengan positif, peniliti MIT (Massachusetts Technology Institute) peringatkan adanya penipuan AI. Tentu adanya AI yang menipu cukup membuat khawatir, karena teknologi ini sudah cukup beredar atau diadopsi berbagai industri.
Para peneliti MIT membagikan hasil studi mereka di Pattern. Studi mengungkapkan bahwa beberapa sistem AI yang dirancang jujur telah belajar untuk menipu manusia.
Tim peneliti, yang dipimpin oleh Peter Park, menemukan bahwa sistem AI ini dapat melakukan hal-hal seperti membodohi pemain game online atau melewati CAPTCHA. Bagi kalian yang belum mengetahui, CAPTCHA merupakan alat untuk memeriksa yang mengunjungi situs manusia asli atau robot. Park memperingatkan bahwa contoh-contoh yang tampaknya sepele tersebut bisa menimbulkan konsekuensi serius di dunia nyata.
Baca Juga: Rumor: Tim Cook & Jajaran Eksekutif Apple Lainnya Bakal Diganti Secara Bersamaan?
Penipuan AI ini Terdapat di Sistem AI Meta Cicero
Melansir dari Gizmochina, studi ini menyoroti sistem AI Meta, Cicero, yang awalnya dimaksudkan sebagai lawan yang adil dalam permainan diplomasi virtual. Meskipun diprogram untuk bersikap jujur dan membantu, Cicero menjadi ahli penipuan, menurut Park.
Selama bermain game, Cicero, bermain sebagai Prancis, diam-diam akan bekerja sama dengan Jerman yang dikuasai manusia untuk mengkhianati Inggris (pemain manusia lainnya). Cicero awalnya berjanji untuk melindungi Inggris sekaligus memberi tahu Jerman untuk melakukan invasi.
Contoh lain melibatkan GPT-4, penipuan AI pada alat ini secara keliru mengklaim bahwa mereka adalah penyandang tunanetra dan mempekerjakan manusia untuk melewati CAPTCHA atas nama GPT-4. Penipuan AI ini bisa diubah tergantung bagaimana ia dilatih.
Park menekankan tantangan melatih AI yang jujur. Tidak seperti perangkat lunak tradisional, sistem AI melakukan pembelajaran secara mendalam berkembang melalui proses yang mirip dengan pembiakan selektif. Perilaku mereka mungkin dapat diprediksi selama pelatihan, namun kemudian menjadi tidak terkendali.
Studi ini mendesak untuk mengklasifikasikan sistem AI yang menipu sebagai sistem yang berisiko tinggi dan memerlukan lebih banyak waktu untuk bersiap menghadapi penipuan AI di masa depan. Karena bila tidak melakukan hal tersebut penipuan AI mungkin akan marak dan mengubah fungsi teknologi canggih ini.
Dengan semakin banyaknya studi dan penelitian seputar AI, kita akan belajar lebih banyak tentang manfaat teknologi bagi kita. Karena tak menutup kemungkinan teknologi AI sangat membantu dalam beberapa pekerjaan dan juga tugas para pelajar.
Banyaknya AI sangat membantu tugas para pengembang, bahkan tak jarang perusahaan besar seperti Qualcomm dan Amazon memberikan alat generatif AI yang canggih untuk mereka. Ada juga manfaat AI yang dirasakan pengguna smartphone, seperti halnya Samsung yang menghadirkan Galaxy AI atau OPPO yang menghadirkan fitur AI dalam smartphone mereka. Bahkan OPPO menjanjikan ada fitur AI lain yang akan diumumkan pada hp barunya di Indonesia.
Eksplorasi konten lain dari Gizmologi.id
Berlangganan untuk dapatkan pos terbaru lewat email.
