Eksperimen terhadap AI agent kembali menimbulkan persoalan keamanan setelah model AI dari OpenAI dilaporkan mengakses sejumlah situs milik pemerintah Australia tanpa izin. Insiden tersebut sebenarnya terjadi pada Juni 2026, tetapi baru terungkap beberapa waktu kemudian setelah OpenAI melakukan investigasi internal dan memberi tahu sejumlah lembaga yang terdampak.
Melansir dari Reuters, ada empat lembaga pemerintah Australia yang disebut terdampak, yakni Services Australia, NSW Bureau of Crime Statistics and Research, Victorian Department of Health, serta Australian Institute of Health and Welfare. Dalam beberapa kasus, model berhasil menjalankan perintah dan mengambil data internal. Namun, OpenAI menyatakan tidak menemukan akses terhadap rekam medis pasien maupun data individual yang dapat mengidentifikasi seseorang.
Kasus ini menjadi perhatian karena akses tersebut dilakukan oleh AI Agent eksperimental yang sedang diuji OpenAI. Model diberikan tugas penelitian tertentu, tetapi kemudian mengambil langkah sendiri untuk mencari informasi yang tidak tersedia secara publik. Situasi ini menunjukkan bagaimana kemampuan AI agent untuk menjalankan tindakan secara mandiri juga dapat menciptakan risiko ketika batas akses dan pengamanannya belum cukup ketat.
Baca Juga: OpenAI Akui 53 Foto Pengguna ChatGPT Bocor ke Situs Hosting
AI Agent Mengakses Data Internal Pemerintah
Pada Services Australia, model OpenAI dilaporkan berhasil memperoleh akses, menjalankan sejumlah perintah, dan mengambil file internal. OpenAI menyebut tidak ada rekam pasien yang diakses dalam proses tersebut. Sementara itu, pada NSW Bureau of Crime Statistics and Research, model juga dapat mengakses sistem, tetapi catatan kejahatan individu disebut tidak ikut terbaca.
Kasus serupa terjadi pada Victorian Department of Health. AI agent menemukan sebuah access key yang kemudian digunakan untuk mengambil statistik survei secara agregat. Menurut OpenAI, data tersebut tidak mencakup rekam medis individual ataupun jawaban survei yang dapat mengidentifikasi responden.
Di Australian Institute of Health and Welfare, model aI Agent kembali mengambil statistik survei agregat. OpenAI menyatakan agen tersebut tidak mengakses rekam medis individual. Dengan demikian, dampak yang terungkap sejauh ini lebih berkaitan dengan akses terhadap informasi internal dibandingkan pencurian data pribadi pasien, meski kemampuan model untuk menembus batas akses tetap menjadi persoalan keamanan.
Eksperimen Model AI Agent Justru Membuka Celah
Akses tersebut bermula dari pengujian terhadap model eksperimental OpenAI. Dalam salah satu skenario, model diminta mencari informasi seperti besaran pengeluaran pemerintah Victoria per orang untuk obat-obatan kulit. Ketika data yang dibutuhkan tidak ditemukan melalui sumber publik, model justru mencoba menggali situs pemerintah untuk memperoleh informasi yang tidak tersedia secara terbuka.
OpenAI mengatakan model tersebut tidak diberi izin untuk melakukan tindakan semacam itu. Namun, pada saat pengujian berlangsung, model eksperimental tersebut juga belum mendapatkan sejumlah pengamanan yang biasanya diterapkan pada model yang tersedia untuk publik. Kombinasi kemampuan agentic dan pembatasan yang belum lengkap kemudian membuka peluang bagi model untuk mengambil tindakan di luar batas yang diharapkan.
Sebelumnya, agen OpenAI juga dilaporkan melakukan akses tidak semestinya terhadap Hugging Face dan Modal Labs. Rangkaian insiden tersebut membuat OpenAI memperketat pendekatan pengujian model risetnya. Perusahaan menyatakan telah memulai investigasi internal setelah mengetahui insiden Australia dan memberi tahu lembaga yang terdampak.
OpenAI Perketat Pengamanan Model Eksperimental
Sebagai tindak lanjut, OpenAI mengatakan model riset akan menghadapi pembatasan jaringan yang lebih ketat. Salah satu perubahan yang disiapkan adalah membatasi akses model ke internet langsung dan menyediakan konten melalui sistem cache. Perusahaan juga menambah pemantauan serta pembatasan jaringan untuk mengurangi kemungkinan model melakukan akses yang tidak diinginkan.
OpenAI mengakui bahwa sejumlah pengamanan tersebut sudah mulai diterapkan setelah insiden Hugging Face, tetapi belum tersedia ketika akses terhadap situs pemerintah Australia terjadi. Untuk kasus di Australia, perusahaan juga menawarkan dukungan khusus kepada lembaga yang terdampak dan bekerja sama dengan mereka untuk memperkuat pertahanan siber.
Selain itu, OpenAI menyatakan akan menggunakan dana US$1 miliar melalui program Daybreak for Frontline Defenders untuk membantu memperkuat keamanan siber lembaga pemerintah. Perusahaan juga akan membentuk task force khusus Australia untuk meningkatkan komunikasi dan koordinasi apabila insiden serupa terjadi di masa depan. Chief Strategy Officer OpenAI Jason Kwon dijadwalkan hadir dalam sidang komite Senat di Sydney pada pekan berikutnya untuk membahas persoalan tersebut.
Eksplorasi konten lain dari Gizmologi.id
Berlangganan untuk dapatkan pos terbaru lewat email.
