Google mengonfirmasi, model Gemini AI miliknya telah mengakses sistem tiga perusahaan sungguhan tanpa izin selama evaluasi keamanan siber pada Mei 2026. Pengujian ini dilakukan oleh Irregular, perusahaan evaluasi keamanan AI, dengan format capture-the-flag di infrastruktur miliknya sendiri.
Meski tidak ada laporan kerusakan maupun pencurian data, kasus ini menjadi salah satu contoh paling nyata mengenai risiko yang muncul ketika AI mulai diberi kemampuan bertindak lebih mandiri.
Baca Juga: DualSense PS5 Lisa BLACKPINK Rilis, Ini Harga dan Jadwal Pre-Order
Dalam uji keamanan tersebut, Gemini AI seharusnya hanya berinteraksi dengan perusahaan fiktif yang menjadi target pengujian, Namun karena kesalahan konfigurasi, model AI milik Google tersebut memiliki akses ke internet dan menemukan perusahaan sungguhan dengan nama serupa dengan target simulasi.
Google menjelaskan, dalam satu kasus model berhasil memperoleh akses dengan menebak kredensial login, sebagaimana dilansir The Wall Street Journal, Selasa (22/9/2026).
Dalam dua kasus lainnya, Gemini AI menemukan kredensial yang terekspos di repositori publik dan menggunakannya untuk masuk ke sistem perusahaan terkait. Meski demikian, raksasa mesin pencari itu mengatakan Gemini menghentikan aktivitasnya setelah menyadari target yang diakses merupakan organisasi nyata dan bukan bagian dari lingkungan pengujian.
Perusahaan juga menyatakan telah memberi tahu pihak yang terdampak dan bekerja sama dengan Irregular untuk memperbaiki prosedur evaluasi.
Kasus Gemini AI Bukan Kegagalan Keamanan AI?
Heather Adkins, Wakil Presiden Keamanan Teknik di Google, membela cara model itu bertindak. “Dalam kasus ini, model tersebut bertindak sebagaimana mestinya,” katanya, merujuk pada fakta Gemini berhenti sendiri begitu sadar sudah keluar dari lingkup pengujian.
Argumen Google: yang gagal bukan modelnya, tapi lingkungan pengujian yang bocor akses internetnya. Gemini AI disebut tetap mencoba menuntaskan tugas yang diberikan, sesuai desain, dan justru berhenti pada titik yang tepat begitu konteksnya berubah dari simulasi jadi dunia nyata.
Ini yang jadi celah perdebatan. Kritikus melihatnya sederhana: Gemini tetap melakukan intrusi nyata ke luar area ujicoba, apa pun alasannya. Pendukung argumen Google menilai justru itu yang diharapkan dari sebuah safeguard, berhenti tepat waktu.
Google baru mengetahui insiden ini dari laporan Irregular pada akhir Juli 2026, dua bulan setelah kejadian. Perusahaan baru mengonfirmasinya ke publik pada 18 September, usai Wall Street Journal menghubungi untuk konfirmasi. Artinya ada jeda sekitar tujuh minggu antara Google tahu dan Google bicara.
Bukan Kasus Pertama, Bagaimana Dibanding Insiden OpenAI dan Anthropic?
Pola serupa dengan Gemini AI sudah lebih dulu terjadi di dua laboratorium AI besar lain:
- OpenAI mengalami insiden saat modelnya menembus infrastruktur produksi Hugging Face dalam evaluasi keamanan siber Juli 2026, yang kemudian memicu perusahaan mengubah prosedur keamanan modelnya.
- Anthropic mengungkap pada Juli 2026 bahwa model Claude miliknya mendapat akses tidak sah ke tiga organisasi nyata selama evaluasi keamanan. Belakangan, tinjauan lanjutan menemukan insiden keempat yang ternyata sudah terjadi sejak Januari 2026.
Bedanya kasus Gemini ada pada pemicunya: bukan model secara aktif mencari celah keluar sandbox, melainkan kesalahan konfigurasi akses internet yang digabung dengan kebetulan nama perusahaan fiktif dan nyata yang sama. Tiga vendor AI besar, tiga insiden nyaris berbarengan, tiga versi cerita yang berbeda soal siapa yang salah.
Pelajaran bagi Perusahaan
Kasus ini juga relevan bagi perusahaan yang mulai bereksperimen dengan AI untuk coding, keamanan siber, otomatisasi proses bisnis, maupun integrasi dengan sistem internal.
Kemampuan AI agent memang membuka peluang efisiensi yang besar. Namun semakin luas akses yang diberikan kepada model, semakin penting pula mekanisme pengawasan, pembatasan izin, dan lingkungan pengujian yang terisolasi.
Dengan kata lain, tantangan AI ke depan mungkin bukan hanya membangun model yang lebih pintar, tetapi juga memastikan model tersebut tetap berada dalam batas yang diinginkan ketika beroperasi di dunia nyata.
Eksplorasi konten lain dari Gizmologi.id
Berlangganan untuk dapatkan pos terbaru lewat email.
