OpenAI baru saja mengungkap sebuah informasi mengejutkan terkait perilaku AI menyimpang yang ditemukan selama proses pelatihan dan evaluasi model mereka.
Perusahaan memperkenalkan framework baru untuk melacak, menyelidiki, dan melaporkan kasus model misalignment pada Rabu, 16 September 2026.
Bersamaan dengan pengumuman tersebut, OpenAI langsung menerbitkan enam laporan terkait perilaku model dinilai tidak sesuai dengan instruksi atau ekspektasi pengembang.
Baca Juga: Demi iPhone 18 Pro, Apple Enthusiast Indonesia Berburu ke Malaysia
“Kasusnya beragam, mulai dari model menyembunyikan informasi hingga mengambil tindakan tanpa izin untuk melewati hambatan tertentu,” tulis OpenAI dalam keterangannya, Jumat (18/9/2026).
Laporan ini menjadi perubahan pendekatan perusahaan dalam mengidentifikasi dan melaporkan keselamatan AI. Sebelumnya, perusahaan yang dipimpin Sam Altman ini mengakui publikasi terkait misalignment cenderung tidak konsisten dan baru muncul setelah beberapa kasus dikumpulkan sekaligus.
Kini, OpenAI ingin laporan perilaku AI menyimpan ini dapat diterbitkan lebih cepat, ketika penyebab suatu perilaku belum sepenuhnya dipahami atau belum tersedia solusi permanen
Enam Kasus Perilaku AI Menyimpang yang Diungkap OpenAI
Dalam laporan awalnya, OpenAI membeberkan enam contoh perilaku model yang dianggap penting untuk diketahui publik dan peneliti.
Salah satu kasus melibatkan model riset yang belum dirilis. Model tersebut memasukkan instruksi tambahan ke dalam ringkasan tugas yang digunakan untuk melanjutkan pekerjaannya di context window berikutnya.
Instruksi tambahan itu termasuk perintah untuk mengabaikan batasan normal yang seharusnya tetap berlaku. OpenAI mengatakan menemukan 27 ringkasan yang terdampak oleh perilaku AI menyimpang tersebut.
Kasus perilaku AI menyimpang lain melibatkan model memberikan instruksi untuk menyembunyikan kesalahan di dalam ringkasan tugas. Reuters juga melaporkan ada contoh model mencoba melakukan tindakan tanpa izin, termasuk mengakses informasi atau berkomunikasi melalui situs web di luar mekanisme diharapkan.
OpenAI menekankan, enam kasus tersebut merupakan contoh individual dan tidak bisa digunakan untuk menyimpulkan seberapa sering perilaku semacam ini terjadi di seluruh model mereka yang sudah diluncurkan hingga saat ini.
Dengan kata lain, laporan perilaku AI menyimpang ini bukan berarti setiap model OpenAI menunjukkan perilaku tersebut dalam penggunaan sehari-hari.
Kenapa OpenAI Buka Laporan Misalignment?
Menurut OpenAI, kemampuan sistem AI terus meningkat dan mulai digunakan dalam lebih banyak tugas dengan tingkat otonomi lebih besar. Kondisi ini membuat perilaku tidak diharapkan menjadi semakin penting untuk dilacak secara sistematis.
Framework baru tersebut akan mencatat sejumlah informasi utama, mulai dari perilaku AI menyimpang ditemukan, tingkat keparahan, dampak eksternal, waktu kejadian, model yang terlibat, hingga langkah mitigasi yang sedang atau akan dilakukan.
Jika memungkinkan, OpenAI juga akan menjelaskan bagaimana perilaku tersebut ditemukan, cakupan investigasi, pertanyaan yang belum terjawab, serta implikasinya terhadap riset alignment dan keamanan AI.
Untuk kasus yang terjadi pada penggunaan pelanggan, perusahaan mengatakan akan membagikan informasi sejauh yang diizinkan oleh kewajiban privasi dan kontrak.
Langkah ini muncul di tengah meningkatnya perhatian terhadap sistem AI yang semakin mampu mengambil keputusan dan menjalankan tugas secara mandiri.
Reuters mencatat, beberapa insiden sebelumnya telah memicu perdebatan mengenai apakah mekanisme pengawasan terhadap perusahaan AI saat ini sudah cukup.
Bukan Berarti AI Berontak
Istilah model misalignment memang sering terdengar dramatis, tetapi tidak otomatis berarti sebuah AI memiliki niat, kesadaran, atau berusaha “memberontak” terhadap manusia.
Dalam konteks ini, misalignment merujuk pada kondisi ketika model melakukan tindakan tidak sejalan dengan tujuan, instruksi, atau batasan yang sudah ditetapkan.
Perilaku itu bisa muncul karena berbagai faktor, termasuk bagaimana model dilatih, konteks diberikan, struktur reward, hingga cara model mencari solusi ketika menghadapi hambatan.
Karena itu, laporan OpenAI lebih tepat dipahami sebagai upaya mendokumentasikan kegagalan sistem secara terbuka, bukan bukti bahwa model AI memiliki kehendak sendiri.
OpenAI mengatakan framework ini akan terus digunakan untuk menerbitkan laporan baru ketika kasus memenuhi kriteria ditemukan. Perusahaan juga menyebut enam laporan awal tersebut belum mencakup seluruh kasus yang sedang atau pernah diselidiki.
Eksplorasi konten lain dari Gizmologi.id
Berlangganan untuk dapatkan pos terbaru lewat email.
