Jakarta, Gizmologi โ Kemudahan generatif AI (kecerdasan buatan) untuk digunakan sehari-hari membuat OpenAI hadirkan inovasi baru untuk cegah pelajar jiplak atau copy paste hasil dari ChatGPT. Inovasi ini ialah hadirnya Watermark yang tentu bisa mencegah para pelajar tidak asal menyelesaikan pekerjaan rumah mereka.
Sebelumnya OpenAI dilaporkan oleh The Wall Street Journal telah menyimpan alat yang bisa mendeteksi esai yang ditulis oleh ChatGPT dengan tingkat akurasi yang tinggi. Belum adanya informasi lanjutan mengenai alat tersebut, perusahaan mengumumkan inovasi watermark yang nantinya akan berwujud sebuah teks.
Dalam blog OpenAI mengatakan telah siap dengan alat deteksinya pada bulan Mei 2024 namun perusahaan menyimpan alat tersebut dengan meneliti alternatif lainnya. Ini juga berkaitan dengan watermark teks yang cukup baik untuk menghindari kecurangan para pelajar.
Baca Juga: OpenAI Sedang Kerjakan Proyek โStrawberryโ, Model AI Generatif Naik Tingkat
OpenAI Ungkap Seberapa Akurat Alat Watermark Teks di ChatGPT
Melansir dari Engadget, perusahaan mengatakan watermarking adalah salah satu dari beberapa solusi, termasuk classifier dan metadata, yang telah diteliti sebagai bagian dari penelitian ekstensif pada area asal-usul teks. Menurut OpenAI, watermarking di ChatGPT sudah dibuat dengan sangat akurat dan berkinerja baik dalam beberapa situasi.
Namun seperti halnya manusia yang tidak sempurna, alat yang akan dihadirkan di ChatGPT ini juga bisa tidak bisa berkinerja dengan baik bila dihadapkan pada bentuk-bentuk pengubahan tertentu, seperti menggunakan sistem terjemahan, menyusun ulang dengan model generatif lain, atau meminta model untuk memasukkan karakter khusus di antara setiap kata dan kemudian menghapus karakter tersebut.
Dengan menghadirkan watermark teks, perusahaan mengatakan secara tidak proporsional mempengaruhi beberapa kelompok. Selain itu inovasi ini juga bisa menstigmatisasi penggunaan AI sebagai alat tulis yang berguna untuk penutur asli bahasa Inggris.
Sesuai dengan postingan blog, perusahaan telah mempertimbangkan risiko-risiko ini. Perusahaan juga menulis bahwa mereka telah memprioritaskan rilis alat autentikasi untuk konten audiovisual.
Dalam pernyataan kepada TechCrunch, seorang juru bicara OpenAI mengatakan bahwa perusahaan mengambil pendekatan yang hati-hati terhadap asal-usul teks karena kompleksitas yang terlibat dan dampaknya yang mungkin terjadi pada ekosistem yang lebih luas di luar OpenAI. Adapun belum diketahui kapan pastinya alat deteksi ChatGPT dan watermark ini akan dihadirkan.
OpenAI Akan Uji Coba Model Terbaru di Amerika Serikat (AS)
OpenAI baru ini juga dikabarkan akan memberikan Institut Keamanan AI AS akses awal ke model berikutnya sebagai bagian dari upaya keamanannya. Hal ini diumumkan langsung oleh Sam Altman dalam sebuah tweet di X.
Tampaknya, perusahaan telah bekerja dengan konsorsium untuk memajukan ilmu evaluasi AI. Institut Nasional Standar dan Teknologi (NIST) secara resmi mendirikan Institut Keamanan Kecerdasan Buatan awal tahun ini, meskipun Wakil Presiden Kamala Harris mengumumkannya pada tahun 2023 di KTT Keamanan AI Inggris.
Berdasarkan deskripsi NIST tentang konsorsium tersebut, tujuannya adalah untuk mengembangkan pedoman dan standar berbasis sains dan didukung secara empiris untuk pengukuran dan kebijakan AI, meletakkan dasar bagi keamanan AI di seluruh dunia.
Eksplorasi konten lain dari Gizmologi.id
Berlangganan untuk dapatkan pos terbaru lewat email.
