Jakarta, Gizmologi – Seorang wanita bernama Jane Doe 4 menggugat Grok sebagai platform yang menghasilkan deepfake pelecehan seksual dari foto masa kecilnya. Melansir The Washington Post, Jane Doe 4 merupakan nama yang tertulis dalam lembar pengajuan hukum.
Sebelumnya, Jane ditemui oleh pihak berwajib di rumah orang tuanya, di Wyoming, negara bagian Amerika Serikat. Pihak berwajib menyebutkan bahwa ayah tirinya membuat ribuan gambar eksplisit dirinya dan memperdagangkannya secara online.
Ayah tirinya telah menggunakan foto ketika Jane berumur 11 tahun, seperti saat ia berbaring di sofa dengan kaus kebesaran. Bahkan dari salah satu dokumen memiliki keterangan “stepdad rapes her”.
Baca Juga: Indonesia Blokir Grok di X, Respons Keras terhadap Maraknya Deepfake Seksual Non-Konsensual
Ditemukan 7.000 Foto Deepfake Eksplisit Seksual Hasil Grok
Ayah tiri Jane telah membuat lebih dari 7.000 gambar eksplisit palsu menggunakan chatbot AI Grok, yang dirilis oleh perusahaan Elon Musk xAI. Dua hari setelah penggerebekan, ayah tirinya ditemukan tewas karena bunuh diri di dalam mobilnya.
Mobil pelaku diparkir di kampung halamannya, di mana dia dan pasangannya baru-baru ini membeli sebuah rumah. Pengalaman Jane, yang dijelaskan secara terbuka olehnya untuk pertama kali, menunjukkan beberapa konsekuensi potensial dari berkembangnya bentuk pelecehan seksual yang diaktifkan oleh aplikasi AI yang memudahkan untuk membuat materi pelecehan seksual anak palsu tetapi sangat realistis hanya dengan satu foto.
Saat ini efeknya, Jane merasa lebih cemas untuk menjaga anaknya sendiri tetap aman dan memperingatkan bahwa gambar AI dapat menyebabkan bahaya nyata.
“Akses tanpa batas ke alat-alat ini menyebar dengan sangat cepat. Kecanggihannya mengambil kehidupan sehari-hari dan mengubahnya menjadi pelecehan seksual anak,” kata Jane.
Pada bulan Juli, Jane pun bergabung dengan gugatan federal yang diajukan terhadap xAI pada bulan Maret oleh tiga remaja Tennessee, dua anak di bawah umur, yang diidentifikasi sebagai Jane Doe 1, 2 dan 3. Mereka menuduh bahwa Grok telah digunakan untuk seksualisasi foto mereka yang diambil ketika mereka masih muda.
Gugatan yang diperluas, diajukan bulan lalu di AS. Pengadilan Distrik untuk Distrik Utara California, menuduh bahwa xAI telah memproduksi, memiliki, dan mendistribusikan materi pelecehan seksual anak yang diaktifkan AI.
Pengadilan mencari status class-action atas nama siapa pun yang memiliki foto diri mereka sebagai anak di bawah umur yang diubah oleh xAI menjadi konten eksplisit secara seksual di mana mereka masih dapat dikenali. Tuntutan hukum muncul setelah keputusan Musk tahun lalu untuk menjadikan xAI sebagai outlier di antara perusahaan AI besar dan mempromosikan penggunaan Grok untuk membuat konten seksual.
Musk telah meningkatkan kemampuan chatbot untuk menghasilkan dan memanipulasi gambar dan video dengan memposting penggambaran wanita muda yang diseksualisasi ke jutaan pengikutnya di X. Saat ini pihak xAI tidak menanggapi permintaan komentar, dan perusahaan belum menanggapi gugatan federal di pengadilan. Musk mengatakan Grok seharusnya mengizinkan ketelanjangan tubuh bagian atas manusia dewasa imajiner, mirip dengan film berperingkat R.
Eksplorasi konten lain dari Gizmologi.id
Berlangganan untuk dapatkan pos terbaru lewat email.
