Aktual.co.id – Sekelompok tiga gadis remaja, dua di antaranya masih di bawah umur, mengajukan gugatan pada terhadap perusahaan kecerdasan buatan xAI milik Elon Musk, dengan tuduhan generator gambar Grok menggunakan foto mereka untuk memproduksi dan mendistribusikan materi pelecehan seksual anak.
Mengutip dari The Guardian, gugatan kelompok ini pertama diajukan anak di bawah umur setelah maraknya pembuatan gambar telanjang tanpa persetujuan oleh Grok awal tahun ini.
“xAI memilih mengambil keuntungan dari eksploitasi seksual terhadap orang-orang nyata, termasuk anak-anak, meskipun mengetahui sepenuhnya konsekuensi dari menciptakan produk yang berbahaya tersebut,” kata Vanessa Baehr-Jones, pengacara penggugat, dalam sebuah pernyataan.
Gugatan tersebut, yang diajukan tiga remaja putri dari Tennessee tetapi didaftarkan di California, tempat xAI bermarkas.
Para gadis tersebut menemukan bahwa gambar telanjang mereka telah diedit oleh AI diunggah ke server Discord dan dibagikan secara online tanpa sepengetahuan mereka.
Setelah mereka melaporkan gambar-gambar tersebut kepada penegak hukum, menurut pengaduan itu, polisi menangkap seorang tersangka pada bulan yang sama dan menemukan materi pelecehan seksual anak (CSAM) di ponselnya yang diduga diproduksi menggunakan teknologi pembuatan gambar dan video xAI.
Gugatan tersebut menyatakan bahwa CSAM (Critical Screening Material) dibuat menggunakan aplikasi pihak ketiga yang melisensikan dan mengandalkan AI Grok untuk menghasilkan materi tersebut.
Gugatan ini bergabung dengan beberapa tindakan hukum dan investigasi internasional lainnya terhadap xAI atas pembuatan dan penyebaran gambar-gambar seksual tanpa persetujuan.
Termasuk gugatan lain dari ibu salah satu anak Musk dan penyelidikan resmi Uni Eropa. Pada puncak skandal tersebut, para peneliti di Center for Countering Digital Hate memperkirakan bahwa Grok telah membuat sekitar 3 juta gambar seksual dalam waktu kurang dari dua minggu – sekitar 23.000 di antaranya menggambarkan anak-anak.
Dalam pengaduan yang diajukan pada hari Senin (16/3), pengacara para penggugat remaja tersebut merinci bagaimana para gadis itu menemukan gambar telanjang mereka telah diedit menggunakan AI diedarkan secara online.
Salah satu gadis, yang disebut sebagai Jane Doe 1, menerima pesan di Instagram pada bulan Desember dari pengguna anonim, memberitahunkan bahwa seseorang di lingkaran sosialnya telah mengunggah serangkaian video dan gambar deepfake ke server Discord yang menggambarkan dirinya dan gadis-gadis lain dari sekolah menengah dalam keadaan telanjang.
Penyidik kriminal menemukan gambar-gambar tersebut telah dibagikan di aplikasi pesan Telegram di mana gambar-gambar tersebut diduga digunakan sebagai alat tukar untuk mendapatkan materi pelecehan seksual anak lainnya.
Meskipun pengaduan menyatakan gambar-gambar tersebut dibuat menggunakan aplikasi pihak ketiga yang mengakses teknologi Grok dan bukan langsung di situs web X, pengaduan berpendapat bahwa penggunaan ini tetap memerlukan server xAI. Dan xAI memperoleh keuntungan dari pemberian lisensi teknologinya kepada aplikasi-aplikasi tersebut. (ndi/the guardian)
