Aktual.co.id – Eropa sedang menyelidiki X milik Elon Musk karena gagal mengambil tindakan pencegahan penyebaran gambar-gambar eksplisit seksual yang dihasilkan AI.
“Dalam gambar gambar yang disebarkan lewat X, beberapa berisi konten eksploitasi anak,” kata regulator dalam siaran persnya, Selasa (27/1).
Investigasi Komisi Eropa dapat menghasilkan langkah-langkah penegakan hukum lebih lanjut terhadap X, tidak lama setelah menjatuhkan denda sebesar $140 juta (Rp2 Triliun) kepada platform tersebut.
“Deepfake seksual yang menampilkan perempuan dan anak-anak adalah bentuk pelecehan yang kejam dan tidak dapat diterima. Dengan investigasi ini, kami akan menentukan apakah X telah memenuhi kewajiban hukumnya berdasarkan DSA [Undang-Undang Layanan Digital], atau apakah memperlakukan hak-hak warga negara Eropa termasuk hak-hak perempuan dan anak-anak sebagai korban dari layanan mereka,” kata Wakil Presiden Eksekutif Komisi Eropa, Henna Virkkunen dalam sebuah pernyataan.
Uni Eropa menyatakan akan menilai apakah X telah mengambil langkah-langkah untuk mengurangi risiko terkait penyebaran konten ilegal ketika meluncurkan Grok ke platform tersebut.
Risiko termasuk gambar-gambar eksplisit seksual yang dimanipulasi, termasuk konten yang termasuk dalam kategori CSAM (Children’s Sexual Abuse Material).
“Risiko-risiko ini tampaknya telah terwujud, sehingga membahayakan warga negara di Uni Eropa,” kata Komisi tersebut.
Selain penyelidikan baru tersebut, Komisi Eropa juga memperluas investigasi tahun 2023 terhadap X terkait algoritma rekomendasinya dan alat-alat yang digunakan untuk mencegah penyebaran konten ilegal.
CBS News menemukan bahwa, hingga Senin pagi, Grok masih menghasilkan gambar individu tanpa busana. X sebelumnya mengklaim kemampuan ini telah dihapus untuk pengguna gratis maupun berbayar.
Investigasi ini datang pada saat yang genting bagi Eropa, yang sudah menjadi sasaran pemerintahan Trump karena pengawasannya terhadap perusahaan teknologi Amerika.
Dan Uni Eropa juga akan berhadapan dengan Musk, yang merupakan pemilik dan memiliki pengaruh terbesar di X.
Setelah X dikenai denda 120 juta euro (Rp2 triliun) karena melanggar Undang-Undang Layanan Digital Eropa, Musk menyebut Uni Eropa sebagai Reich keempat dan mengatakan dalam sebuah unggahan di X bahwa Uni Eropa harus “dihapuskan.”
Menanggapi pertanyaan tersebut, X mengulangi komentar sebelumnya yang telah disampaikan tentang Grok.
“Kami tetap berkomitmen menjadikan X platform yang aman bagi semua orang dan terus menerapkan kebijakan nol toleransi terhadap segala bentuk eksploitasi seksual anak, ketelanjangan tanpa persetujuan, dan konten seksual yang tidak diinginkan,” kata seorang juru bicara kepada The New York Times . (ndi/engagatged)
