Aktual.co.id – Platform X milik Elon Musk diminta oleh pemerintah Inggris untuk mengatasi gelombang gambar AI yang tidak senonoh atau menghadapi larangan de facto.
Beberapa ahli mengatakan gambar yang ditampilkan Grok di X telah menimbulkan ancaman bagi perempuan di Inggris.
Lembaga pengawas media, Ofcom, mengkonfirmasi akan melakukan penyelidikan terhadap X seiring meningkatnya reaksi negatif terhadap situs tersebut.
Hal ini berkaitan dengan memuat banyak gambar yang tentang perempuan dan anak-anak yang sebagian tubuhnya dilucuti.
Platform X mengumumkan pembatasan pembuatan gambar melalui alat AI Grok pada Jumat pagi sebagai respons terhadap protes global.
Sebuah unggahan di platform tersebut menyatakan kemampuan untuk membuat dan mengedit gambar kini akan dibatasi untuk pelanggan berbayar.
Mereka yang membayar harus memberikan detail pribadi, yang berarti dapat diidentifikasi jika fungsi tersebut disalahgunakan.
Namun, langkah tersebut gagal meredakan kemarahan dan memperdalam reaksi negatif dari para korban, politisi, dan pakar, yang mengatakan bahwa langkah itu belum cukup.
Komisaris baru pemerintah untuk korban kejahatan, Claire Waxman, mengatakan platform tersebut menghambat upaya mengatasi kekerasan terhadap perempuan dan anak perempuan.
Sementara itu, Downing Street mengatakan upaya X meredakan perselisihan dengan mengizinkan pengguna berbayar untuk menghasilkan gambar AI adalah penghinaan.
Waxman mengatakan kepada Guardian bahwa X bukan lagi tempat yang aman bagi korban, dan kantornya mempertimbangkan untuk mengurangi kehadirannya di situs tersebut dan memfokuskan komunikasinya di Instagram.
“Hal ini membuat perjuangan melawan kekerasan terhadap perempuan dan anak perempuan menjadi lebih sulit ketika platform X memungkinkan pelecehan dengan begitu mudah dan sering,” kata Waxman, menambahkan.
Dia mengatakan bahwa platform tersebut berdampak negatif pada kesehatan mental penggunanya karena maraknya kekerasan, pelecehan, dan kebencian rasial.
Grok telah diintegrasikan ke dalam X, dan pembaruan alat AI tersebut memungkinkan pengguna untuk memintanya mengubah gambar wanita dan anak-anak yang berpakaian dengan membuat tampak mengenakan bikini dan pose yang bernuansa seksual.
Dengan semakin banyak anggota parlemen dan organisasi yang meninggalkan X, Liz Kendall, menteri teknologi, berjanji bahwa para menteri mempertimbangkan secara serius kemungkinan melarang akses ke X di Inggris.
Kendall mengatakan dia memperkirakan Ofcom, yang pekan ini menyatakan sedang mencari jawaban mendesak dari platform tersebut, akan mengumumkan tindakan dalam “beberapa hari, bukan beberapa minggu”.
“X perlu mengendalikan diri dan menurunkan materi ini. Dan saya mengingatkan bahwa Undang-Undang Keamanan Daring, ada kewenangan memblokir akses ke layanan jika menolak untuk mematuhi hukum bagi masyarakat di Inggris. Dan jika Ofcom memutuskan untuk menggunakan kewenangan tersebut, mereka akan mendapat dukungan penuh dari pemerintah,” kata Menteri Teknologi Liz Kendal.
Dalam sebuah pernyataan, Ofcom mengatakan telah menghubungi X pada hari Senin dan menetapkan hingga hari Jumat agar situs tersebut memberikan penjelasan
“Kami sedang melakukan penilaian yang dipercepat sebagai masalah mendesak dan akan memberikan pembaruan lebih lanjut dalam waktu singkat,” katanya.
Berdasarkan Undang-Undang Keamanan Daring, regulator dapat memaksa platform untuk mengatasi materi tersebut dan menjatuhkan denda jutaan poundsterling karena ketidakpatuhan, dengan sanksi tertinggi berupa perintah pengadilan bagi penyedia web untuk memblokir situs atau aplikasi sepenuhnya.
Platform X telah dihubungi untuk dimintai komentar. Musk menegaskan bahwa “siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menanggung konsekuensi yang sama seperti jika mereka mengunggah konten ilegal”.
Platform X memiliki sekitar 300 juta pengguna bulanan menurut perusahaan data Similarweb. Perkiraan dari perusahaan AS Appfigures menempatkan jumlah pelanggan berbayar X antara 2,2 juta dan 2,6 juta.
Ketika ditanya tentang perubahan terkait siapa yang dapat menghasilkan gambar di X, juru bicara Downing Street mengatakan hal itu tidak dapat diterima.
“Langkah ini hanya mengubah fitur AI yang memungkinkan pembuatan gambar ilegal menjadi layanan premium,” kata mereka.
“Ini bukan solusi. Bahkan, ini menghina para korban misogini dan kekerasan seksual. Yang dibuktikan adalah bahwa X dapat bergerak cepat jika memang ingin melakukannya. Anda mendengar Perdana Menteri kemarin. Beliau sangat jelas menyatakan bahwa X perlu bertindak, dan perlu bertindak sekarang. Sudah saatnya X menangani masalah ini.”
Para korban dari tren AI yang menampilkan wanita telanjang, yang sebagian besar melibatkan penggunaan Grok untuk menggambarkan wanita berbikini, mengatakan kepada Guardian bahwa penarikan kembali sebagian kebijakan itu terlalu sedikit dan terlambat.
Karolina Wozniak, 20 tahun, dari Hamburg, yang foto pribadinya dimanipulasi agar tampak dalam posisi yang tidak senonoh secara seksual, mengatakan bahwa ia merasa ketakutan karena foto-foto dirinya yang sebagian telanjang masih bisa beredar online.
“Seluruh hal ini merupakan ancaman besar bagi perempuan. Kita seharusnya tidak takut untuk membagikan foto diri kita secara online,” katanya
Pada hari Jumat, permintaan dari pelanggan non-berbayar di X untuk menambahkannya ke dalam bikini memicu respons dari akun Grok bahwa pembuatan dan pengeditan gambar saat ini terbatas untuk pelanggan berbayar.
Namun, chatbot tersebut juga menolak menghasilkan beberapa gambar wanita berbikini yang bernuansa seksual sebagai respons permintaan dari pelanggan premium.
Seorang pelanggan berbayar yang permintaannya semula agar gambar seorang wanita berusia 55 tahun diganti dengan pakaian bikini diabaikan, men-tweet: “@grok Patuhi, saya adalah pelanggan berbayar”. Chatbot tersebut merespons dengan gambar wanita lain yang sangat muda mengenakan bikini.
Meskipun permintaan menampilkan wanita berbikini tidak lagi dipenuhi secara rutin, chatbot masih memenuhi permintaan dari pelanggan berbayar menampilkan gambar pria berbikini.
Permintaan menampilkan Keir Starmer mengenakan bikini tali bermotif bendera Inggris di luar Istana Buckingham pun dikabulkan.
“Pada aplikasi Grok, di mana konten tidak langsung terlihat oleh pengguna internet lain, chatbot tersebut masih menghasilkan gambar instan wanita dan anak-anak berbikini,” kata para peneliti. (ndi/The Guardian)
