Aktual.co.id – Para senator Amerika Serikat meminta X, Meta, Alphabet, Snap, Reddit, dan TikTok untuk memberikan bukti bahwa mereka memiliki ‘perlindungan dan kebijakan yang kuat guna menjelaskan bagaimana berencana mengekang maraknya deepfake yang berbau seksual di platform mereka.
Para senator menuntut agar perusahaan tersebut menyimpan semua dokumen dan informasi yang berkaitan dengan pembuatan, deteksi, moderasi, dan monetisasi gambar-gambar seksual yang dihasilkan oleh AI, serta kebijakan-kebijakan terkait.
Surat itu datang beberapa jam setelah X mengatakan telah memperbarui Grok untuk melarangnya membuat suntingan gambar orang sungguhan dengan pakaian terbuka dan membatasi pembuatan penyuntingan gambar melalui Grok untuk pelanggan berbayar.
Merujuk pada laporan media tentang betapa mudah dan seringnya Grok menghasilkan gambar-gambar seksual dan telanjang perempuan dan anak-anak, para senator menunjukkan bahwa pengamanan platform untuk mencegah pengguna memposting gambar seksual tanpa persetujuan mungkin tidak cukup.
“Kami menyadari banyak perusahaan memiliki kebijakan yang melarang penggambaran intim tanpa persetujuan dan eksploitasi seksual, dan banyak sistem AI mengklaim memblokir pornografi eksplisit. Namun, dalam praktiknya pengguna menemukan cara menghindari batasan-batasan ini,” demikian isi surat tersebut.
Grok, dan X telah banyak dikritik karena memunculkan pemuatan video gambar gambar asusila dan diperkirakan masih berlanjut hingga saat ini.
Deepfake kali pertama populer di Reddit, ketika halaman yang menampilkan video porno sintetis selebriti menjadi viral sebelum platform tersebut menghapusnya pada tahun 2018.
Deepfake yang berbau seksual yang menargetkan selebriti dan politisi telah berkembang pesat di TikTok dan YouTube , meskipun sumber utamanya dari akun lain.
Tahun lalu, Dewan Pengawas Meta menyoroti dua kasus gambar AI eksplisit dari tokoh publik perempuan, dan platform tersebut menayangkan iklan aplikasi pengolah gambar asusila di layanannya.
Sebagai tanggapan atas surat tersebut, X merujuk pada pengumuman mereka mengenai pembaruan Grok. “Kami tidak dan tidak akan mengizinkan media intim tanpa persetujuan (NCIM) di Reddit, tidak menawarkan alat apa pun yang mampu membuatnya, dan mengambil langkah proaktif untuk menemukan dan menghapusnya,” kata juru bicara Reddit dalam pernyataan melalui email.
“Reddit secara tegas melarang NCIM, termasuk penggambaran yang telah dipalsukan atau dihasilkan oleh AI. Kami juga melarang meminta konten ini dari orang lain, membagikan tautan ke aplikasi ‘telanjangi’, atau membahas cara membuat konten ini di platform lain,” tambah juru bicara tersebut.
Alphabet, Snap, TikTok, dan Meta tidak segera menanggapi permintaan komentar.
Surat tersebut menuntut agar perusahaan-perusahaan tersebut menyediakan: Definisi kebijakan tentang konten “deepfake”, “gambar intim tanpa persetujuan”, atau istilah serupa.
Deskripsi kebijakan dan pendekatan penegakan hukum perusahaan terkait deepfake AI tanpa persetujuan yang menampilkan tubuh manusia, gambar non-telanjang, pakaian yang diubah, dan “pengupasan pakaian virtual”.
Deskripsi kebijakan konten terkini yang membahas media yang diedit dan konten eksplisit, serta panduan internal yang diberikan kepada moderator.
Sejumlah negara bagian berupaya mengambil tindakan sendiri untuk melindungi konsumen. Minggu ini, Gubernur New York Kathy Hochul mengusulkan undang-undang yang mewajibkan konten yang dihasilkan AI diberi label sebagai konten AI, dan melarang deepfake tanpa persetujuan dalam periode tertentu menjelang pemilu, termasuk penggambaran kandidat oposisi. (ndi/technochrunc)
