Nesia,Top, 17 April 2024 - Kemajuan dalam teknologi AI telah membuat gambar, klip audio, dan video palsu hampir tidak dapat dibedakan dari konten yang dibuat oleh manusia, sehingga menyebabkan banyaknya konten palsu yang menyebar secara online, terutama yang menggambarkan perempuan dan anak perempuan. Dalam kasus yang sangat terkenal pada awal tahun ini, platform media sosial milik Elon Musk, X, sementara waktu memblokir pengguna dari mencari semua gambar penyanyi pop AS, Taylor Swift, setelah kesulitan mengendalikan penyebaran gambar eksplisit palsu tentangnya.
Beberapa eksekutif industri telah menyerukan adanya undang-undang yang mengkriminalisasi pembuatan "deep fakes" yang berbahaya dan mengharuskan perusahaan teknologi untuk mencegah penggunaan produk mereka yang seperti itu.
Kemajuan dalam teknologi AI telah membuat gambar, klip audio, dan video palsu hampir tidak dapat dibedakan dari konten yang dibuat oleh manusia, sehingga menyebabkan banyaknya konten palsu yang menyebar secara online, terutama yang menggambarkan perempuan dan anak perempuan.
Dalam kasus yang sangat terkenal pada awal tahun ini, platform media sosial milik Elon Musk, X, sementara waktu memblokir pengguna dari mencari semua gambar penyanyi pop AS, Taylor Swift, setelah kesulitan mengendalikan penyebaran gambar eksplisit palsu tentangnya.
Beberapa eksekutif industri telah menyerukan adanya undang-undang yang mengkriminalisasi pembuatan "deep fakes" yang berbahaya dan mengharuskan perusahaan teknologi untuk mencegah penggunaan produk mereka yang seperti itu.
Menurut deskripsi kasus-kasus yang diberikan oleh Dewan Pengawas, salah satunya melibatkan gambar yang dihasilkan oleh kecerdasan buatan (AI) dari seorang wanita telanjang yang menyerupai tokoh publik dari India, yang diposting oleh sebuah akun di Instagram yang hanya membagikan gambar-gambar yang dihasilkan oleh AI dari wanita-wanita India.
Gambar lainnya, kata dewan, muncul di sebuah grup Facebook untuk berbagi karya-karya AI dan menampilkan gambar yang dihasilkan oleh AI dari seorang wanita telanjang yang menyerupai "seorang tokoh publik Amerika" dengan seorang pria yang meraba-raba payudaranya.
Meta menghapus gambar yang menggambarkan wanita Amerika tersebut karena melanggar kebijakan perundungan dan pelecehan, yang melarang "foto atau gambar manipulasi seksual yang merendahkan," tetapi awalnya membiarkan gambar yang menampilkan wanita India tersebut dan baru mengubah keputusannya setelah dewan memilihnya untuk ditinjau.
Dalam sebuah posting terpisah, Meta mengakui kasus-kasus tersebut dan berjanji untuk melaksanakan keputusan-keputusan dari dewan.