Dalam Cerita Ini
Para pembuat undang-undang dan advokat mendorong undang-undang federal untuk mengkriminalisasi pornografi yang dihasilkan AI. Mereka mengatakan bahwa apa yang disebut pornografi deepfake merusak kehidupan para korban, yang sebagian besar adalah perempuan dan anak perempuan.
“Jika tidak ada undang-undang yang jelas di tingkat federal dan negara bagian, saat korban mendatangi penegak hukum, mereka sering diberi tahu bahwa tidak ada yang bisa dilakukan,” kata direktur kelompok advokasi bernama Image-Based Sexual Violence Initiative, Andrea Powell, dalam diskusi meja bundar baru-baru ini tentang masalah tersebut. Forum daring tersebut diselenggarakan oleh lembaga nirlaba National Organization for Women (NOW).
“Orang-orang tersebut kemudian menerima ancaman kekerasan seksual, pelecehan, dan sayangnya, kami juga menemukan bahwa beberapa orang [victims] tidak akan bertahan hidup,” tambah Powell. Ia menyebut aplikasi AI deepfake nude sebagai “senjata virtual” untuk pria dan anak laki-laki.
Istilah “pemalsuan mendalam“adalah diciptakan pada akhir tahun 2017 oleh pengguna Reddit yang menggunakan Google (Google) teknologi pertukaran wajah sumber terbuka untuk membuat video porno. Konten eksplisit seksual yang dihasilkan AI telah menyebar seperti api sejak ChatGPT membawa kecerdasan buatan generatif ke arus utama. Perusahaan teknologi telah berlomba-lomba untuk membangun alat foto dan video AI yang lebih baik, dan beberapa orang menggunakan alat tersebut untuk melakukan kejahatan. Menurut Powell, ada 9.000 situs web yang tercantum di Google Penelusuran yang menunjukkan penyalahgunaan deepfake yang eksplisit. Dan antara tahun 2022 dan 2023, Konten seksual deepfake daring meningkat lebih dari 400%.
“Ini sudah sampai pada titik di mana Anda melihat anak perempuan berusia 11 dan 12 tahun takut untuk berinternet,” katanya.
Peraturan deepfake berbeda-beda di setiap negara bagian. Sejauh ini, 10 negara bagian memiliki undang-undang dalam undang-undang, dan enam negara bagian tersebut memberlakukan hukuman pidana. RUU deepfake tambahan sedang menunggu keputusan di Florida, Virginia, California, dan Ohio. Dan San Francisco minggu ini mengajukan gugatan hukum yang inovatif terhadap 16 situs web porno deepfake.
Namun, para pendukung mengatakan kurangnya konsistensi di antara undang-undang negara bagian menimbulkan masalah, dan peraturan federal sudah lama terlambat. Mereka juga mengatakan bahwa platform, bukan hanya individu, harus bertanggung jawab atas deepfake yang tidak disetujui.
Beberapa pembuat kebijakan federal sedang mengusahakannya. Perwakilan Joe Morelle (NY) pada tahun 2023 memperkenalkan Undang-Undang Pencegahan Deepfake Gambar Intimyang akan mengkriminalisasi penyebaran deepfake tanpa persetujuan. Tak lama setelah foto telanjang Taylor Swift menjadi viral di internet, anggota parlemen memperkenalkan UU DEFIANCEyang akan memperkuat hak korban untuk mengambil tindakan perdata. Dan RUU bipartisan yang disebut Undang-Undang Perlindungan Privasi Intim akan meminta pertanggungjawaban perusahaan teknologi jika mereka gagal mengatasi konten telanjang deepfake di platform mereka.
Sementara itu, para korban dan advokat menangani masalah ini sendiri. Breeze Liu bekerja sebagai kapitalis ventura saat ia menjadi sasaran pelecehan seksual deepfake pada tahun 2020. Ia menciptakan aplikasi bernama Alecto AI yang membantu orang melacak dan menghapus konten deepfake daring yang menggunakan kemiripan mereka.
Mengenang pengalaman pribadinya sebagai korban penyalahgunaan deepfake, Liu berkata selama pertemuan daring para advokat, “Saya merasa mungkin lebih baik mati saja karena itu benar-benar mengerikan.
“Sudah cukup lama kita menderita akibat pelecehan gambar daring,” imbuhnya. “Saya membangun perusahaan ini dengan harapan bahwa kita semua dan generasi mendatang suatu hari nanti akan menganggap remeh bahwa tidak seorang pun akan pernah mati akibat apa yang terjadi, kekerasan yang terjadi daring.”
Selain Alecto AI, Liu juga mengadvokasi perubahan kebijakan federal yang akan mengkriminalisasi pornografi deepfake AI nonkonsensual, seperti RUU Morelle tahun 2023. Namun, Undang-Undang Pencegahan Deepfake Gambar Intim belum mengalami kemajuan sejak diperkenalkan tahun lalu.
Patut dicatat, beberapa perusahaan teknologi telah mengambil langkah untuk mengatasi masalah ini. Google pada tanggal 31 Juli memperbarui kebijakannya untuk mengurangi konten deepfake yang tidak konsensual. Yang lain menghadapi tekanan. Meta (META) Dewan Pengawas pada akhir Juli mengatakan perusahaan harus melakukan lebih banyak hal untuk mengatasi konten eksplisit yang dihasilkan AI pada platformnya.