Deepfakes Taylor Swift Menghamburkan Keperluan untuk Perlindungan Undang-Undang Baru

(SeaPRwire) –   Deepfake pornografi gambar-gambar palsu telah dikongsi merentasi platform media sosial X, menyoroti ketiadaan perlindungan privasi digital untuk mangsa di seluruh dunia.

Tiada yang diketahui siapa yang menjana gambar palsu Swift, yang telah ditonton berpuluh juta kali sejak Rabu. Pada Jumaat, X pasukan mereka sedang bekerja untuk menghapuskan semua ketelanjangan tidak bersetuju dari laman web mereka, yang “dilarang sama sekali.”

“Kami komited untuk mengekalkan persekitaran yang selamat dan berhormat untuk semua pengguna,” kata syarikat itu. Swift belum memberi sebarang komen mengenai perkara ini.

Swift mungkin mangsa terkini deepfakes terkenal, tetapi Carrie Goldberg, seorang peguam berpangkalan di Bandar Raya New York yang bekerja dengan mangsa penyalahgunaan teknologi, mengatakan bahawa dia telah melihat peningkatan kanak-kanak dan bukan selebriti jatuh mangsa kepada bentuk penyalahgunaan dalam talian ini sepanjang dekad lepas. “Negara kita telah membuat banyak kemajuan dalam mengharamkan penyebaran gambar bogel tidak bersetuju, tetapi kini deepfakes seolah-olah mengisi jurang [perlindungan undang-undang],” kata Goldberg.

Deepfakes—fail media dimanipulasi yang menggambarkan imej atau video palsu seseorang—telah sepanjang beberapa tahun kebelakangan ini. Anggaran terdahulu menunjukkan bahawa dalam sembilan bulan pertama 2023, sekurang-kurangnya 244,635 video deepfake telah dimuat naik ke 35 laman web teratas yang menganjurkan pornografi deepfake.

Sepuluh negeri—seperti Virginia dan Texas— mempunyai undang-undang jenayah terhadap deepfakes, tetapi tiada undang-undang persekutuan yang berkuat kuasa. Pada Mei 2023, Wakil Joe Morelle, seorang Demokrat dari New York, memperkenalkan Akta Mencegah Deepfakes Imej Intim yang Tidak Bersetuju untuk mengkriminalisasikan penyebaran gambar seksual deepfake tidak bersetuju secara dalam talian. Rang undang-undang itu dirujuk kepada Jawatankuasa Kehakiman Dewan, tetapi sejak itu. Pada Januari, pembuat undang-undang juga memperkenalkan Akta Tiada Replika Palsu Buatan Kecerdasan dan Penyalinan Tanpa Kebenaran (No AI Fraud) yang akan melindungi rakyat Amerika daripada mempunyai imej dan suara mereka diperdayakan.

Penyokong amaran bahawa isu ini terutamanya membawa risiko untuk wanita muda, yang secara meluas mangsa deepfakes. “Deepfakes adalah simptom masalah [keganasan dalam talian] lebih besar terhadap wanita dan kanak-kanak perempuan yang secara bersejarah tidak diutamakan oleh syarikat teknologi dan masyarakat,” kata Adam Dodge, pengasas Endtab (Menghentikan Penyalahgunaan Teknologi), syarikat pendidikan dan latihan keselamatan digital untuk mangsa gangguan dalam talian. “​​Saya berharap serangan Taylor Swift ini menyoroti cahaya yang cukup terang tentang isu yang telah wujud selama bertahun-tahun sehingga kita benar-benar melihat tindakan untuk mencegah dan mempertanggungjawabkan orang yang mencipta dan berkongsi imej-imej ini.”

Perlindungan undang-undang untuk mangsa

Deepfakes, yang Dodge huraikan sebagai “pertukaran muka,” sangat mudah dibuat. Pengguna tidak perlu apa-apa pengalaman pengkodan atau AI untuk menjana mereka. Sebaliknya, platform dalam talian boleh menjana mereka untuk pengguna dalam talian dengan hanya beberapa klik dan penghantaran foto atau video. Deepfakes boleh digunakan untuk kandungan eksplisit, tetapi boleh untuk menjana mesej audio palsu yang berpotensi untuk mengganggu pilihan raya, misalnya.

Pakar-pakar amaran bahawa terdapat sistem syarikat dan individu yang meluas yang mendapat manfaat dan boleh bertanggungjawab untuk deepfakes. “Bermula pada bahagian atas, terdapat enjin carian di mana anda boleh mencari ‘Bagaimana saya boleh membuat deepfake’ yang kemudiannya akan memberi anda beberapa pautan,” kata Goldberg. “Terdapat produk itu sendiri yang wujud hanya untuk tujuan-tujuan jahat…individu yang sebenarnya menggunakan produk itu untuk mencipta pangkalan data, dan kemudian para penonton yang mungkin berkongsi.”

Dodge mengatakan bahawa kerana internet memudahkan penyebaran kandungan dengan cepat—deepfakes Swift, misalnya, mempunyai lebih daripada 27 juta tontonan dan 260,000 suka dalam 19 jam, NBC News —hampir mustahil untuk menghapuskan semua kandungan palsu dari internet. “Ini sangat membimbangkan apabila masa adalah penting dan setiap saat gambar itu di atas ia sedang dikongsi dan dimuat turun pada kadar eksponen,” katanya. Syarikat seperti Google dan X mengharamkan media yang mengelirukan, tetapi mungkin lambat bertindak atau menghapuskan fail media.

Menahan platform media sosial secara undang-undang bertanggungjawab untuk penyebaran deepfakes adalah sukar kerana perlindungan Akta Kecekapan Komunikasi. Undang-undang itu menyatakan bahawa “tiada penyedia atau pengguna perkhidmatan komputer interaktif hendaklah diperlakukan sebagai penerbit atau pemberi maklumat mana-mana maklumat yang disediakan oleh pembekal kandungan maklumat lain,” yang bermakna platform seperti Instagram atau Facebook tidak bertanggungjawab untuk kandungan pihak ketiga yang dimuat naik di laman web mereka.

Walau bagaimanapun, Goldberg mengatakan adalah mungkin untuk memegang syarikat bertanggungjawab jika terdapat ciri unik yang membolehkan platform itu untuk menyebarkan kerosakan. Ia bagaimana Goldberg memenangi kes untuk menutup Omegle, bilik chat dalam talian yang membenarkan aliran video tanpa nama, untuk memudahkan penyalahgunaan seks kanak-kanak.

Masih, Dodge memberi amaran bahawa AS kekurangan infrastruktur yang diperlukan untuk membantu mangsa deepfakes dengan betul. “Penguatkuasa undang-undang tidak dilatih atau distaf dengan betul untuk mengejar penyerang tanpa nama ini dan akibatnya, mangsa yang mengalami ini berdepan dengan halangan untuk mendapatkan keadilan dengan cepat,” katanya. Sebahagian daripada itu adalah kerana penyiasat mungkin tidak memahami bagaimana deepfakes berfungsi; Dodge mengatakan bahawa kebanyakan mangsa yang dia bercakap telah menanggung beban menentukan cara untuk menghapuskan imej mereka sendiri.

Penyelesaian itu, pakar mengatakan, akan memerlukan undang-undang untuk berhenti melindungi syarikat yang memperoleh keuntungan daripada jenis imej dan video ini, terutamanya kerana mereka begitu mudah dijana. “Kita tidak boleh menghalang seseorang daripada mengambil foto kita…anda tidak boleh menyalahkan mangsa di sini,” kata Goldberg. “Semua yang telah mereka lakukan adalah wujud.”