(SeaPRwire) – Bayangkan: Ia adalah pagi selepas Hari Pilihan Raya 2024, dan Amerika bangun dengan video viral yang menunjukkan undi dibuang ke dalam tong sampah dan rakaman kamera keselamatan kakitangan tempat pengundian memasukkan peti undi di negeri-negeri penting. Dalam masa beberapa jam, ahli politik, penganalisis, dan influencer media sosial menjerit ketidakadilan. Tetapi inilah twistnya—tiada satu pun daripada peristiwa ini sebenarnya berlaku. Ia adalah deepfake digital, direka untuk kelihatan sangat nyata sehingga walaupun penganalisis berpengalaman pun tidak dapat membezakannya.
Senario ini bukanlah sesuatu yang tidak masuk akal, tetapi kita masih jauh dari bersedia. Saya telah menghabiskan setahun yang lalu memimpin permainan perang mengenai cabaran ancaman yang dikuasakan oleh AI terhadap pilihan raya bersama pakar teknologi, pegawai kerajaan sekarang dan bekas, dan kumpulan masyarakat sivil. Tanpa mengira siapa yang memenangi perlumbaan presiden, salah satu kebimbangan terbesar kami ialah kemungkinan sebenar “kejutan November”—bukan hanya kontroversi yang meletus pada saat-saat akhir sebelum Hari Pilihan Raya, tetapi serangan pasca-pilihan raya yang dihasilkan oleh AI yang bertujuan untuk meyakinkan pengundi bahawa pilihan raya telah dicuri.
Asas untuk krisis ini telah pun diletakkan.
Pertama, bidang pelakon jahat telah berkembang. Selepas pilihan raya 2016, saya pergi ke Jabatan Keselamatan Dalam Negeri di mana saya membantu menyemak semula keselamatan pilihan raya Amerika Syarikat selepas campur tangan Rusia. Anda mungkin berfikir bahawa pendedahan campur tangan Moscow akan menghalang penyerang masa hadapan. Tetapi gangguan pilihan raya sejak itu telah menjadi sukan profesional, dengan lebih banyak pasukan menyertai permainan, seperti China dan Iran.
Kedua, tempoh pasca-pilihan raya kini menjadi sasaran. Tahun 2020 menunjukkan bagaimana rakyat Amerika—terutama pihak yang kalah—mudah terpengaruh dengan dakwaan bahawa sistem itu dicurangi. Musuh asing dan ekstremis domestik belajar bahawa mereka tidak perlu mengubah jumlah undian itu sendiri; mereka hanya perlu menabur keraguan selepas itu, apabila emosi berada pada tahap tertinggi dan kepercayaan terhadap keputusan itu paling lemah.
Ketiga, pegawai pilihan raya mengakui bahawa mereka tidak bersedia. Dalam perjalanan saya di seluruh negara, pemimpin negeri dan tempatan berulang kali memberitahu saya bahawa salah satu ketakutan terbesar mereka ialah kemunculan “bukti” yang kelihatan sahih bahawa pilihan raya telah dicuri yang tidak dapat mereka sangkal dengan mudah. Tidak seperti pada tahun 2020, di mana kebanyakan tuntutan palsu dibuang, AI forgery hari ini mudah dibuat dan mungkin mengambil masa berminggu-minggu—atau bahkan berbulan-bulan—untuk disangkal. Pada masa itu, kerosakan telah pun berlaku.
Lebih buruk lagi, hubungan antara pegawai kerajaan dan syarikat media sosial lebih rapuh berbanding sebelum ini. Kes mahkamah dan kontroversi mengenai penyensuran dalam talian telah mewujudkan kesan menakutkan, menyebabkan kedua-dua pihak enggan bekerjasama. Hasilnya ialah pihak tempatan mempunyai kurang sumber teknikal untuk bergantung kepada dalam masa krisis.
Untuk makluman, AI bukanlah musuh di sini. Teknologi pembelajaran mesin akhirnya akan membantu melindungi pilihan raya kita dengan lebih baik. Syarikat permulaan muncul untuk memerangi risiko ini, daripada syarikat permulaan pengesanan deepfake kepada firma yang meningkatkan keselamatan siber rangkaian pilihan raya. Tetapi hari ini kita berada dalam “tingkap arbitraj” yang berbahaya di mana pelakon jahat boleh menyerang sebelum pihak yang baik mempunyai alat untuk melancarkan pertahanan yang kukuh.
Jadi apakah ubatnya antara sekarang dan Hari Pilihan Raya?
Jawapan terbaik ialah kesedaran awam. Pengundi mesti membangunkan pengiktirafan corak untuk kepalsuan ini seperti yang kita lakukan apabila spam mula memasuki peti masuk e-mel kita pada tahun 1990-an. Deepfakes akan menjadi “putera Nigeria” yang baharu dalam peti masuk kita, yang memberitahu kita untuk menghantar wang $10,000 kepada mereka. Hanya sekarang mereka akan lebih peribadi, lebih meyakinkan, dan lebih merata, termasuk apabila ia melibatkan penipuan kita tentang demokrasi kita sendiri.
Pada jangka masa panjang, kita perlu menyemak semula seni bina keselamatan pilihan raya kita. Ya, kita telah membuat kemajuan yang besar selepas serangan Rusia pada tahun 2016, tetapi Amerika masih terdedah. Kongres harus mewajibkan agensi untuk melabur dalam teknologi yang lebih melindungi sistem pengundian, memperkasakan pegawai untuk mengenal pasti kandungan sintetik yang digunakan untuk penipuan atau penindasan pengundi (tanpa menjadi pengadil kebenaran), dan mewujudkan garis panduan yang tepat untuk penglibatan antara pekerja pilihan raya dan syarikat media sosial.
Sementara itu, pemain industri teknologi harus mempercepat usaha untuk membantu pengguna mengesan media “sebenar” atau “dimanipulasi” secara lalai, termasuk melalui tandatangan kriptografi dan tanda air.
Dalam simulasi baru-baru ini, saya melihat betapa mudahnya deepfake pasca-pilihan raya dapat menukarkan keadaan yang buruk menjadi huru-hara total. “Pasukan merah”—memainkan peranan sebagai musuh asing—dapat membuat video yang realistik yang mendakwa menunjukkan kakitangan tempat pengundian memusnahkan undi di negeri ayun. Semasa klip itu tersebar, “pasukan biru”—memainkan peranan sebagai pegawai pilihan raya—berusaha untuk mengesahkan kesahihan video itu manakala pengulas mem煽动火势. Pada masa kita membuktikannya palsu, kerosakan telah pun berlaku. Pengundi telah turun ke jalan.
Calon atau kempen yang korup dapat mencetuskan huru-hara dengan melakukan perkara yang sama. Baru-baru ini, dilaporkan bahawa ketua Jawatankuasa Hubungan Luar Negeri Senat telah ditipu untuk menyertai panggilan Zoom dengan pegawai kanan Ukraine yang ternyata adalah deepfake. Tidak banyak imaginasi diperlukan untuk melihat bagaimana pengendali politik dapat menggunakan taktik ini untuk menyamar sebagai tokoh yang boleh dipercayai untuk berkongsi maklumat palsu mengenai keputusan pilihan raya dengan lawan atau penyokong mereka, untuk menyebarkan penyelidikan pembangkang yang dibuat-buat, atau untuk mengalihkan perhatian calon lain dalam masa krisis. Anggaplah ia sebagai muslihat kotor yang dipertingkatkan.
Ini adalah masa depan yang kita sedang menuju ke arahnya, dan tidak cukup untuk bertindak balas dengan cepat apabila ia tiba. Kita perlu membincangkannya sekarang—sebelum undi diundi dan pertempuran untuk mendapatkan legitimasi bermula. Jika tidak, Amerika mungkin bangun pada 6 November dengan kejutan yang menakutkan: perang digital untuk demokrasi di mana kebenaran adalah mangsa pertama.
Artikel ini disediakan oleh pembekal kandungan pihak ketiga. SeaPRwire (https://www.seaprwire.com/) tidak memberi sebarang waranti atau perwakilan berkaitan dengannya.
Sektor: Top Story, Berita Harian
SeaPRwire menyampaikan edaran siaran akhbar secara masa nyata untuk syarikat dan institusi, mencapai lebih daripada 6,500 kedai media, 86,000 penyunting dan wartawan, dan 3.5 juta desktop profesional di seluruh 90 negara. SeaPRwire menyokong pengedaran siaran akhbar dalam bahasa Inggeris, Korea, Jepun, Arab, Cina Ringkas, Cina Tradisional, Vietnam, Thai, Indonesia, Melayu, Jerman, Rusia, Perancis, Sepanyol, Portugis dan bahasa-bahasa lain.