Cacing AI: Apabila Musuh Anda Tidak Perlu Lagi Senarai Eksploitasi

(SeaPRwire) –   Gary McGraw dari Berryville Institute of Machine Learning tidak berlembut. “Ini lebih besar daripada Mythos,” katanya. Penemuan penyelidik Universiti Toronto tentang cacing yang didorong agen AI bukan sekadar satu lagi kelemahan perisian. Ia adalah perubahan paradigma. Cacing tradisional seperti Heartbleed atau WannaCry bergantung pada satu pepijat. Sekarang, otak AI boleh mencari sebarang pepijat. Ia seperti membandingkan pencuri yang membawa satu kunci master dengan penceroboh yang membawa seluruh kedai perkakasan dan tahu cara membuat kunci sendiri.

[Official Release Facts] Kertas penyelidikan ‘AI Agents Enable Adaptive Computer Worms’ dikeluarkan semalam. Cacing AI ini tidak dieksploitasi satu kelemahan. Ia menggunakan penaakulan LLM berat terbuka untuk mengesan dan mengeksploitasi pelbagai kelemahan sambil merebak. Dalam simulasi rangkaian korporat 33 mesin, cacing itu berjaya menceroboh hampir tiga per perempat mesin dalam seminggu tanpa campur tangan manusia. Ia juga boleh membaca nasihat kerentanan terkini dalam masa nyata dan mencari cara mengeksploitasinya sendiri, memintas “potongan pengetahuan” LLM.

[Industry Subtext] Ancaman sebenar bukan pada model gergasi seperti Anthropic’s Mythos, yang sudah mengejutkan pasukan keselamatan melalui Project Glasswing. Ancaman datang dari model berat terbuka yang lebih kecil dan generik. “Ini menunjukkan apa yang berlaku apabila model generik yang berat terbuka boleh disasarkan,” kata McGraw. Ia mengisar tanpa henti, mencari pepijat. Bagi organisasi yang masih menampal berdasarkan garis masa manusia, mereka sudah ketinggalan. Ari Herbert-Voss dari RunSybil memberi amaran: kelajuan serangan kini adalah kelajuan mesin.

Pertahanan masih mempunyai kelebihan teknikal untuk sekarang. Jamieson O’Reilly dari Dvuln mengingatkan bahawa memindahkan fail model besar merentasi rangkaian mencipta trafik yang boleh dikesan. Tetapi kelebihan itu akan terkikis apabila model menjadi lebih kecil dan cekap. Perbincangan tentang pertahanan AI atau pemantauan canggih sering mengaburi isu asas. McGraw meletakkannya dengan jelas. Penyelesaiannya mungkin sukar, tetapi tidak rumit. “Baiki perisian sialan anda.” Itulah landskap rantaian bekalan keselamatan yang sebenar. Semua teknologi lain hanyalah pelindung.