Perayaan Mythos tentang risiko AIP yang salah kepada bank. Tidak disebutkan.

(SeaPRwire) –   Apabila Setiausaha Perbendaharaan Scott Bessent dan Pengerusi Rizab Persekutuan Jay Powell mengumpulkan ketua eksekutif bank-bank terkemuka AS awal bulan ini untuk membincangkan model terbaru Anthropic, Mythos, mereka menandakan peralihan dalam cara kecerdasan buatan difahami dalam sektor kewangan. Ini bukan mesyuarat tentang inovasi sebaliknya amaran: model yang mampu mengenal pasti dan mengeksploitasi kelemahan boleh menimbulkan risiko besar kepada infrastruktur kewangan teras.

Kebimbangan itu beralasan. Namun tumpuan masih terlalu sempit.

Dalam beberapa tahun kebelakangan ini, dalam perbincangan dengan institusi kewangan terkemuka, saya telah melihat betapa cepatnya kebimbangan timbul sebaik sahaja penggunaan AI untuk tujuan serangan difahami. Namun penerjemahan kepada tindakan masih perlahan dan tidak sekata. Kebanyakan tumpuan semasa tertumpu kepada risiko siber. Ini adalah ancaman serius. Tetapi ia bukan satu-satunya ancaman dan bukan yang paling segera.

Selain risiko yang ditonjolkan oleh Mythos, satu ancaman selari telah pun berlaku secara besar-besaran. Ia tidak bergantung kepada model hadapan baharu, sebaliknya kepada keupayaan AI yang sudah pun tersedia secara meluas. Dan tidak seperti serangan siber yang memerlukan akses kepada sistem, ancaman ini beroperasi dengan menyasarkan manusia.

Apa Yang Berubah Bukan Sekadar Kecanggihan — Tetapi Ekonomi

Kecerdasan buatan telah menjadikan penipuan jauh lebih murah, lebih mudah dilaksanakan, dan jauh lebih boleh diskalakan. Apa yang suatu ketika dahulu memerlukan masa dan penyelarasan kini boleh diautomasikan dan digunakan secara skala industri. Sistem AI boleh menjana ribu mesej, suara dan video yang meyakinkan dalam beberapa saat, setiap satu disesuaikan untuk individu tertentu. Ini bukan perubahan sedikit demi sedikit. Ia adalah perubahan struktur.

Penipuan telah beralih daripada aktiviti manual kepada aktiviti yang didorong oleh mesin. Kempen kejuruteraan sosial yang hiper-peribadi, selalunya dikuasakan oleh ejen AI, kini beroperasi merentasi pelbagai saluran, bidang kuasa, dan identiti. Mereka meniru eksekutif, penasihat, atau ahli keluarga dengan kebolehpercayaan yang semakin meningkat, mewujudkan keadaan terdesak dan mendorong pemindahan wang yang diberi kuasa.

Dalam senario ini, sistem tidak diceroboh. Ia dilepasi.

Sistem Tidak Dihack. Pelanggan Diyakinkan.

Pelanggan tidak semestinya dihack. Mereka diyakinkan. Dan disebabkan transaksi diberi kuasa oleh pelanggan, langkah keselamatan sedia ada selalunya tidak berkesan. Pemeriksaan biometrik boleh ditewaskan oleh deepfake. Pemantauan berasaskan peraturan ditentukur untuk mengesan penipu manusia, bukan rangkaian ejen AI yang diselaraskan dan beroperasi pada kelajuan mesin.

Ini mewujudkan jenis risiko yang berbeza secara asasnya.

Tidak seperti serangan siber yang selalunya bersifat episodik dan kelihatan jelas, penipuan yang didayakan AI beroperasi sebagai kebocoran dana yang berterusan dan teragih merentasi berjuta-juta transaksi. Ia adalah ancaman yang menjalar: lebih mudah dilaksanakan, lebih cepat diskalakan, dan selalunya tidak kelihatan sehingga kerugian menjadi besar. Trajektori ini menjurus kepada kerugian bertrilion dolar pada tahun-tahun akan datang.

Risiko Bukan Sekadar Kewangan

Jika orang ramai mula percaya bahawa institusi kewangan tidak dapat melindungi pelanggan daripada manipulasi dan penipuan, kepercayaan terhadap sistem akan terhakis. Akibatnya akan melangkaui kerugian kewangan. Geseran akan meningkat, pelanggan akan berhati-hati, dan keyakinan terhadap keupayaan bank untuk menjaga wang pelanggan mungkin merosot dengan cara yang tidak kurang memudaratkan berbanding ancaman siber.

Ini bukan ancaman yang lebih besar daripada risiko siber. Ia adalah ancaman selari. Dan ia patut diberi perhatian yang sama.

Reka Bentuk Pertahanan Semula, Bukan Pembaikan Sedikit Demi Sedikit

Kebanyakan institusi masih bergantung kepada data yang berpecah-belah, pemantauan warisan dan analisis diketuai manusia yang tidak dapat mengekalkan rentak dengan ancaman yang disesuaikan dan didorong AI. Tindak balas yang bermakna memerlukan reka bentuk seni bina semula: pengesanan asli AI masa nyata; integrasi isyarat penipuan, AML dan tingkah laku; dan keupayaan untuk campur tangan pada titik transaksi, termasuk dalam pembayaran yang diberi kuasa.

Ia juga memerlukan peralihan daripada pertahanan terpencil kepada pertahanan yang diselaraskan. Kempen penipuan menyasarkan pelanggan merentasi institusi secara serentak, manakala kawalan masih bersendirian. Tindak balas yang berkesan bergantung kepada pengenalpastian corak dan kempen secara masa nyata. Pertimbangan privasi dan persaingan tetap penting, tetapi ia tidak lagi boleh menjadi alasan untuk titik buta struktur. Teknologi pemeliharaan privasi menawarkan jalan ke hadapan, membolehkan institusi berkongsi isyarat tanpa mendedahkan data sensitif.

Selari dengan itu, institusi perlu menerima pakai pendekatan “Defence AI”: menggunakan AI untuk mempertahankan daripada ancaman didorong AI. Barisan pertahanan pertama yang hanya terdiri daripada manusia tidak boleh diskalakan. Sistem asli AI mesti menyokong pengesanan dan tindak balas yang lebih pantas di bawah penyeliaan manusia.

Pengawal Selia Juga Perlu Mengadakan Mesyuarat Mengenai Isu Ini — Sebelum Bencana Tiba

Pengajaran daripada momen Mythos bukan sahaja bahawa AI boleh memecahkan sistem. Ia adalah bahawa sistem kewangan sudah pun dieksploitasi dengan cara lain: yang kurang kelihatan, lebih boleh diskalakan dan berpotensi sama merosakkan.

Jika sistem kewangan tidak bertindak balas dengan cepat, akibatnya akan teruk: kerugian meningkat, geseran meningkat, dan hakisan kepercayaan orang ramai yang ketara.

Pengawal selia juga patut mengadakan mesyuarat dengan pemimpin kewangan kanan mengenai isu ini, sebagai risiko AI selari, sebelum bencana yang sudah pun mampu dicapai oleh pelaku jahat benar-benar berlaku. Sistem kewangan, sektor teknologi dan penggubal dasar kini mesti mengiktiraf skala kelemahan ini dan bertindak dengan lebih segera.