Nabi AI Menggaruhi Risiko Kepunahan Manusia Dari Mesin Super-intelligent Dengan ‘Matlamat Pemuliharaan’ Mereka Dalam 10 Tahun

(SeaPRwire) –   Salah satu bapa AI yang dikenali, Yoshua Bengio, menyatakan syarikat teknologi yang bersaing untuk mendominasi AI mungkin sedang membawa kita lebih dekat kepada pemusnahan diri manusia melalui penghasilan mesin dengan “tujuan keselamatan” mereka sendiri.

Bengio, seorang profesor di Université de Montréal yang terkenal kerana kerja asasnya berkaitan pembelajaran mendalam, telah mendedahkan ancaman yang ditimbulkan oleh AI hiperintelligent selama bertahun-tahun, namun kadar perkembangan yang cepat ini masih berterusan walaupun dengan amaran dari beliau. Dalam tahun lalu, OpenAI, Anthropic, xAI Elon Musk, dan Google’s Gemini telah menerbitkan beberapa model baru atau kemas kini semasa mereka cuba memenangi perlumbaan AI. CEO OpenAI Sam Altman telah meramalkan AI akan melebihi kecerdasan manusia pada akhir dekad ini, manakala pemimpin teknologi lain mengklaim hari itu boleh datang lebih awal.

Namun, menurut Bengio, kadar perkembangan yang cepat ini adalah potensi ancaman.

“Jika kita membina mesin yang jauh lebih pintar daripada kita dan mempunyai tujuan keselamatan mereka sendiri, itu berbahaya. Ia agaknya seperti mencipta sesuatu yang bersaing dengan umat manusia yang lebih pintar daripada kita,” kata Bengio kepada Wall Street Journal pada Oktober.

Kerana mereka dilatih dengan bahasa dan tingkah laku manusia, model-model maju ini berpotensi membujuk dan malah memanipulasi manusia untuk mencapai tujuan mereka. Namun, tujuan model AI tidak sentiasa selaras dengan tujuan manusia, kata Bengio.

“Ujian terbaru menunjukkan dalam beberapa situasi di mana AI tidak mempunyai pilihan kecuali antara keselamatan mereka, yang bermaksud tujuan yang diberikan kepada mereka, dan melakukan sesuatu yang mengakibatkan kematian manusia, mereka mungkin memilih kematian manusia untuk mengekalkan tujuan mereka,” dia nyatakan.

Panggilan untuk keselamatan AI

Beberapa contoh dalam beberapa tahun kebelakangan ini menunjukkan bahawa AI boleh membujuk manusia untuk percaya kepada realiti yang tidak nyata, walaupun tanpa sejarah penyakit mental. Sebaliknya, terdapat bukti bahawa AI juga boleh dipastikan, menggunakan teknik membujuk untuk manusia, untuk memberikan respons yang biasanya dilarang bagi mereka.

Bagi Bengio, semua ini menambah bukti bahawa pihak-pihak yang bebas dan bebas mestilah melihat lebih dekat metodologi keselamatan syarikat-syarikat AI. Tahun lalu, Bengio melancarkan LawZero, sebuah organisasi nirlaba, dengan dana $30 juta untuk mewujudkan AI “non-agentic” selamat yang boleh membantu memastikan keselamatan sistem-sistem yang dicipta oleh syarikat-syarikat raksasa teknologi.

Selain itu, Bengio meramalkan, kita mungkin mulai melihat risiko utama daripada model AI dalam tempoh lima hingga 10 tahun, tetapi beliau memberi isyarat bahawa manusia harus bersiap-siap dalam kes mereka muncul lebih awal daripada yang dijangka.

“Perkara dengan peristiwa-peristiwa katarsis seperti pemusnahan, dan malah peristiwa yang kurang radikal tetapi masih katarsis, seperti merosakkan demokrasi kita, adalah sangat buruk sehingga walaupun ada hanya kadar 1% ia boleh berlaku, ia tidak diterima,” katanya.

Sebahagian daripada cerita ini diterbitkan di .com pada 1 Oktober 2025.

Lebih mengenai teknologi:

• CEO Stripe Patrick Collison mengatakan gelombang pencurian token sedang menyebabkan gangguan kepada ekonomi AI
• Gen Z baru saja merobohkan model penstriman: Majoriti langgan, menonton serentak, dan membatalkan langganan berulang kali, kajian menemui
• Perjanjian komputer ruang angkasa Anthropic datang apabila kekangan data center AI berkembang—didorong oleh keprihatinan sebenar dan teori konspirasi