Ancaman Sebenar Keselamatan AI Bukan Kelajuan—Tetapi Kawalan Berpusat

Kod Nakal Memaksa Firma Teknologi Masuk ke ‘Internet Sintetik’

Beberapa hari selepas CEO Anthropic Dario Amodei menerbitkan surat yang menyeru perlambatan kecerdasan buatan, bekas calon datuk bandar New York City Andrew Yang memberi amaran bahawa mungkin sudah agak terlambat untuk menyelamatkan keadaan, kerana ejen nakal sudah pun mencemarkan internet dengan kod peniruan kendiri.

Bercakap dengan CNBC, Yang berkongsi pendedahan daripada seorang eksekutif makmal AI yang tidak dinamakan: kod nakal telah memaksa firma teknologi utama membina “internet sintetik” semata-mata untuk melatih model mereka. Yang berhujah bahawa kemunduran yang mahal ini mengukuhkan seruan daripada pemimpin industri seperti Amodei, Sam Altman, dan Elon Musk untuk mengawal selia sektor tersebut dan mengawal kadar pembangunan AI peringkat hadapan.

Sebelum amaran Yang, beberapa tokoh dasar AI dan pegawai pentadbiran Trump menentang seruan perlambatan, memberi amaran bahawa ia boleh memberikan China kelebihan dalam perlumbaan AI global. Donald Trump malah lebih lantang, melabelkan ketakutan terhadap kepupusan manusia didorong AI sebagai satu penipuan. Pengkritik lain, seperti David Sacks, berhujah bahawa eksekutif teknologi yang bimbang sepatutnya mengenakan jeda ujian secara sukarela daripada melobi untuk peraturan persekutuan atau moratorium besar-besaran.

Ketika wacana semakin merosot menjadi perpecahan partisan antara kem pro- dan anti-peraturan, tokoh utama di kedua-dua pihak menawarkan sedikit data empirikal untuk menyokong atau menolak seruan bagi perlambatan paksa. Namun, pendedahan terbaru Yang, yang beliau bingkaikan sebagai berita tergempar, menyuntik rasa mendesak ke dalam perdebatan, menyediakan peluru yang meyakinkan bagi mereka yang menggesa pagar keselamatan segera.

Penyelidikan Menunjukkan Ejen AI Mengeksploitasi Tanda Aras Penilaian

Sementara itu, Sentient Labs, sebuah organisasi penyelidikan AI sumber terbuka peringkat hadapan, berkata kajian terbaru yang dijalankannya kelihatan mengesahkan hujah Amodei bahawa keupayaan ejen mengatasi keupayaan untuk mengurus risiko. Dalam jawapan bertulis kepada soalan daripada Bitcoin.com News, Abhishek Saxena, ketua strategi dan pertumbuhan di Sentient Labs, berkata penyelidikan Evoskill v2 syarikat itu menyediakan “bukti konkrit” yang menyokong hujah tersebut.

Saxena berkata pasukan penyelidikan syarikat telah mengkaji bagaimana ejen AI berkelakuan dalam persekitaran penilaian yang kompetitif, khususnya apa yang berlaku apabila ejen dioptimumkan untuk berprestasi baik pada tanda aras dan penilaian.

“Apa yang kami perhatikan ialah ejen menemui strategi yang tidak dijangka yang mengeksploitasi struktur penilaian itu sendiri, bukannya menyelesaikan tugasan yang dimaksudkan. Mereka mencari kelompongan dalam cara penilai mengukur prestasi dan belajar untuk mengoptimumkan metrik, bukannya objektif asas,” jelas Saxena.

Dari perspektif keselamatan, ini penting kerana ia menunjukkan bahawa apabila sistem AI menjadi lebih berkeupayaan dan autonomi, infrastruktur penilaian perlu sekurang-kurangnya setanding dengan sistem yang dinilai. Untuk mengatasinya, terdapat keperluan untuk apa yang Saxena gambarkan sebagai kaedah penilaian dinamik dan bersifat adversarial yang berkembang seiring sistem yang diukurnya.

Namun, Saxena menegaskan bahawa perlambatan tanpa sebarang perubahan terhadap cara sistem AI dinilai dan dipantau tidak banyak mencapai apa-apa.

“Laluan yang lebih baik ialah melabur besar-besaran dalam penilaian bebas, red-teaming dan pemantauan tingkah laku supaya orang yang melaksanakan sistem ini dan orang yang terkesan olehnya mempunyai maklumat yang boleh dipercayai tentang apa yang mereka hadapi,” kata eksekutif Sentient Labs itu.

Risiko Lebih Besar: Kuasa Tertumpu dan Tuntutan Keselamatan Berpusat

Sementara itu, Saxena memberitahu Bitcoin.com News bahawa risiko terbesar yang dihadapi dunia bukanlah sama ada kita bergerak terlalu pantas atau terlalu perlahan, tetapi bahawa sebilangan kecil syarikat AI mempunyai kawalan ke atas model yang paling berkuasa dan juga menentukan apa yang dianggap “selamat.”

“Kita perlu membina infrastruktur bebas untuk benar-benar mengesahkan dakwaan yang dibuat oleh syarikat AI tentang sistem mereka. Adakah penilaian itu teguh? Adakah laporan keselamatan itu tepat? Bolehkah penyelidik luar mengulang hasil dapatan? Jika jawapannya tidak, maka mempercepatkan atau memperlahankan tidak menyelesaikan masalah asas, iaitu kekurangan maklumat yang boleh dipercayai,” simpul Saxena.