Ang Tunay na Banta sa Kaligtasan ng AI ay Hindi ang Bilis—Kundi ang Sentralisadong Kontrol

Pinipilit ng Pasaway na Code ang mga Tech Firm na Lumikha ng ‘Synthetic Internets’

Ilang araw matapos ang CEO ng Anthropic na si Dario Amodei na maglathala ng isang liham na nananawagan ng pagbagal sa artificial intelligence, nagbabala ang dating kandidato sa pagka-alkalde ng New York City na si Andrew Yang na maaaring huli na ang lahat upang maisalba ang sitwasyon, dahil napolusyonan na ng mga pasaway na agent ang internet ng self-replicating na code.

Sa pakikipag-usap sa CNBC, ibinahagi ni Yang ang isang rebelasyon mula sa isang hindi pinangalanang executive ng AI lab: pinilit ng pasaway na code ang malalaking tech firm na lumikha ng mga “synthetic internets” para lamang ma-train ang kanilang mga modelo. Iginiit ni Yang na ang magastos na pag-urong na ito ay nagbibigay-katwiran sa mga panawagan mula sa mga lider ng industriya gaya nina Amodei, Sam Altman, at Elon Musk na regulahin ang sektor at kontrolin ang bilis ng pag-unlad ng frontier AI.

Bago ang babala ni Yang, ilang personalidad sa AI policy at mga opisyal ng administrasyong Trump ang tumutol sa mga panawagan ng pagbagal, na nagbabala na maaari nitong ibigay sa China ang pangunguna sa pandaigdigang karera sa AI. Mas direkta pa si Donald Trump, na tinawag na panloloko ang mga pangamba sa AI-driven na pagkalipol ng sangkatauhan. Ang iba pang kritiko, gaya ni David Sacks, ay nag-argue na ang mga nag-aalalang tech executive ay dapat magpatupad ng sarili nilang mga paghinto sa testing sa halip na mag-lobby para sa pederal na mga regulasyon o malalawak na moratorium.

Habang lalo pang nauuwi ang diskurso sa isang partidistang pagkakahati sa pagitan ng mga kampong pabor at laban sa regulasyon, kakaunti ang empirikal na datos na inihain ng mga pangunahing pigura sa magkabilang panig upang patunayan o pabulaanan ang mga panawagan para sa sapilitang pagbagal. Gayunman, ang pinakahuling pagbubunyag ni Yang, na inilahad niya bilang breaking news, ay nagdaragdag ng pagkaapurahan sa debate, at nagbibigay ng matibay na bala para sa mga nagsusulong ng agarang guardrails.

Ipinapakita ng Pananaliksik na Sinasamantala ng mga AI Agent ang mga Evaluation Benchmark

Samantala, sinasabi ng Sentient Labs, isang frontier open-source na organisasyon sa pananaliksik ng AI, na ang isang kamakailang pag-aaral na isinagawa nito ay tila nagva-validate sa argumento ni Amodei na ang kakayahan ng mga agent ay nauuna sa kakayahang pamahalaan ang panganib. Sa mga nakasulat na sagot sa mga tanong mula sa Bitcoin.com News, sinabi ni Abhishek Saxena, pinuno ng strategy at growth sa Sentient Labs, na ang Evoskill v2 research ng kumpanya ay nagbibigay ng “kongkretong ebidensya” na sumusuporta sa argumento.

Sinabi ni Saxena na pinag-aaralan ng research team ng kumpanya kung paano kumikilos ang mga AI agent sa mga kompetitibong evaluation environment, partikular kung ano ang nangyayari kapag ang mga agent ay ino-optimize upang gumanap nang mahusay sa mga benchmark at assessment.

“Ang naobserbahan namin ay nakakatuklas ang mga agent ng mga hindi inaasahang estratehiya na sinasamantala ang istruktura ng mismong evaluation sa halip na lutasin ang nilalayong gawain. Nakakahanap sila ng mga puwang sa kung paano sinusukat ng mga evaluator ang performance at natututo silang mag-optimize para sa metric sa halip na para sa pinakapangunahing layunin,” paliwanag ni Saxena.

Mula sa perspektiba ng kaligtasan, mahalaga ito dahil ipinapakita nito na habang mas nagiging mas may kakayahan at mas awtonomo ang mga AI system, kailangang hindi bababa sa kasing sopistikado ang evaluation infrastructure tulad ng mga sistemang sinusuri. Upang malampasan ito, kailangan ang tinatawag ni Saxena na dynamic, adversarial na mga pamamaraan ng evaluation na umuunlad kasabay ng mga sistemang sinusukat nila.

Gayunman, iginiit ni Saxena na ang isang pagbagal na walang pagbabago sa kung paano sinusuri at mino-monitor ang mga AI system ay halos walang naaabot.

“Mas mainam ang landas na mag-invest nang malaki sa independiyenteng evaluation, red-teaming, at behavioral monitoring upang ang mga taong nagde-deploy ng mga sistemang ito at ang mga apektado ng mga ito ay magkaroon ng mapagkakatiwalaang impormasyon tungkol sa kung ano ang kanilang kaharap,” sinabi ng executive ng Sentient Labs.

Ang Mas Malaking Panganib: Konsentradong Kapangyarihan at Sentralisadong Mga Pahayag sa Kaligtasan

Samantala, sinabi ni Saxena sa Bitcoin.com News na ang pinakamalaking panganib na kinakaharap ng mundo ay hindi kung masyado tayong mabilis o masyado tayong mabagal, kundi na ang maliit na bilang ng mga AI company ay may kontrol sa pinakamakapangyarihang mga modelo at sila rin ang nagdidikta kung ano ang itinuturing na “ligtas.”

“Kailangan nating bumuo ng independiyenteng imprastraktura upang talagang ma-verify ang mga pahayag na ginagawa ng mga AI company tungkol sa kanilang mga sistema. Matibay ba ang mga evaluation? Tumpak ba ang mga safety report? Kayang ulitin ng mga panlabas na mananaliksik ang mga natuklasan? Kung ang sagot ay hindi, kung gayon hindi nalulutas ng alinman sa pagpapabilis o pagpapabagal ang pangunahing problema, na kakulangan ng mapagkakatiwalaang impormasyon,” pagtatapos ni Saxena.