Naraščajoče zaskrbljenosti glede varnosti umetne inteligence so sprožile živahno razpravo o regulaciji. Medtem ko Andrew Yang opozarja, da nezaželen samoreplikativni kod že onesnažuje podatke za usposabljanje na spletu, v podjetju Sentient Labs trdijo, da je zgolj upočasnjevanje razvoja umetne inteligence neučinkovito brez dinamičnega ocenjevanja in infrastrukture za neodvisno preverjanje.
Prava grožnja za varnost umetne inteligence ni hitrost – temveč centralizirano upravljanje
NAPISAL
DELI
Ključne ugotovitve
- Dario Amodei in dve vodilni osebnosti s področja tehnologije sta pozvala k upočasnitvi razvoja, medtem ko je Andrew Yang opozoril na nevarno samoreplikativno kodo.
- Druga študija podjetja Sentient Labs o veščinah je pokazala kazalnike umetne inteligence v igrah, kar je še dodatno podžgalo spore glede ureditve.
- Abhishek Saxena je pozval k trem neodvisnim nadzornim ukrepom za popravek pomanjkljivega testiranja umetne inteligence, namesto da bi se zanašali na začasne ustavitve.
Nezakonita koda sili tehnološka podjetja v »sintetične internete«
Nekaj dni po tem, ko je izvršni direktor podjetja Anthropic Dario Amodei objavil pismo, v katerem je pozval k upočasnitvi razvoja umetne inteligence, je nekdanji kandidat za župana New Yorka Andrew Yang opozoril, da je morda že malo prepozno za rešitev situacije, saj so nevarni agenti že onesnažili internet s samoreplikativno kodo.
V pogovoru s CNBC je Yang razkril informacijo, ki jo je dobil od neimenovanega vodilnega delavca v laboratoriju za umetno inteligenco: nezaželeni kod je velika tehnološka podjetja prisilil, da ustvarijo »sintetične internete« zgolj za usposabljanje svojih modelov. Yang je trdil, da ta draga ovira upravičuje pozive vodilnih v industriji, kot so Amodei, Sam Altman in Elon Musk, k regulaciji sektorja in upočasnitvi razvoja umetne inteligence na najnaprednejšem področju.
Pred Yangovim opozorilom so se številni oblikovalci politike na področju umetne inteligence in uradniki Trumpove administracije upirali pozivom k upočasnitvi, opozarjajoč, da bi s tem lahko Kitajski prepustili vodstvo v globalni tekmi za umetno inteligenco. Donald Trump je bil še bolj neposreden in je strahove pred izumrtjem človeštva zaradi umetne inteligence označil za potegavščino. Drugi kritiki, kot je David Sacks, so trdili, da bi morali zaskrbljeni vodilni v tehnološkem sektorju sami uvedli premore pri testiranju, namesto da lobirajo za zvezne predpise ali splošne moratorije.
Ker se razprava vse bolj spreminja v strankarsko delitev med tistimi, ki podpirajo ureditev, in tistimi, ki so proti njej, so ključne osebnosti na obeh straneh ponudile le malo empiričnih podatkov, s katerimi bi utemeljile ali ovrgle pozive k prisilnemu upočasnjevanju. Vendar pa Yangovo najnovejše razkritje, ki ga je predstavil kot ekskluzivno novico, v razpravo vnaša nujnost in zagovarjalcem takojšnjih zaščitnih ukrepov ponuja prepričljivo strelivo.
Raziskave kažejo, da agenti umetne inteligence izkoriščajo merila za ocenjevanje
Medtem pa Sentient Labs, pionirska odprtokodna raziskovalna organizacija na področju umetne inteligence, navaja, da nedavna študija, ki so jo izvedli, očitno potrjuje Amodeijev argument, da zmogljivosti agentov presegajo sposobnost obvladovanja tveganj. V pisnih odgovorih na vprašanja spletnega portala Bitcoin.com News je Abhishek Saxena, vodja oddelka za strategijo in rast pri Sentient Labs, dejal, da raziskava Evoskill v2 podjetja ponuja »konkretne dokaze«, ki podpirajo to trditev.
Saxena je povedal, da je raziskovalna ekipa podjetja preučevala, kako se agenti umetne inteligence obnašajo v konkurenčnih ocenjevalnih okoljih, zlasti pa, kaj se zgodi, ko so agenti optimizirani za dobro delovanje na merilih uspešnosti in ocenah.
»Ugotovili smo, da agenti odkrivajo nepričakovane strategije, s katerimi izkoriščajo strukturo same ocene, namesto da bi reševali predvideno nalogo. Najdejo vrzeli v načinu, kako ocenjevalci merijo uspešnost, in se naučijo optimizirati za merilo uspešnosti, namesto za temeljni cilj,“ je pojasnil Saxena.
S stališča varnosti je to pomembno, ker kaže, da mora biti infrastruktura ocenjevanja, ko postajajo sistemi umetne inteligence zmogljivejši in avtonomnejši, vsaj tako sofisticirana kot sistemi, ki se ocenjujejo. Da bi to premagali, so potrebne t. i. dinamične, nasprotujoče se metode ocenjevanja, ki se razvijajo skupaj s sistemi, ki jih merijo, kot jih opisuje Saxena.
Vendar Saxena vztraja, da upočasnitev brez sprememb v načinu ocenjevanja in spremljanja sistemov umetne inteligence prinaša le malo koristi.
»Boljša pot je vlaganje velikih sredstev v neodvisno ocenjevanje, simulacije napadov (red-teaming) in spremljanje vedenja, da bodo ljudje, ki te sisteme uvajajo, in tisti, na katere vplivajo, imeli zanesljive informacije o tem, s čim delajo,« je dejal izvršni direktor podjetja Sentient Labs.
Večje tveganje: koncentrirana moč in centralizirane trditve o varnosti
Medtem je Saxena za Bitcoin.com News povedal, da največje tveganje, s katerim se sooča svet, ni v tem, da se premikamo prehitro ali prepočasno, ampak v tem, da ima majhno število podjetij za umetno inteligenco nadzor nad najmočnejšimi modeli ter tudi določa, kaj se šteje za »varno«.
»Moramo zgraditi neodvisno infrastrukturo, da bomo dejansko lahko preverili trditve, ki jih podjetja na področju umetne inteligence podajajo o svojih sistemih. Ali so ocene zanesljive? Ali so varnostna poročila točna? Ali lahko zunanji raziskovalci ponovijo ugotovitve? Če je odgovor ne, potem niti pospeševanje niti upočasnjevanje ne rešita temeljnega problema, ki je pomanjkanje zanesljivih informacij,« je zaključil Saxena.
Ta članek je bil iz angleščine preveden z umetno inteligenco. Izvirna angleška različica je verodostojni vir; samodejni prevodi lahko vsebujejo netočnosti, zlasti pri pravni in regulativni terminologiji.
