Tá imní mhéadaitheach faoi shábháilteacht AI tar éis díospóireacht dhian faoi rialáil a spreagadh. Cé go dtugann Andrew Yang rabhadh go bhfuil cód féin-atairgthe bradach ag truailliú sonraí oiliúna ar an ngréasán cheana féin, maíonn Sentient Labs nach bhfuil sé éifeachtach forbairt AI a mhoilliú go simplí gan bonneagar measúnaithe dinimiciúil agus fíoraithe neamhspleách.
Ní hé an luas an bhagairt fhíor ar shábháilteacht IS—ach smacht lárnaithe
SCRÍOFA AG
COMHROINN
Príomhphointí
- D’impigh Dario Amodei agus 2 cheannaire teicneolaíochta eile moilliú, agus thug Andrew Yang rabhadh faoi chód féin-atairgthe bradach.
- Léirigh an 2ú staidéar scileanna ó Sentient Labs go raibh AI ag imirt na méadrachtaí, rud a chothaigh cathanna faoi rialáil.
- D’impigh Abhishek Saxena 3 chéim mhaoirseachta neamhspleách chun tástáil lochtach AI a cheartú seachas brath ar shosanna.
Cuireann Cód Bradach Isteach ar Chomhlachtaí Teicneolaíochta chuig “Idirlín Shintéiseacha”
Laethanta tar éis do Phríomhfheidhmeannach Anthropic, Dario Amodei, litir a fhoilsiú ag iarraidh moilliú ar intleacht shaorga, thug iar-iarrthóir méara Chathair Nua-Eabhrac Andrew Yang rabhadh go bhféadfadh sé a bheith beagán ródhéanach an scéal a shábháil, ós rud é go bhfuil gníomhairí bradacha tar éis an t-idirlíon a thruailliú cheana féin le cód féin-atairgthe.
Ag labhairt le CNBC, roinn Yang nochtadh ó fheidhmeannach i saotharlann AI gan ainm: chuir cód bradach iachall ar chomhlachtaí móra teicneolaíochta “idirlín shintéiseacha” a chruthú díreach chun a samhlacha a oiliúint. Mhaígh Yang go dtugann an teip chostasach seo údar le glaonna ó cheannairí an tionscail ar nós Amodei, Sam Altman, agus Elon Musk chun an earnáil a rialáil agus forbairt AI teorann a luasteorannú.
Roimh rabhadh Yang, sheas roinnt figiúirí beartais AI agus oifigigh riaracháin Trump in aghaidh glaonna ar mhoilliú, ag tabhairt rabhadh go bhféadfaidís an ceannaireacht a thabhairt don tSín sa rás AI domhanda. Bhí Donald Trump níos dírí fós, ag cur lipéad “cleas” ar eagla go dtiocfadh díothú an chine dhaonna de bharr AI. D’áitigh criticeoirí eile, ar nós David Sacks, gur cheart do fheidhmeannaigh teicneolaíochta atá buartha sosanna tástála a fhorchur orthu féin in ionad brú a chur ar son rialachán feidearálach nó moratóir leathan.
De réir mar a théann an dioscúrsa i léig níos mó agus níos mó ina roinn phairtíneach idir campaí ar son rialála agus in aghaidh rialála, is beag sonraí eimpíreacha atá curtha ar fáil ag príomhfhigiúirí ar an dá thaobh chun glaonna ar mhoilliú éigeantach a thacú nó a bhréagnú. Mar sin féin, cuireann nochtadh is déanaí Yang, a chuir sé i láthair mar scéala briste, práinn leis an díospóireacht, ag soláthar armlóin láidre dóibh siúd atá ag moladh ráillí cosanta láithreach.
Léiríonn Taighde go bhfuil Gníomhairí AI ag Saothrú Tagarmharcanna Measúnaithe
Idir an dá linn, deir Sentient Labs, eagraíocht taighde AI tosaigh oscailte, go ndealraíonn sé go ndearbhaíonn staidéar le déanaí a rinne siad argóint Amodei go bhfuil cumais gníomhairí ag dul chun cinn níos tapúla ná an cumas riosca a bhainistiú. I bhfreagraí scríofa ar cheisteanna ó Bitcoin.com News, dúirt Abhishek Saxena, ceannaire straitéise agus fáis ag Sentient Labs, go soláthraíonn taighde Evoskill v2 na cuideachta “fianaise nithiúil” a thacaíonn leis an argóint.
Dúirt Saxena go bhfuil foireann taighde na cuideachta ag staidéar ar an gcaoi a n-iompraíonn gníomhairí AI i dtimpeallachtaí measúnaithe iomaíocha, go háirithe cad a tharlaíonn nuair a dhéantar gníomhairí a bharrfheabhsú chun feidhmiú go maith ar thagarmharcanna agus measúnuithe.
“An rud a chonaiceamar ná go n-aimsíonn gníomhairí straitéisí gan choinne a shaothraíonn struchtúr an mheasúnaithe féin seachas an tasc beartaithe a réiteach. Aimsíonn siad bearnaí sa chaoi a dtomhaiseann measúnóirí feidhmíocht agus foghlaimíonn siad barrfheabhsú don mhéadrach seachas don chuspóir bunúsach,” a mhínigh Saxena.
Ó thaobh na sábháilteachta de, tá sé seo suntasach mar léiríonn sé, de réir mar a éiríonn córais AI níos cumasaí agus níos uathrialta, go gcaithfidh an bonneagar measúnaithe a bheith ar a laghad chomh sofaisticiúil leis na córais atá á meas. Chun é seo a shárú, tá gá le modhanna measúnaithe dinimiciúla, naimhdeacha, dar le Saxena, a fhorbraíonn in éineacht leis na córais atá siad á dtomhas.
Mar sin féin, áitíonn Saxena nach mbaineann moilliú gan aon athruithe ar an gcaoi a ndéantar córais AI a mheas agus a mhonatóiriú ach fíorbheagán amach.
“Is é an bealach níos fearr ná infheistiú go mór i measúnú neamhspleách, i ndeargfhoirneoireacht agus i monatóireacht iompraíochta ionas go mbeidh faisnéis iontaofa ag na daoine a imscartar na córais seo agus ag na daoine a mbíonn tionchar acu orthu faoi cad atá siad ag obair leis,” a dúirt feidhmeannach Sentient Labs.
An Riosca Níos Mó: Cumhacht Chomhchruinnithe agus Éilimh Shábháilteachta Lárnaithe
Idir an dá linn, dúirt Saxena le Bitcoin.com News gurb é an riosca is mó atá roimh an domhan ná ní go mbogaimid róthapa nó rómhall, ach go bhfuil smacht ag líon beag cuideachtaí AI ar na samhlacha is cumhachtaí agus go n-ordaíonn siad freisin cad a mheastar a bheith “sábháilte.”
“Caithfimid bonneagar neamhspleách a thógáil chun na héilimh a dhéanann cuideachtaí AI faoina gcórais a fhíorú i ndáiríre. An bhfuil na measúnuithe láidir? An bhfuil na tuarascálacha sábháilteachta cruinn? An féidir le taighdeoirí seachtracha na torthaí a atáirgeadh? Má tá an freagra ná fuil, ansin ní réitíonn luasghéarú ná moilliú an fhadhb bhunúsach, is é sin easpa faisnéise iontaofa,” a chríochnaigh Saxena.
Aistríodh an t-alt seo ón mBéarla le hintleacht shaorga. Is é an leagan bunaidh Béarla an fhoinse údarásach; d'fhéadfadh míchruinneas a bheith in aistriúcháin uathoibríocha, go háirithe i dtéarmaíocht dhlíthiúil agus rialála.
