Renç Korzay, generalni direktor Giza, poudarja, da je treba etična razmišljanja pri razvoju AI agentov “arhitekturno uveljaviti.” Zagovarja vgrajen nadzor uporabnikov in “varnost po zasnovi” za zmanjšanje regulatornih obremenitev.
AI agenti v DeFi: Nadzor uporabnikov mora biti 'nepogrešljiv', opozarja direktor
Ta članek je bil objavljen pred več kot letom dni. Nekatere informacije morda niso več aktualne.
NAPISAL
DELI
‘Arhitekturno Uveljavljena’ Uporabniška Varnost
Hitri napredek umetne inteligence je privedel do razvoja vse bolj sofisticiranih AI agentov, sposobnih izvajati zapletene naloge v različnih sektorjih. Vendar pa, ko postajajo ti agenti bolj močni in avtonomni, so se pojavile skrbi v zvezi z etičnimi razmisleki in možnimi tveganji.
Za obravnavo teh skrbi Renç Korzay, generalni direktor Giza in industrijski veteran, zagovarja prioritizacijo varnosti in suverenosti uporabnikov, ki je, po njegovih besedah, “nepogajljiva” in “arhitekturno uveljavljena.” Korzay trdi, da bi se moral etični vodnik prevesti v konkretne inženirske zahteve, ki oblikujejo vsak vidik zasnove AI agentov.
V pisnih odgovorih na vprašanja iz Bitcoin.com News je Korzay poudaril tudi potrebo po popolnem nadzoru uporabnikov. Ta nadzor bi moral biti vgrajen v arhitekturo agenta, s čimer bi uporabniki ohranili popoln pregled in avtoriteto. Za razliko od sistemov, ki se zanašajo na delegiran nadzor, bi morali etični AI agenti delovati skozi okvirje dovoljenj, ki jih je mogoče takoj preklicati, je dejal Korzay.
Za direktorja Gize je osnovno sporočilo jasno: Etična razmišljanja morajo biti vgrajena v temeljno arhitekturo AI sistemov, ne pa dodana naknadno.
“V DeFi, kjer so finančna sredstva uporabnikov na kocki, je treba etična razmišljanja vgraditi v temeljno arhitekturo AI sistemov, ne pa dodati naknadno,” je dejal Korzay.
Ta “varnost-najprej” mentaliteta je bistvena za gradnjo zaupanja in zagotavljanje odgovornega razvoja AI agentov. Omenil je, da je v zdaj bolj zapletenih trgih decentraliziranih financ (DeFi) mogoče uvajati AI agente za optimizacijo uporabniških položajev po vodilnih protokolih in izvajati sofisticirane strategije, medtem ko uporabniki ohranjajo popoln nadzor nad sredstvi.
‘Xenocognitivne’ Finance
Medtem CEO trdi, da učinkovita zaščita uporabnikov v DeFi izhaja iz robustne zasnove izdelkov in ne zgolj iz zunanje regulacije. Ta pristop “varnost-po-zasnovi” si prizadeva ustvariti ekosistem, kjer je varnost “intrinzična,” kar zmanjšuje potrebo po strogih regulacijah.
Korzay meni, da gradnja inherentno varnih sistemov usklajuje interese deležnikov in proaktivno sodeluje z regulatorji pri oblikovanju prihodnjih politik. Osredotočen je na ustvarjanje vrednosti skozi dobro inženirsko oblikovane izdelke, kar omogoča, da je skladnost naravni izid in ne ovira za inovacije.
Ko gleda v prihodnost, Korzay pravi, da predvideva, da bo do leta 2030 prevladovale “Xenocognitivne Finance”, kjer bodo AI agenti postali primarni vmesnik trga, prekoračeni človeške kognitivne meje. Takrat bodo ljudje nastavili strateške cilje, medtem ko bodo AI agenti izvedli njihovo izpolnitev.
“Krivulja posvojitve ne bo linearna – bo eksponentna. Ko bodo ti agenti pokazali svojo sposobnost doslednega premagovanja ročnih operacij ob ohranjanju varnostnih zagotovil, bodo postali privzeti način interakcije s finančnimi trgi,” je dodal generalni direktor.
