AI-agenter i DeFi: Användarkontroll måste vara 'icke-förhandlingsbar,' varnar VD

‘Arkitektoniskt Tvingande’ Användarsäkerhet

Den snabba utvecklingen av artificiell intelligens har lett till utvecklingen av alltmer sofistikerade AI-agenter, kapabla att utföra komplexa uppgifter inom olika sektorer. Men när dessa agenter blir mäktigare och mer autonoma, har oro över etiska överväganden och potentiella risker uppstått.

För att hantera dessa frågor förespråkar Renç Korzay, VD för Giza och en branschveteran, att prioritera användarsäkerhet och suveränitet, vilket han sa måste vara “icke-förhandlingsbart” och “arkitektoniskt tvingande.” Korzay argumenterar för att etiska riktlinjer bör översättas till konkreta tekniska krav och forma varje aspekt av AI-agenters design.

I skriftliga svar på frågor från Bitcoin.com News, betonade Korzay också behovet av fullständig användarkontroll. Denna kontroll, lade han till, bör vara inbyggd i agentens arkitektur, vilket säkerställer att användarna har full uppsikt och auktoritet. Till skillnad från system som förlitar sig på delegerad kontroll, bör etiska AI-agenter fungera genom tillståndsramar som kan återkallas omedelbart, sa Korzay.

För Gizas VD är budskapet tydligt: Etiska överväganden måste byggas in i AI-systemens grundläggande arkitektur, inte läggas till i efterhand.

“I DeFi, där användarnas finansiella tillgångar står på spel, måste etiska överväganden byggas in i AI-systemens grundläggande arkitektur, inte läggas till i efterhand,” sa Korzay.

Denna “säkerhets-först” mentalitet är avgörande för att bygga förtroende och säkerställa ansvarsfull utveckling av AI-agenter. När det gäller decentraliserade finansmarknader (DeFi), som har blivit mer komplexa, avslöjade Korzay att det nu är möjligt att använda AI-agenter för att optimera användarnas positioner över ledande protokoll och utföra sofistikerade strategier medan användarna behåller full kontroll över sina medel.

‘Xenocognitiv’ Finans

Under tiden argumenterar VD:n för att effektivt användarskydd i DeFi kommer från robust produktdesign, inte enbart från extern reglering. Denna “säkerhet-genom-design”-approach, sa han, syftar till att skapa ett ekosystem där säkerhet är “intrinsisk,” vilket minimerar behovet av tunga regleringar.

Korzay hävdar att bygga genuint säkra system anpassar intressenters intressen och engagerar sig proaktivt med reglerare för att forma framtida policyer. Fokus ligger på att skapa värde genom välbyggda produkter, vilket gör efterlevnad till ett naturligt resultat snarare än ett hinder som hämmar innovation.

Korzay ser mot framtiden och sa att han förutser “Xenocognitiv Finans” dominera år 2030, med AI-agenter som växer fram som den primära marknadsgränssnittet och överträffar mänskliga kognitiva gränser. Vid den tiden kommer människor att sätta strategiska mål medan AI-agenter hanterar utförandet.

“Adoptionskurvan kommer inte att vara linjär – den kommer att vara exponentiell. När dessa agenter visar sin förmåga att konsekvent överträffa manuella operationer samtidigt som de bibehåller säkerhetsgarantier, kommer de att bli det standardiserade sättet att interagera med finansmarknader,” tillade VD:n.