Agen AI dalam DeFi: Kontrol Pengguna Harus 'Tidak Bisa Dinegosiasikan,' Peringatan dari CEO

Keamanan Pengguna yang ‘Ditegakkan Secara Arsitektural’

Kemajuan cepat kecerdasan buatan telah mengarah pada pengembangan agen AI yang semakin canggih, mampu melakukan tugas-tugas kompleks di berbagai sektor. Namun, seiring agen ini menjadi lebih kuat dan otonom, muncul kekhawatiran tentang pertimbangan etis dan potensi risiko.

Untuk mengatasi kekhawatiran tersebut, Renç Korzay, CEO Giza dan seorang veteran industri, menganjurkan untuk memprioritaskan keamanan dan kedaulatan pengguna, yang dia katakan harus “tidak bisa dinegosiasikan” dan “ditegakkan secara arsitektural.” Korzay berpendapat bahwa pedoman etis harus diterjemahkan ke dalam persyaratan rekayasa konkret, membentuk setiap aspek desain agen AI.

Dalam jawaban tertulis untuk pertanyaan dari Bitcoin.com News, Korzay juga menyoroti perlunya kontrol pengguna lengkap. Kontrol ini, tambahnya, harus tertanam dalam arsitektur agen, memastikan pengguna mempertahankan pengawasan dan otoritas penuh. Berbeda dengan sistem yang mengandalkan kontrol yang didelegasikan, agen AI etis harus beroperasi melalui kerangka izin yang dapat dicabut sewaktu-waktu, kata Korzay.

Untuk CEO Giza, pesan utamanya jelas: Pertimbangan etika harus dibangun ke dalam arsitektur dasar sistem AI, bukan ditambahkan sebagai pemikiran belakangan.

“Dalam DeFi, di mana aset keuangan pengguna menjadi taruhan, pertimbangan etika harus dibangun ke dalam arsitektur dasar sistem AI, bukan ditambahkan sebagai pemikiran belakangan,” kata Korzay.

Mentalitas “keamanan-pertama” ini sangat penting untuk membangun kepercayaan dan memastikan pengembangan agen AI yang bertanggung jawab. Beralih ke pasar keuangan terdesentralisasi (DeFi), yang menjadi lebih kompleks, Korzay mengungkapkan bahwa sekarang mungkin untuk menerapkan agen AI untuk mengoptimalkan posisi pengguna di berbagai protokol terkemuka dan menjalankan strategi canggih sambil pengguna mempertahankan kontrol penuh atas dana mereka.

Keuangan ‘Xenokognitif’

Sementara itu, CEO berpendapat bahwa perlindungan pengguna yang efektif dalam DeFi berasal dari desain produk yang kuat, bukan hanya dari regulasi eksternal. Pendekatan “keamanan berdasarkan desain” ini, katanya, bertujuan untuk menciptakan ekosistem di mana keamanan adalah “intrinsik,” yang meminimalkan kebutuhan akan regulasi yang berat.

Korzay menegaskan bahwa membangun sistem yang secara inheren aman menyelaraskan kepentingan para pemangku kepentingan dan secara proaktif terlibat dengan regulator untuk membentuk kebijakan masa depan. Fokusnya adalah pada menciptakan nilai melalui produk yang direkayasa dengan baik, menjadikan kepatuhan sebagai hasil alami daripada hambatan pengembangan yang inovatif.

Melihat ke masa depan, Korzay mengatakan dia memperkirakan “Keuangan Xenokognitif” akan mendominasi pada tahun 2030, dengan agen AI muncul sebagai antarmuka pasar utama, melampaui batas kognitif manusia. Pada saat itu, manusia akan menetapkan tujuan strategis sementara agen AI yang akan menangani eksekusi.

“Kurva adopsi tidak akan linier – akan eksponensial. Ketika agen-agen ini menunjukkan kemampuan mereka untuk secara konsisten mengungguli operasi manual sambil mempertahankan jaminan keamanan, mereka akan menjadi cara default untuk berinteraksi dengan pasar keuangan,” tambah CEO tersebut.