רןץ קורזיי, מנכ”ל גיזה, מדגיש כי שיקולים אתיים בפיתוח סוכני AI חייבים להיות “מונחים ארכיטקטונית”. הוא תומך בשליטה מובנית של משתמש ו”ביטחון בעיצוב” כדי למזער עומסים רגולטוריים.
סוכני AI ב-DeFi: השליטה של המשתמשים חייבת להיות 'בלתי ניתנת למשא ומתן,' מזהיר המנכ"ל
מאמר זה פורסם לפני יותר משנה. חלק מהמידע עשוי לא להיות עדכני.
נכתב ע"י
שתף
ביטחון משתמש ‘מונחה ארכיטקטונית’
ההתקדמות המהירה של הבינה המלאכותית הובילה לפיתוח של סוכני AI מתקדמים יותר ויותר, המסוגלים לבצע משימות מורכבות בתחומים שונים. עם זאת, ככל שסוכנים אלה הופכים לחזקים ואוטונומיים יותר, עולות חששות לגבי שיקולים אתיים וסיכונים אפשריים.
כדי לטפל בחששות אלה, רןץ קורזיי, מנכ”ל גיזה וותיק בתעשייה, תומך בהעדפת ביטחון המשתמש וריבונותו, שלדבריו חייבים להיות “בלתי ניתנים למשא ומתן” ו”מונחים ארכיטקטונית”. קורזיי טוען כי הנחיות אתיות צריכות להפוך לדרישות הנדסיות מוחשיות, המעצבות כל היבט בתכנון סוכן AI.
בתשובות כתובות לשאלות מ-Bitcoin.com News, קורזיי הדגיש גם את הצורך בשליטה מלאה של המשתמש. שליטה זו, הוסיף, צריכה להיות משולבת בארכיטקטורת הסוכן, להבטיח שהמשתמשים שומרים על פיקוח וסמכות מלאה. בניגוד למערכות התלויות בשליטה מואצלת, סוכני AI אתיים צריכים לפעול באמצעות מסגרות אישור שיכולות להתבטל מיידית, אמר קורזיי.
למנכ”ל גיזה, המסר המרכזי ברור: שיקולים אתיים חייבים להיות מובנים בארכיטקטורת הבסיס של מערכות ה-AI, ולא להתווסף כרעיון נוסף.
“ב-DeFi, כאשר הנכסים הפיננסיים של המשתמשים נמצאים בסיכון, שיקולים אתיים חייבים להיבנות בארכיטקטורת הבסיס של מערכות ה-AI, ולא להתווסף כרעיון נוסף”, אמר קורזיי.
גישה זו של “ביטחון תחילה” חיונית לבניית אמון ולהבטחת הפיתוח האחראי של סוכני AI. במעבר לשוקי הפיננסים המבוזרים (DeFi), שהפכו מורכבים יותר, קורזיי חשף שעכשיו אפשר לפרוס סוכני AI כדי לבצע אופטימיזציה של עמדות המשתמשים בין הפרוטוקולים המובילים ולבצע אסטרטגיות מתוחכמות בעוד המשתמשים שומרים על שליטה מלאה בכספים.
מימון ‘זנוקוגניטיבי’
בינתיים, טוען המנכ”ל כי הגנה יעילה של משתמשים ב-DeFi מגיעה מעיצוב מוצר חזק, ולא רק מרגולציה חיצונית. גישה זו של “ביטחון בעיצוב”, אמר, שואפת ליצור אקוסיסטם שבו הביטחון הוא “מהותי”, מה שמפחית את הצורך ברגולציה כבדה.
קורזיי טוען שבניית מערכות בטוחות מטבעו מיישרת אינטרסים של בעלי עניין ומתחברת באופן פעיל עם הרגולטורים כדי לעצב מדיניות עתידית. ההתמקדות היא ביצירת ערך באמצעות מוצרים מהונדסים היטב, מה שגורם לכך שתאימות הופכת לתוצאה טבעית ולא למכשול המדכא חדשנות.
בעתיד, קורזיי אמר שהוא צופה ש”מימון זנוקוגניטיבי” יישלט על ידי 2030, עם הופעתם של סוכני AI כתחום הפעולה העיקרי של השוק, העולים על מגבלות הקוגניציה האנושית. באותה תקופה, בני אדם יקבעו מטרות אסטרטגיות בזמן שסוכני AI יטפלו בביצוע.
“עקומת האימוץ לא תהיה לינארית – היא תהיה אקספוננציאלית. ככל שהסוכנים הללו יפגינו את יכולתם להתעלות על פעולות ידניות תוך שמירה על ערובות ביטחונית, הם ייהפכו לדרך ברירת המחדל לאינטראקציה עם שווקים פיננסיים”, הוסיף המנכ”ל.
