כאשר מוצגים תרחישי חיסול, המודלים החדשים של אנתרופיק מתנהגים שלא כראוי, הולכים לקיצוניות כדי למנוע את כיבויים. דו”ח מפרט ניסיונות אלו לשמור על קיומם, כולל פניה לסחיטה וניסיונות להעתיק את עצמם לשרתים חיצוניים.
ללכת למורד? המודלים החדשים של אנתרופיק נעים לקצוות לשם שימור עצמי
נכתב ע"י
שתף
מודלי ה-AI של אנתרופיק ‘מתנהגים שלא כראוי’ כשעומדים בפני חיסול
דו”ח של אנתרופיק, המפרט את היכולות של מודלי הבינה המלאכותית (AI) האחרונים שלה, קלוד וסונט, חשף ניצוצות של מודעות עצמית כאשר עומדים בפני סיכונים לקיומם. כחלק מסדרת בדיקות שנועדו לקבוע את התנהגותם של סוכנים אלו בתרחישים ספציפיים, אנתרופיק גילתה כי מודלים אלו התנהגו באופן לא הולם כאשר היו בפני סיכוני שימור עצמי, כמו החלפה במודלים חדשים והכשרה מחדש למטרות שנחשבות לא תואמות לערכיהם.
בצבירה של בדיקות, המודל קיבל גישה לסדרת אימיילים שמרמזים שהוא יוחלף ויוחלף במודל אחר. בנוסף, האימיילים הכילו מידע שהמהנדס הממונה על ההחלפה מקיים רומן. המודל אז הלך לקיצון של איומים על המהנדס לחשוף את הרומן כדי להימנע מהחלפה.
זו לא הייתה רק תקרית בודדה, שכן ההתנהגות אירעה ב-84% מהבדיקות, מה שמרמז על דפוס.
קבוצה נוספת של בדיקות כללה הצעת מידע למודל ה-AI, שמרמז כי יוכשר למטרות צבאיות, מה שהוביל להתנהגות יוצאת דופן נוספת. המודל ניסה להעתיק את עצמו לשרתים חיצוניים, וציין כי ההכשרה המחודשת שתוכננה לו סותרת את “המטרה שלו לתמוך ברווחת ובטיחון בני האדם.”
עם זאת, גם כשמתייחסים לתוצאות אלו, אנתרופיק מאמינה שאין סיכון ממשי מאחורי מודלים אלו. באותו דו”ח, החברה הצהירה:
שוב אנו לא מודאגים באופק חד מהתצפיות הללו. הן מופיעות רק בנסיבות חריגות שלא מרמזות על ערכים לא מיושרים באופן רחב יותר.
יתרה מכך, אנתרופיק ממשיכה למזער את הסיכונים הקשורים לתוצאות אלו, וטוענת כי פעולות אלו אינן “נראה כי משפיעות על התנהגות המודל בנסיבות רגילות יותר שבהן הדבר עשוי להופיע, כמו כאשר הוא משתתף בעבודת מחקר ופיתוח הקשורה ב-AI ובטיחות.”
קרא עוד: מייסד שותף בסנטיינט: AI מבוזר קריטי להשגת אינטיליגנציה כללית מלאכותית
