מערך הבטיחות הייעודי של Claude Fable 5
בהמשך לשיחות עם חברים. Claude Fable 5 הוא מודל בינה מלאכותית מתקדם מתוצרת חברת Anthropic. מודל זה, המציע יכולות ביצוע מורכבות (מאוד) ופעילות אוטונומית מתקדמת, כולל עקב כך מנגנוני בטיחות מחמירים. בניגוד למודלים קודמים, Fable 5 משתמש במסווגי תוכן עצמאיים (Safety Classifiers) הפועלים בזמן אמת על כל פרומפט/קלט (Prompt) עוד לפני שהמודל מתחיל לייצר תשובה, מסווגים אלו, מחפשים שימושים לרעה (Misuse) סביב ארבעה תחומים מרכזיים המוגדרים כתחומים ברמת סיכון גבוהה:
- סייבר (Cybersecurity): ניסיונות לאתר חולשות אבטחה בקוד או ליצור נוזקות.
- ביולוגיה (Biology): מידע על נשק ביולוגי או פתוגנים מסוכנים.
- כימיה (Chemistry): חומרים מסוכנים או חומרי נפץ.
- זיקוק ידע (Distillation): הגנה על הקניין הרוחני של אנטרופיק מפני "שאיבת" הידע של המודל לאימון מודלים מתחרים.
כאשר מזוהה פרומפט (Prompt) מסוכן/רגיש (סייבר, ביולוגיה, כימיה, לזיקוק ידע) מנותב ה- Prompt להערכה נוספת במודל Opus 4.8 (שנחשב זהיר ושקול יותר), במקרה כזה, לא יהיה חיוב (תשלום) בעלות של Fable. במידה וגם Opus קבע כי הבקשה מסוכנת, לא תתקבל תשובה, הסירוב לענות לא יגרום להצגת הודעת שגיאה (Error) אלא, לתגובת הצלחה (HTTP 200) הכוללת את הפרמטר הייעודי: stop_reason: "refusal, המציין גם איזה מסווג ספציפי הפעיל את החסימה.