צ'אטבוט מנסח תשובה. סוכן AI יכול לקרוא מערכת, לבחור כלי, לשלוח הודעה, לעדכן רשומה או להפעיל תהליך. ברגע שהמערכת עוברת מהמלצה לפעולה, זהות והרשאה הופכות לחלק מהתכנון העסקי. טעות אינה עוד ניסוח חלש בלבד, אלא שינוי במערכת אמיתית. NIST פרסם בפברואר 2026 מסמך ייעודי לזהות ולסמכות של סוכני תוכנה. עצם הבחירה בנושא מדגישה שהבעיה אינה רק איכות המודל. ארגון צריך לדעת לקשור כל פעולה לישות מוגדרת, למדיניות ולגורם אחראי.
ארבע שאלות שכל סוכן צריך לענות עליהן
אם התשובה היא "הסוכן משתמש בחשבון של מנהל", קשה להפריד בין פעולות אדם לפעולות מכונה, לבטל הרשאה נקודתית או לחקור אירוע.
מודל הרשאות מעשי לסוכן AIזהות נפרדת לכל סוכן ולכל סביבההפרידו בין פיתוח, בדיקה וייצור. לסוכן ניסוי אסור לקבל מפתח או חשבון של סביבת הייצור. זהות נפרדת מאפשרת לקבוע מדיניות, תוקף והרשאות לפי שימוש, ולזהות חריגה ביומן הפעילות.
Least Privilege לפי משימההעניקו את ההרשאה הקטנה ביותר הדרושה. סוכן שמכין טיוטת תשובה אינו צריך לשלוח אותה. סוכן שמעדכן סטטוס הזמנה אינו צריך לראות אמצעי תשלום. החלוקה בין קריאה, כתיבה, שליחה ומחיקה חשובה יותר מהשאלה אם "יש גישה למערכת".
סמכות זמנית ומותניתגישה למשימה רגישה יכולה להינתן לזמן מוגבל, לאחר אימות הקשר ובכפוף לאישור. במקום הרשאה קבועה, הסוכן מבקש פעולה והאדם מאשר את הפעולה הספציפית עם תצוגה של הנתונים שיושפעו.
מפת פעולות ולא רק מפת מערכותרשמו כל פעולה שהסוכן מסוגל לבצע: חיפוש, קריאה, יצירה, עדכון, שליחה, רכישה או מחיקה. לכל פעולה הגדירו תנאי הפעלה, קלט מותר, תוצאה צפויה ורמת אישור.
יומן פעילות שניתן להביןלוג טוב מציג מי הפעיל את הסוכן, מה הייתה המטרה, באיזה כלי השתמש, מה קרא, מה שינה ומה הייתה התוצאה. אין צורך לחשוף את כל חישובי המודל, אך חייבת להיות עקיבות שמאפשרת שחזור ובדיקה.
Kill Switch ותהליך ביטולקבעו מי יכול לעצור את הסוכן, כמה מהר מבטלים מפתחות והרשאות ואיך חוזרים למצב קודם. בדקו את מנגנון העצירה בפועל לפני הייצור. בקרת חירום שלא נוסתה היא הנחה, לא בקרה.
סימנים שהסוכן מקבל יותר מדי כוחאותו אסימון גישה משמש כמה סוכנים או כמה צוותים.
אין הפרדה בין צפייה, עריכה, שליחה ומחיקה.
הסוכן יכול לבצע פעולה בלתי הפיכה ללא תצוגה מקדימה.
איש אינו מקבל התראה על שינוי חריג או נפח פעולות לא צפוי.
אין תאריך תפוגה או בעל תפקיד שמחדש את ההרשאה.
הפתרון אינו לחסום כל פעולה. המטרה היא לאפשר אוטונומיה מדורגת: הסוכן מתחיל בהמלצה, עובר לטיוטה, מקבל אישור לפעולה מוגבלת ורק לאחר הוכחת אמינות מקבל סמכות רחבה יותר.
לעיתים ניתן לנהל אותו בכלי IAM קיימים, אך הוא זקוק למאפיינים נוספים: שיוך למפעיל אנושי, הגבלת כלים, תוקף קצר, מדיניות אישור ועקיבות של החלטה ופעולה. כדאי להגדירו כישות לא-אנושית מובחנת.
API עשוי לאפשר הגדרה מדויקת יותר, אך אינו בטוח מעצם היותו API. גם בו נדרשים היקפים מצומצמים, אימות, תיעוד, הגבלת קצב וביטול מהיר. שימוש בממשק גרפי מוסיף סיכוני פרשנות ומחייב בקרות משלימות.
כאשר הפעולה בלתי הפיכה, משפיעה על אדם, חושפת מידע, יוצרת התחייבות כספית או משפטית, או חורגת מדפוס רגיל. לאחר מדידה ניתן לצמצם אישורים במשימות בסיכון נמוך, אך לא לבטל אחריות.
OECD: עקרונות לשימוש אחראי בבינה מלאכותית
יישום מקצועי של זהות והרשאות לסוכני AI: מודל האבטחה שחסר לרוב הארגונים אינו מתחיל בבחירת כלי או בהכרזה על פרויקט רחב. מתחילים בתוצאה עסקית או מקצועית שאפשר להסביר ולבדוק: החלטה שצריך לשפר, זמן טיפול שרוצים לקצר, מידע שצריך לארגן או איכות תוצר שרוצים להעלות. לאחר מכן מגדירים מי בעל התהליך, מי משתמש בתוצאה, איזה מידע מותר להזין ומה נשאר באחריות אנושית. ההגדרה הזו מונעת מצב שבו המערכת מייצרת טיוטות מרשימות, אך אין דרך לקבוע אם הן נכונות, בטוחות או מועילות. היא גם מאפשרת להשוות בין עבודה קיימת לעבודה בסיוע בינה מלאכותית על בסיס נתונים ולא על בסיס תחושה.
בשלב הראשון מתארים את המשימה מתחילתה ועד סופה ומזהים את נקודות ההחלטה. קובעים אילו מקורות נחשבים מוסמכים, איזה מידע רגיש או חסוי אינו נכנס למערכת, מי רשאי לשנות את ההנחיות ומי מאשר את התוצר. כדאי לנסח גם תנאי עצירה: מידע חסר, סתירה בין מקורות, פעולה בלתי הפיכה או השפעה מהותית על אדם. כאשר הגבולות גלויים, העובדים אינם צריכים לנחש בכל שימוש מחדש מה מותר ומה אסור.
בשלב השני בוחרים כמה מקרים אמיתיים ומייצגים, מסירים מהם מידע שאינו נחוץ ומכינים תוצאה אנושית להשוואה. מודדים את המצב הקיים: זמן עד תוצר מאושר, מספר תיקונים, טעויות חוזרות, תלות במומחה ושביעות רצון המשתמשים. את תוצרי הבינה המלאכותית בודקים באותם קריטריונים. חשוב לכלול גם מקרי קצה ותשובות שאינן ודאיות, משום שמערכת שנראית טובה בדוגמה פשוטה עלולה להיכשל דווקא במצבים שבהם נדרשת שיקול דעת.
בשלב השלישי עובדים במחזורים קצרים. המשתמשים מתרגלים על משימות מהעבודה, מתעדים אילו תיקונים ביצעו ומדווחים על תוצאה לא מדויקת, חריגה מהרשאה או קושי בהסבר. אחת לתקופה בוחנים אם ההנחיות, המקורות וההרשאות עדיין מתאימים. הרחבה לצוותים נוספים מתבצעת רק לאחר שהאיכות יציבה, האחריות ברורה וקיימת דרך לטפל בחריגים. כך ההטמעה הופכת ללמידה ארגונית ולא לאוסף שימושים פרטיים שאיש אינו מנהל.
זמן עד טיוטה ראשונה הוא מדד חלקי בלבד. המדד החשוב יותר הוא זמן עד תוצר מאושר, לצד דיוק, שלמות, התאמה לקהל ושיעור התיקונים שנדרשו. יש למדוד גם סיכון: חשיפת מידע, המצאת עובדות, שימוש במקור לא עדכני, החלטה ללא הסבר או פעולה שבוצעה בלי אישור. לכל מדד יעילות מומלץ להצמיד מדד איכות אחד לפחות. אם המערכת חוסכת דקות אך מעבירה את העומס לבדיקת מומחה, ייתכן שלא נוצר שיפור אמיתי.
המנהל אינו צריך לכתוב כל הנחיה בעצמו, אך עליו להגדיר את התוצאה, את גבולות הסיכון ואת חלוקת האחריות. עליו לאפשר זמן לתרגול, לבקש דוגמאות של הצלחות וכישלונות ולוודא שהעובדים יודעים מתי לעצור ולהתייעץ. בתהליכים רגישים משלבים לפי הצורך אבטחת מידע, פרטיות, ייעוץ משפטי, משאבי אנוש ומערכות מידע. ניהול נכון יוצר שפה משותפת: מה נחשב שימוש מועיל, כיצד בודקים תוצאה ומי מוסמך לאשר מעבר מניסוי לשגרה.
רוצים להפוך את הידע ליכולת עבודה מעשית? אפשר להעמיק באמצעות סדנת בינה מלאכותית לארגונים, לבחור הרצאת בינה מלאכותית לארגונים או לבנות הדרכת בינה מלאכותית לארגונים. לתכנון מסלול מתאים לצוות, פנו לצוות THE IMPACT.