כאשר מערכת AI מציעה מחיר, מועמד, סדר עדיפויות או פעולה, היא משפיעה על החלטה גם אם האדם לוחץ על הכפתור האחרון. לכן הטמעה משנה לא רק משימות אלא גם כוח, מידע ואחריות. ארגון שלא מגדיר מחדש מי מוסמך להחליט עלול לגלות שמנהלים מאשרים אוטומטית, עובדים אינם יודעים לערער וספק טכנולוגי קובע בפועל את כללי העבודה. מבנה ארגוני מתאים מבהיר היכן האלגוריתם מסייע, היכן הוא ממליץ והיכן אסור לו לפעול.
המערכת אוספת, מסכמת או מציגה חלופות. האדם מנסח את השאלה ומקבל את ההחלטה. דוגמה: סיכום נתוני פרויקט לקראת ישיבת הנהלה.
המערכת מדרגת אפשרויות או מציעה צעד. האדם בוחן את ההנחות, יכול לסטות ומנמק החלטות משמעותיות. דוגמה: המלצה על תעדוף פניות שירות.
המערכת מבצעת פעולה בגבולות שנקבעו, למשל ניתוב בקשה פשוטה. ככל שההשפעה גבוהה יותר, נדרשים תנאי עצירה, ניטור ויכולת חזרה. אין לאפשר פעולה אוטומטית רק משום שהיא אפשרית טכנית.
לכל החלטה רושמים חמישה תפקידים: מי מספק מידע, מי מנסח המלצה, מי מאשר, מי מבצע ומי בוחן תוצאה. לעיתים אדם אחד ממלא כמה תפקידים, אך הם עדיין צריכים להיות גלויים. המיפוי חושף נקודות שבהן סמכות עברה בלי דיון, למשל כאשר דירוג אוטומטי הפך לסף מחייב.מסגרת NIST AI RMF מדגישה ממשל לאורך כל מחזור החיים. עקרונות OECD מוסיפים שקיפות, אחריות והוגנות. שני המקורות תומכים בגישה שבה ניהול AI הוא מערכת תפקידים ובקרות, לא מסמך מדיניות חד-פעמי.
אחראי לתוצאה העסקית, להגדרת המדד ולכך שהעבודה מתאימה ללקוחות ולעובדים. הוא אינו יכול להעביר את האחריות למחלקת מערכות מידע.
מגדיר מקור מוסמך, איכות, הרשאה ומשך שמירה. אם הנתונים חסרים או מוטים, גם המלצה מתוחכמת תהיה חלשה.
בודק ביצועים, חריגים והשפעה על קבוצות שונות. בתהליך רגיש כדאי להפריד בינו לבין מי שמקדם את הפרויקט, כדי לצמצם ניגוד עניינים.
אין צורך להעביר כל שימוש לוועדה גדולה. מגדירים מסלול מהיר לניסוי בסיכון נמוך, ומעלים לדיון רק מקרים שעוברים ספים: מידע אישי, החלטה על אדם, התחייבות כספית, פרסום חיצוני או פעולה בלתי הפיכה. פורום קטן ורב-תחומי כולל לפי הצורך נציג תהליך, אבטחת מידע, משפט, משאבי אנוש וטכנולוגיה.הפורום אינו רק “שומר סף”. הוא מסייע לתכנן פיילוט, לקבוע מדדים וללמוד מאירועים. מומלץ לפרסם תשובות ותבניות לצוותים, כך שהידע אינו נשאר אצל מספר מנהלים.
מנהל נדרש לשאול מה בסיס ההמלצה, מה חסר ואיזו טעות עלולה להיות יקרה. עליו לאפשר לעובד לסטות מהמלצה בלי להיענש אוטומטית, במיוחד כשהעובד מזהה הקשר שהמערכת לא רואה. אם כל סטייה דורשת הליך ארוך, האישור האנושי הופך לחותמת.בסדנת בינה מלאכותית לארגונים ניתן לתרגל תרחישי החלטה ולבנות מפת סמכות. הדרכת AI למנהלים צריכה לכלול ניהול חריגים, ביקורת תוצר ותקשורת עם עובדים, ולא רק כתיבת הנחיות.
לצד זמן ועלות מודדים שיעור החלטות שנבדקו, סטיות מהמלצה, סיבות לסטייה, טעויות שהתגלו, תלונות, פערים בין קבוצות וזמן טיפול בחריג. סטייה אינה בהכרח כשל; היא יכולה להעיד שהעובד הפעיל שיקול דעת. חשוב לנתח דוגמאות ולא לרדוף אחרי יעד נמוך של “אי-התאמה”.דוח אירועים קצר צריך לענות מה קרה, מי הושפע, כיצד נעצרה הפעולה, מה תוקן ואיך ימנעו חזרה. מסגרת ISO/IEC 42001 מציעה עקרונות למערכת ניהול AI ויכולה לסייע לארגונים שרוצים למסד אחריות ושיפור.
אדם שמושפע מהחלטה צריך לדעת שנעשה שימוש במערכת, לקבל הסבר מתאים ולהיות מסוגל לבקש בדיקה. בתוך הארגון, עובד צריך כתובת ברורה כאשר מקור אינו אמין, ההמלצה אינה מתאימה או שהמערכת חורגת מהרשאה. ערוץ הערעור חייב להיות פשוט יותר מהשלמת התהליך השגוי; אחרת אנשים יוותרו והכשל יהפוך לשגרה.מומלץ להגדיר שלוש רמות הסלמה: תיקון שגרתי אצל בעל התהליך, עצירה זמנית במקרה של פגיעה אפשרית, ובדיקה רב-תחומית כאשר הכשל חוזר או משפיע על קבוצה. זמן התגובה לכל רמה נקבע מראש. אחת לרבעון מנתחים את הערעורים כמקור ללמידה ארגונית, ולא כאיום על הפרויקט.
בוחרים החלטה אחת, מתארים את המצב הקיים ומסמנים מי מחזיק בכל זכות החלטה. קובעים מקור, סף ביטחון, נקודת אישור ותנאי עצירה. מריצים מספר מקרים היסטוריים לפני שימוש חי, ולאחר מכן מתחילים בהיקף מוגבל. אחת לשבוע בוחנים חריגים, ובסוף החודש מחליטים אם להרחיב, לשנות או לעצור.שלבי עבודה נוספים זמינים במתודולוגיית THE IMPACT, המחברת אבחון, למידה, ניסוי והטמעה.
הארגון ובעלי התפקידים שהוגדרו. ספק וכלי יכולים לתמוך, אך הם אינם מבטלים אחריות ניהולית, משפטית ומקצועית.
לא. פעולה שגרתית, הפיכה ובסיכון נמוך יכולה להיות אוטומטית בתוך גבולות. החלטה משמעותית על אדם, כסף או זכות מחייבת בקרה חזקה יותר.
מציגים מקורות והנחות, מאפשרים סטייה, בודקים מדגם החלטות ומודדים איכות ולא רק ציות להמלצה.
בעל התהליך העסקי צריך להוביל, עם שותפות של טכנולוגיה, מידע ובקרות. פרויקט שמוחזק רק ב-IT מתקשה לשנות סמכויות ושגרות.
בחרו החלטה אחת שמושפעת מ-AI וכתבו מי ממליץ, מי מאשר, מי רשאי לסטות ומי לומד מהתוצאה. לתכנון סדנה או תהליך ממשל מותאם, פנו לצוות THE IMPACT. מפת סמכות ברורה מאפשרת ליהנות ממהירות בלי לאבד אחריות, שקיפות ואמון.