בינה מלאכותית במגזר הפיננסי בישראל נכנסת למוקדי שירות, מערכי הונאה, ניתוח מסמכים, חיזוי תזרים ותמיכה בהחלטות. אולם בנק, חברת ביטוח, בית השקעות או חברת אשראי אינם יכולים להסתפק בתוצאה שנראית סבירה. החלטה משפיעה על כסף, פרטיות ולעיתים גם על נגישות לשירות חיוני. לכן כל שימוש צריך להתחיל בהגדרת תרחיש, נתונים, אחריות ובקרות, ורק לאחר מכן בבחירת כלי.
מערכת יכולה לסכם פנייה, לאתר מידע בנהלים, להציע טיוטת תשובה ולמיין מסמכים. הערך נוצר כאשר היא מקצרת זמן עד פתרון ומפחיתה העברות בין יחידות. כדי לשמור על אמינות, התשובה צריכה להישען על מקורות מאושרים, להציג למשתמש מתי המידע עודכן ולאפשר לנציג לתקן. אין לאפשר למערכת להבטיח תנאי מוצר או לבצע פעולה כספית ללא הרשאה ברורה.
מודלים יכולים לאתר דפוסים חריגים ולתעדף בדיקה אנושית. כאן חשוב להבחין בין איתות לבין קביעה. ציון סיכון הוא בסיס לחקירה, לא הוכחה. נדרש מעקב אחר אזעקות שווא, שינוי בדפוסי האוכלוסייה וההשפעה על קבוצות שונות. תהליך ערעור והסבר פנימי מגנים על הלקוח וגם משפרים את איכות המודל.
שימוש ב-AI להערכת סיכון מחייב זהירות גבוהה במיוחד. הצוות צריך לדעת אילו נתונים משפיעים, האם קיימים משתנים המשמשים תחליף עקיף למאפיין רגיש וכיצד נבדקת עקביות לאורך זמן. גם כשהמודל מספק המלצה בלבד, יש להגדיר מי מוסמך לסטות ממנה, כיצד מנמקים החלטה ומה נשמר לצורך ביקורת.
בקרות אינן מסמך חד-פעמי. שינוי בריבית, בהתנהגות לקוחות, במוצר או במקור נתונים עלול להפוך מודל שהיה סביר לפחות מתאים. מסגרת NIST AI RMF ממליצה לנהל סיכון לאורך מחזור החיים, ועקרונות OECD מדגישים אחריות, שקיפות ועמידות. במגזר פיננסי כדאי לתרגם עקרונות אלה לבעלי תפקידים, תדירות בדיקה וראיות שנשמרות.
מתחילים בתרחיש בעל השפעה מוגבלת, למשל סיכום מסמכים לשימוש פנימי או הצעת מענה לנציג. בונים קו בסיס של זמן טיפול, דיוק ומספר תיקונים. מריצים את המערכת במצב “צל”, שבו היא מציעה אך אינה משפיעה על החלטה, ומשווים בין התוצאה שלה לתוצאה מקצועית. רק לאחר שהתגלו דפוסי כשל, הוגדרו בקרות והמשתמשים הוכשרו, מרחיבים שימוש.
הדוח צריך לשלב יעילות, איכות וסיכון: זמן עד תוצאה מאושרת, שיעור טעויות מהותיות, מספר מקרים שהוסלמו, השפעה על תלונות, עלות בדיקה אנושית ושיעור שימוש חוזר. מדד חיסכון לבדו אינו מספיק. אם עובדים נדרשים לבדוק כל משפט מחדש, ייתכן שהמערכת העבירה עומס במקום לצמצם אותו.
עובדים צריכים להבין לא רק כיצד לנסח הנחיה, אלא אילו נתונים אסור להזין, כיצד לזהות תשובה לא מבוססת ומתי לעצור. מנהלים נדרשים לבקש ראיות ולא הדגמות. צוותי פרטיות, אבטחת מידע, משפטי, סיכונים וביקורת פנימית צריכים להשתלב לפי רמת ההשפעה. סדנת AI לארגונים מאפשרת לתרגל תרחישים פיננסיים, והדרכת AI לארגונים יכולה לבנות שגרות שימוש ובקרה לפי תפקיד.
בדיקת ספק צריכה לכלול את מקום אחסון הנתונים, שימוש אפשרי בקלט לצורכי אימון, זהות קבלני משנה, מנגנוני מחיקה, זמינות יומני פעילות ויכולת להעביר נתונים החוצה. יש לבחון מה קורה כאשר גרסת המודל משתנה והאם הספק מודיע על שינוי מהותי. חוזה טוב אינו מחליף בדיקה טכנית, ובדיקה טכנית אינה מחליפה חלוקת אחריות ברורה. לפני רכישה רצוי להפעיל הוכחת יכולת על דוגמאות אנונימיות ולמדוד איכות ועלות בתנאי עבודה אמיתיים.
ארגונים פיננסיים בישראל פועלים תחת דרישות פרטיות, אבטחת מידע, ניהול סיכונים והוראות מקצועיות של רגולטורים שונים. גם כאשר אין הוראה ייעודית לכל כלי גנרטיבי, חובות קיימות אינן נעלמות. יש למפות מי הלקוח, איזה מידע מעובד, האם התוצאה משפיעה עליו ומהו בסיס ההחלטה. עבודה עם לקוחות או שותפים באירופה עשויה להוסיף דרישות הנוגעות למערכת AI ולשרשרת האספקה. לכן המיפוי המשפטי צריך להתרחש לפני הרחבה ולא לאחר אירוע.
לפני כל שימוש כזה נדרשת בחינה משפטית, מקצועית ואתית. יש להבטיח בסיס נתונים מתאים, בדיקות הוגנות, הסבר, תיעוד ופיקוח אנושי משמעותי.
משימה פנימית הפיכה, כגון סיכום מסמך או איתור סעיף בנוהל, שבה איש מקצוע בודק את התוצאה לפני שימוש.
משווים ביצועים ושיעורי טעות בין קבוצות רלוונטיות, בוחנים משתנים עקיפים ומתעדים את שיטת הבדיקה. אם מתגלה פער, עוצרים הרחבה ובודקים את מקורו.
האחריות נשארת ארגונית. לכן לכל תרחיש צריך בעל תהליך, מאשר מקצועי, בעל מודל וכתובת לטיפול באירוע.
לפני מעבר מצוות ניסוי ליחידות נוספות בודקים שהמדיניות מובנת, שההרשאות עובדות, שקיימת כתובת לשאלות ושאפשר לזהות ירידה באיכות. מרחיבים בהדרגה, משווים בין צוותים ומעדכנים את ההכשרה לפי טעויות אמיתיות. הצלחה בפיילוט אינה ערובה להצלחה בהיקף גדול, משום שהנתונים, המשתמשים ועומס העבודה משתנים.
THE IMPACT מסייעת לארגונים למפות שימושים, לבחור פיילוט, להגדיר בקרה ולהכשיר מנהלים ועובדים. שיטת THE IMPACT מחברת בין ערך, מיומנות וממשל. צרו קשר לתיאום היכרות, ונבחן יחד כיצד להפעיל בינה מלאכותית במגזר הפיננסי באופן מדיד, בטוח ורלוונטי לעבודה.