תוכן בקנה מידה עם בינה מלאכותית (AI): איכות, עקביות ובקרה. מבחינה ארגונית, השאלה אינה רק מה כלי AI מסוגלים להפיק, אלא כיצד משלבים אותם בתהליך שניתן להסביר, לבדוק ולשחזר. המאמר מציג שימושים מעשיים, סיכונים, בקרות ומדדים שצריך להגדיר לפני הרחבת השימוש.
מנסחים במשפט אחד איזה תהליך משתנה, מי המשתמש, איזה פלט נדרש ומהי רמת הטעות המותרת. הגדרה זו מחברת את העבודה ליעד ברור ומונעת בחירת כלי לפי אופנה.
מתעדים את הדרך הנוכחית לביצוע המשימה, כולל זמן, בקרות וטעויות חוזרות. בלי קו בסיס אי אפשר לדעת אם ה-AI שיפר את העבודה או רק שינה אותה.
מגדירים כוונת משתמש ושאלה מרכזית לכל נכס תוכןמחברים תשובות למקור, מומחה ותאריך עדכוןבודקים איכות, הטיה ושפה לפני פרסום או פנייה ללקוח
בוחרים משתמשים ותרחישים מייצגים. לכל פיילוט יש בעל תהליך, מאשר מקצועי ונתיב לעצירה או הסלמה כאשר מתקבל פלט שגוי, רגיש או בלתי מוסבר.
לאחר בדיקת האיכות והסיכון מנסחים נוהל קצר, תבניות עבודה, כללי פרטיות ותוכנית הדרכה. ההרחבה הדרגתית וכוללת ביקורת תקופתית.
מדידה טובה משלבת יעילות, איכות וסיכון:שיעור משימות שהסתיימו ללא תיקון מהותימעבר מתוכן לפעולה רצויהשיעור פניות שהועברו לאדם בזמןשיפור במהירות אינו הצלחה אם הוא מגדיל טעויות, חשיפה של מידע או עומס בדיקה על מומחים.
תוכן שגוי או כפול בקנה מידהפנייה אוטומטית ללא הקשרפגיעה באמון בגלל חוסר שקיפותהבקרה היא חלק ממחזור החיים: תכנון, בחירת ספק, בדיקה, הפעלה, ניטור ושינוי. מסגרות NIST ו-OECD מספקות בסיס לניהול סיכון, שקיפות, אחריות ופיקוח אנושי.
מתחילים בתהליך וביעד. אפשר לבדוק כלי בפיילוט קצר, אבל הבחירה נעשית לפי המשימה, הנתונים, הסיכון והמערכות הקיימות.
עד שיש די תרחישים חוזרים כדי לזהות איכות, חריגים ועלות תפעולית. עדיף היקף קטן עם מדידה ברורה על פריסה רחבה ללא קו בסיס.
אישור אנושי חשוב כאשר הפלט משפיע על זכויות, כסף, בטיחות, מוניטין או מידע רגיש. בכל תהליך צריך להגדיר מי אחראי לתוצאה הסופית.
THE IMPACT בונה סדנאות, הרצאות ותוכניות הטמעת AI לארגונים, לפי תפקידים, תהליכים ורמת סיכון. אפשר לפנות אלינו למיפוי שימושים, בחירת פיילוט והגדרת תוצרים ומדדי הצלחה.
יישום מקצועי של תוכן בקנה מידה עם AI: איכות, עקביות ובקרה אינו מתחיל בבחירת כלי או בהכרזה על פרויקט רחב. מתחילים בתוצאה עסקית או מקצועית שאפשר להסביר ולבדוק: החלטה שצריך לשפר, זמן טיפול שרוצים לקצר, מידע שצריך לארגן או איכות תוצר שרוצים להעלות. לאחר מכן מגדירים מי בעל התהליך, מי משתמש בתוצאה, איזה מידע מותר להזין ומה נשאר באחריות אנושית. ההגדרה הזו מונעת מצב שבו המערכת מייצרת טיוטות מרשימות, אך אין דרך לקבוע אם הן נכונות, בטוחות או מועילות. היא גם מאפשרת להשוות בין עבודה קיימת לעבודה בסיוע בינה מלאכותית על בסיס נתונים ולא על בסיס תחושה.
בשלב הראשון מתארים את המשימה מתחילתה ועד סופה ומזהים את נקודות ההחלטה. קובעים אילו מקורות נחשבים מוסמכים, איזה מידע רגיש או חסוי אינו נכנס למערכת, מי רשאי לשנות את ההנחיות ומי מאשר את התוצר. כדאי לנסח גם תנאי עצירה: מידע חסר, סתירה בין מקורות, פעולה בלתי הפיכה או השפעה מהותית על אדם. כאשר הגבולות גלויים, העובדים אינם צריכים לנחש בכל שימוש מחדש מה מותר ומה אסור.
בשלב השני בוחרים כמה מקרים אמיתיים ומייצגים, מסירים מהם מידע שאינו נחוץ ומכינים תוצאה אנושית להשוואה. מודדים את המצב הקיים: זמן עד תוצר מאושר, מספר תיקונים, טעויות חוזרות, תלות במומחה ושביעות רצון המשתמשים. את תוצרי הבינה המלאכותית בודקים באותם קריטריונים. חשוב לכלול גם מקרי קצה ותשובות שאינן ודאיות, משום שמערכת שנראית טובה בדוגמה פשוטה עלולה להיכשל דווקא במצבים שבהם נדרשת שיקול דעת.
בשלב השלישי עובדים במחזורים קצרים. המשתמשים מתרגלים על משימות מהעבודה, מתעדים אילו תיקונים ביצעו ומדווחים על תוצאה לא מדויקת, חריגה מהרשאה או קושי בהסבר. אחת לתקופה בוחנים אם ההנחיות, המקורות וההרשאות עדיין מתאימים. הרחבה לצוותים נוספים מתבצעת רק לאחר שהאיכות יציבה, האחריות ברורה וקיימת דרך לטפל בחריגים. כך ההטמעה הופכת ללמידה ארגונית ולא לאוסף שימושים פרטיים שאיש אינו מנהל.
זמן עד טיוטה ראשונה הוא מדד חלקי בלבד. המדד החשוב יותר הוא זמן עד תוצר מאושר, לצד דיוק, שלמות, התאמה לקהל ושיעור התיקונים שנדרשו. יש למדוד גם סיכון: חשיפת מידע, המצאת עובדות, שימוש במקור לא עדכני, החלטה ללא הסבר או פעולה שבוצעה בלי אישור. לכל מדד יעילות מומלץ להצמיד מדד איכות אחד לפחות. אם המערכת חוסכת דקות אך מעבירה את העומס לבדיקת מומחה, ייתכן שלא נוצר שיפור אמיתי.
המנהל אינו צריך לכתוב כל הנחיה בעצמו, אך עליו להגדיר את התוצאה, את גבולות הסיכון ואת חלוקת האחריות. עליו לאפשר זמן לתרגול, לבקש דוגמאות של הצלחות וכישלונות ולוודא שהעובדים יודעים מתי לעצור ולהתייעץ. בתהליכים רגישים משלבים לפי הצורך אבטחת מידע, פרטיות, ייעוץ משפטי, משאבי אנוש ומערכות מידע. ניהול נכון יוצר שפה משותפת: מה נחשב שימוש מועיל, כיצד בודקים תוצאה ומי מוסמך לאשר מעבר מניסוי לשגרה.
רוצים להפוך את הידע ליכולת עבודה מעשית? אפשר להעמיק באמצעות סדנת בינה מלאכותית לארגונים, לבחור הרצאת בינה מלאכותית לארגונים או לבנות הדרכת בינה מלאכותית לארגונים. לתכנון מסלול מתאים לצוות, פנו לצוות THE IMPACT.