שימוש בבינה מלאכותית במגזר הציבורי יכול לקצר זמני טיפול, להנגיש מידע ולסייע לעובדים להתמודד עם עומס מסמכים. אולם רשות ציבורית אינה נמדדת רק במהירות. היא מחויבת להוגנות, לשוויון, להגנת מידע, לנגישות, ליכולת להסביר החלטה ולמתן אפשרות להשגה. לכן מערכת AI בשירות ציבורי דורשת רמת ממשל ובקרה גבוהה מזו של כלי פרודוקטיביות אישי.
בישראל, כמו במדינות אחרות, המעבר לשירותים דיגיטליים ולתשתיות ענן מרחיב את האפשרות לשלב AI בתהליכי ממשלה. החלטת ממשלה 3574 מדצמבר 2025 עוסקת בהאצת יכולות הדאטה והבינה המלאכותית באמצעות ענן ציבורי. החלטה כזו מספקת תשתית וכיוון, אך אינה מחליפה בדיקה של חוקיות, פרטיות, אבטחת מידע, נגישות והשלכות על זכויות בכל מערכת ובכל שירות.
העיקרון המנחה: השפעה ציבורית מחייבת אחריות ציבוריתכאשר מערכת מסכמת מסמך פנימי, טעות יכולה לגרום לעבודה חוזרת. כאשר היא משפיעה על זכאות, תור, קנס, בדיקה, רישיון או שירות חיוני, אותה טעות עלולה לפגוע באדם. ככל שהשפעת המערכת גבוהה יותר, נדרשים תיעוד, בדיקות, פיקוח אנושי, שקיפות ונתיב ערעור משמעותיים יותר.
עקרונות ה-OECD לבינה מלאכותית מדגישים כיבוד שלטון החוק, זכויות אדם, ערכים דמוקרטיים, הוגנות ופרטיות לאורך מחזור החיים. הם מדגישים גם שקיפות והסבר המאפשרים לאדם להבין שהוא מקיים אינטראקציה עם מערכת AI ולערער על תוצאה שפגעה בו. עבור גוף ציבורי, אלה אינם סעיפי תדמית אלא דרישות תכנון.
אילו שימושים מתאימים להתחלהנקודת פתיחה טובה היא תהליך פנימי, חוזר ובעל תוצאה ניתנת לבדיקה: סיכום מסמכים, מיון פניות לצורך ניתוב, חיפוש בנהלים, הכנת טיוטת תשובה, תמלול ישיבה או איתור מידע חסר בטופס. במקרים אלה ה-AI מסייע לעובד מוסמך ואינו מקבל החלטה סופית על האזרח.
שימושים בעלי השפעה גבוהה — דירוג זכאות, זיהוי הונאה, הערכת סיכון, קביעת קדימות או המלצה על אכיפה — דורשים בדיקה מחמירה יותר. יש לבחון האם קיימת סמכות חוקית, האם הנתונים מתאימים, האם המודל מפלה קבוצות, האם ניתן להסביר את התוצאה והאם עובד יכול לבטל או לתקן אותה בזמן.
שבע שכבות של ממשל אחראי
נגישות, שפה ושוויון בשירותמערכת ציבורית בישראל נדרשת לפעול בסביבה רב־לשונית ובמגוון רמות אוריינות דיגיטלית. ביצועים טובים בעברית אינם מעידים בהכרח על ביצועים זהים בערבית, באנגלית או בשפה פשוטה. יש לבדוק כל שפה בנפרד, כולל שמות, כתובות, מונחים משפטיים וכיווניות. בנוסף, ממשק AI חייב להשתלב בדרישות הנגישות של השירות ולא ליצור מסלול נחות למי שאינו משתמש בדיגיטל.
חשוב לבדוק גם השפעה שונה על קבוצות. מדד דיוק כולל יכול להסתיר שיעור טעויות גבוה בקרב אוכלוסייה קטנה. לכן מערך הבדיקה צריך לכלול תרחישים מייצגים, מקרי קצה, נתונים חסרים ואפשרות לאזרח לקבל שירות חלופי.
כיצד מודדים פיילוט ציבורימדדי יעילות כוללים זמן טיפול, עומס על עובדים ושיעור פניות שנפתרו. לצדם חייבים למדוד דיוק, שיעור תיקונים, טעויות לפי קבוצה, אירועי פרטיות, תלונות, זמן עד בדיקה אנושית ומספר תוצאות שבוטלו. הרחבה מוצדקת רק כאשר הערך נשמר בלי לפגוע בזכויות ובאמון.
לפני הפעלה מומלץ לפרסם בתוך הארגון כרטיס מערכת קצר: מטרה, בעלים, ספק, סוגי נתונים, רמת סיכון, בדיקות, מגבלות וכתובת לדיווח. במערכת בעלת השפעה ציבורית, יש לבחון גם פרסום מידע מתאים לציבור בשפה ברורה.
לא. פיקוח אנושי יעיל מחייב יכולת להבין את ההמלצה, גישה למידע המקורי, סמכות לשנות את התוצאה ותיעוד של ההחלטה. אם העובד רק מאשר אוטומטית, הבקרה אינה משמעותית.
אפשר רק במסגרת כלי ומדיניות מאושרים, ללא חשיפת מידע אסור, עם בדיקת מקור ואישור מקצועי בהתאם לסיכון. בתשובה רשמית האחריות נשארת בידי הגוף הציבורי.
כאשר מתגלה פגיעה בזכויות, דליפת מידע, ירידה משמעותית באיכות, הטיה שלא ניתן לתקן במהירות או שינוי ספק שלא עבר בדיקה. תהליך עצירה צריך להיקבע מראש ולא בזמן האירוע.
AI אחראי במגזר הציבורי מתחיל ממטרה ציבורית ברורה וממשיך בהערכת השפעה, הגנת מידע, שקיפות, פיקוח אנושי, רכש אחראי וניטור. הטכנולוגיה יכולה לסייע לעובדים ולשפר שירות, אך אינה מעבירה אל הספק או אל המודל את האחריות של הרשות.
G7 Toolkit for Artificial Intelligence in the Public Sector:החלטת ממשלה 3574 — האצת יכולות הדאטה והבינה המלאכותית בממשלה:
יישום מקצועי של AI ואתיקה במגזר הציבורי בישראל: מדריך ליישום אחראי ושקוף אינו מתחיל בבחירת כלי או בהכרזה על פרויקט רחב. מתחילים בתוצאה עסקית או מקצועית שאפשר להסביר ולבדוק: החלטה שצריך לשפר, זמן טיפול שרוצים לקצר, מידע שצריך לארגן או איכות תוצר שרוצים להעלות. לאחר מכן מגדירים מי בעל התהליך, מי משתמש בתוצאה, איזה מידע מותר להזין ומה נשאר באחריות אנושית. ההגדרה הזו מונעת מצב שבו המערכת מייצרת טיוטות מרשימות, אך אין דרך לקבוע אם הן נכונות, בטוחות או מועילות. היא גם מאפשרת להשוות בין עבודה קיימת לעבודה בסיוע בינה מלאכותית על בסיס נתונים ולא על בסיס תחושה.
בשלב הראשון מתארים את המשימה מתחילתה ועד סופה ומזהים את נקודות ההחלטה. קובעים אילו מקורות נחשבים מוסמכים, איזה מידע רגיש או חסוי אינו נכנס למערכת, מי רשאי לשנות את ההנחיות ומי מאשר את התוצר. כדאי לנסח גם תנאי עצירה: מידע חסר, סתירה בין מקורות, פעולה בלתי הפיכה או השפעה מהותית על אדם. כאשר הגבולות גלויים, העובדים אינם צריכים לנחש בכל שימוש מחדש מה מותר ומה אסור.
בשלב השני בוחרים כמה מקרים אמיתיים ומייצגים, מסירים מהם מידע שאינו נחוץ ומכינים תוצאה אנושית להשוואה. מודדים את המצב הקיים: זמן עד תוצר מאושר, מספר תיקונים, טעויות חוזרות, תלות במומחה ושביעות רצון המשתמשים. את תוצרי הבינה המלאכותית בודקים באותם קריטריונים. חשוב לכלול גם מקרי קצה ותשובות שאינן ודאיות, משום שמערכת שנראית טובה בדוגמה פשוטה עלולה להיכשל דווקא במצבים שבהם נדרשת שיקול דעת.
בשלב השלישי עובדים במחזורים קצרים. המשתמשים מתרגלים על משימות מהעבודה, מתעדים אילו תיקונים ביצעו ומדווחים על תוצאה לא מדויקת, חריגה מהרשאה או קושי בהסבר. אחת לתקופה בוחנים אם ההנחיות, המקורות וההרשאות עדיין מתאימים. הרחבה לצוותים נוספים מתבצעת רק לאחר שהאיכות יציבה, האחריות ברורה וקיימת דרך לטפל בחריגים. כך ההטמעה הופכת ללמידה ארגונית ולא לאוסף שימושים פרטיים שאיש אינו מנהל.
זמן עד טיוטה ראשונה הוא מדד חלקי בלבד. המדד החשוב יותר הוא זמן עד תוצר מאושר, לצד דיוק, שלמות, התאמה לקהל ושיעור התיקונים שנדרשו. יש למדוד גם סיכון: חשיפת מידע, המצאת עובדות, שימוש במקור לא עדכני, החלטה ללא הסבר או פעולה שבוצעה בלי אישור. לכל מדד יעילות מומלץ להצמיד מדד איכות אחד לפחות. אם המערכת חוסכת דקות אך מעבירה את העומס לבדיקת מומחה, ייתכן שלא נוצר שיפור אמיתי.
המנהל אינו צריך לכתוב כל הנחיה בעצמו, אך עליו להגדיר את התוצאה, את גבולות הסיכון ואת חלוקת האחריות. עליו לאפשר זמן לתרגול, לבקש דוגמאות של הצלחות וכישלונות ולוודא שהעובדים יודעים מתי לעצור ולהתייעץ. בתהליכים רגישים משלבים לפי הצורך אבטחת מידע, פרטיות, ייעוץ משפטי, משאבי אנוש ומערכות מידע. ניהול נכון יוצר שפה משותפת: מה נחשב שימוש מועיל, כיצד בודקים תוצאה ומי מוסמך לאשר מעבר מניסוי לשגרה.
רוצים להפוך את הידע ליכולת עבודה מעשית? אפשר להעמיק באמצעות סדנת בינה מלאכותית לארגונים, לבחור הרצאת בינה מלאכותית לארגונים או לבנות הדרכת בינה מלאכותית לארגונים. לתכנון מסלול מתאים לצוות, פנו לצוות THE IMPACT.