בית המשפט העליון פירסם היום פסק דין מעניין, שבמרכזו – שוב – שימוש בלתי מבוקר בבינה מלאכותית.
זו לא הפעם הראשונה שבה מתגלה שימוש שכזה במסגרת הליכים משפטיים. ייחודו של המקרה הנוכחי הוא שמי שעשתה שימוש שכזה היא רשות מינהלית – עיריית רמת גן בכבודה ובעצמה.
העובדות הן לא מאוד חשובות.
ממש בתמצית, מדובר באב גרוש לתלמיד בחינוך המיוחד, אשר פנה לעיריית רמת גן בטענה כי הוא זכאי להסעות עבור בנו.
העירייה דחתה את הפנייה, והשיבה לאב כי בהסתמך על חוזר מנכ"ל משרד החינוך, ועל קביעות בפסקי דין כאלה ואחרים – אין לבנו זכות להסעות.
האב החרוץ לא ויתר, וניסה לאתר את אותו חוזר מנכ"ל, כמו גם את פסקי הדין שעליהם "התבססה" העירייה בתשובתה. עד מהרה, הוא הבין שכל אלה לא היו ולא נבראו, ושככל הנראה העירייה פשוט הסתמכה על תוכן שנכתב על ידי כלי של בינה מלאכותית.
בעקבות זאת, האב הגיש עתירה מינהלית לבית המשפט המחוזי.
במהלך הדיון בעתירה, הושגה פשרה בין הצדדים, כך שתסופק הסעה לקטין. עם זאת, האב דרש שייפסקו הוצאות לטובתו, נוכח התנהלות העירייה.
בהחלטתו, ביהמ״ש המחוזי דחה את בקשת האב לפסוק הוצאות, וזאת בעיקר משום שההליך הסתיים, כאמור, בהסכמה.
האב שוב לא ויתר, והגיש ערעור לבית המשפט העליון.
והנה הגענו אל פסק הדין מהיום, ואל חוות הדעת המובילה, שאותה כתב סולברג – שהחליט לנצל את ההזדמנות כדי לפרוס יריעה רחבה בנושא השימוש הבלתי מבוקר בבינה מלאכותית.
תחילה, סולברג הדגיש שההסתמכות "העיוורת" של העירייה על בינה מלאכותית – לא היתה רק בניסוח המענה מטעמה לפניית האב.
מסתבר, שגם בתגובה שהעירייה הגישה לבית המשפט המחוזי – במענה לטענות האב על כך שהעירייה הסתמכה בתשובתה אליו על בינה מלאכותית – היא עשתה זאת שוב, וציטטה פסק דין לא קיים.
ואפילו כאשר האב ערער לבית המשפט העליון – העירייה חזרה לסורה, וציטטה קביעה מתוך פסק דין, שלא היתה ולא נבראה.
בקיצור, מדובר במקרה בוטה במיוחד, של שימוש לא מבוקר, שהלך ונמשך, בבינה מלאכותית.
ומה הדין במצב כזה?
קודם כל, סולברג קבע שהסתמכות על בינה מלאכותית, באופן אשר מביא בפני בית המשפט "הזיות" כמו פסקי דין או ציטוטים בלתי קיימים – היא בגדר הטעייה של בית המשפט ושל הצדדים להליך.
סולברג הזכיר שזה לא המקרה הראשון שבו הדבר מתברר בבתי המשפט בכלל, וגם לא בבית המשפט עליון בפרט.
ואם בפעמים הקודמות בתי המשפט נקטו ריסון והסתפקו באזהרה צופה פני עתיד, הרי שהמקרה הנוכחי, גם בשל נסיבותיו, כבר מצדיק תגובה שיפוטית חריפה יותר, בדמות פסיקת הוצאות בשיעור גבוה.
בנוסף, סולברג עמד על כך שהעובדה שהעירייה הסתמכה על בינה מלאכותית בממשק בינה לבין האב – אפילו חמורה יותר מכך שהיא הסתמכה עליה מול בתי המשפט.
הסיבה לכך שהיא שביחסים בין רשות לבין אזרח – הרבה פעמים לאזרח לא תהיה בכלל יכולת להבין שנגרם לו עוול, ובמיוחד מדובר על קבוצות חלשות.
לפי סולברג, כל עוד רמת האמינות של מערכות הבינה המלאכותית מוטלת בספק, ולעיתים הן כוללות "הזיות" – רשות מינהלית לא יכולה שלא לקיים מעורבות אנושית בתהליכי קבלת החלטות (מה שמכונה "Human in the loop").
כלומר, מותר לרשות להשתמש בבינה מלאכותית – אך לא ניתן להסתמך באופן "עיוור".
סולברג גם הרהר באפשרות לקבוע שרשות מינהלית אשר עושה שימוש בבינה מלאכותית – תהיה חייבת לגלות במענה מטעמה, על מנת שהאזרח לפחות ידע זאת ויוכל לכלכל את צעדיו בהתאם. עם זאת, הדבר נותר בגדר הרהור בלבד, ולא כקביעה מחייבת.
ואיך כל זה תורגם בסופו של דבר לתוצאה האופרטיבית של הערעור?
בהתחשב בכך שהעירייה עשתה "שימוש בלתי מבוקר – שלא לומר מופקר – בבינה מלאכותית", הן ביחסיה מול האב והן למול בתי המשפט, סולברג החליט להשית על העירייה הוצאות בסך 30,000 ש"ח – וגם רמז שבמקרים הבאים יתכן שיהיה חיוב בהוצאות אישיות על עורך הדין שמייצג את הרשות, ולא רק על הרשות המיוצגת. >
העניין האחרון שנזכיר מתוך פסק הדין הוא את קריאתו של סולברג לכנסת ולממשלה, על מנת שאלה יפעלו לעצב כלים להתמודדות עם השימוש ההולך וגובר בבינה מלאכותית (הכנסת מבחינת חקיקה, הממשלה מבחינת הכוונת רשויות המינהל).
האם מישהו ברשות המחוקקת או המבצעת יטרח לעשות משהו בנושא? מסופקני.
מכל מקום, בשורה התחתונה סולברג קיבל את הערעור, וכאמור חייב את העירייה בהוצאות גבוהות יחסית.
גרוסקופף הסכים, וכנפי-שטייניץ הוסיפה מספר הערות מצידה, שעיקרן חובתה של הרשות – לפחות בעת הזו – לשלב פיקוח אנושי. כאמור, אין שום דופי בהסתייעות בבינה מלאכותית – אך יש כזה בהסתמכות.
ועד כאן פסק הדין. כעת, כמה הערות:
א. רבים מאוד מביננו עושים שימוש תדיר בכלים של בינה מלאכותית, כאשר בעולם המשפטי הדבר נועד בעיקר לצורך כתיבת טקסטים ומציאת אסמכתאות.
אלא שלפחות כרגע – הכלים אינם מספיק מפותחים כדי להסתמך עליהם, והם מספקים לא אחת "הזיות", כלומר המצאות.
כפי שתמיר מורג למד לאחרונה, וגם למדו כל מיני צייצנים שמפרסמים פה "מאמרים" מייגעים – מי שיסתמך באופן עיוור על כלי הבינה המלאכותית השונים, עלול להגיע, כמו עיריית רמת גן, למצב שבו הוא מציג פסקי דין שמעולם לא נפסקו, כולל ציטוטים שלא היו ולא נבראו, ובאופן כללי עושה מעצמו צחוק.
ב. בהתאם, לפחות בשלב זה של התפתחות הטכנולוגיה של הבינה המלאכותית – אין מנוס מבקרה אנושית. ולמעשה, מפסק הדין של סולברג עולה שעל רשות מינהלית יש בעצם *חובה* לשלב פיקוח אנושי, ואסור לה, ולו בינתיים, להסתמך באופן מלא על בינה מלאכותית.
בעתיד הלא רחוק, זה עשוי כמובן להשתנות.
ג. אם במקרה אתם עורכי דין, ובמיוחד אם אתם מגישים מסמכים לבתי המשפט – תעשו לעצמכם טובה, ותבדקו *כל* אסמכתא לגבי מקור כלשהו וכל ציטוט שמסופקת לכם על ידי מערכת של בינה מלאכותית לפני שאתם כוללים אותה בכתב טענות מטעמכם.
כי אם יסתבר שכללתם "הזיה" – המחיר של זה רק יילך ויעלה.
ד. ואם אתם עובדים ברשות מינהלית (משרד ממשלתי, רשות מקומית, מוסד ציבורי) – תהיו מאוד זהירים בשימוש בבינה מלאכותית בממשק מול האזרחים שמקבלים מכם שירות.
כי כאמור, מפסק הדין שניתן היום עולה שהשופטים לא מתכוונים להיות סלחניים במקרה שזכויות של אזרח נפגעות בשל הסתמכות על "הזיות".
קישור לפסק הדין המלא:
