גם בחדר הגישור: כשהבינה המלאכותית
נכנסת לתחום האנושי ביותר

היא כותבת לנו מיילים, מסכמת פגישות, מנתחת חוזים ומציעה ניסוחים. הבינה המלאכותית כבר נמצאת כמעט בכל מקום, ונכנסת גם לאחד התחומים האנושיים ביותר: יישוב מחלוקות בין אנשים. גישור הוא מטבעו מפגש אנושי. הוא נשען על הקשבה ואמון, ועל היכולת לשמוע את הצרכים והרגשות שמאחורי העמדות המוצהרות. דווקא משום כך, כניסתה של מכונה לחדר מעוררת שאלות לא פשוטות. לקראת כנס "גישור בעידן הבינה המלאכותית" שיתקיים ב-11.11 באוניברסיטת חיפה, שוחחנו עם פרופ' אורנה רבינוביץ'-עיני, שתרצה בכנס על "סדר יום חדש: יישוב סכסוכים בעידן הבינה המלאכותית".

מהו "סדר היום החדש" שאת מציעה ליישוב סכסוכים בעידן ה-AI?
"סדר היום החדש של הגישור בעידן הבינה המלאכותית יוצא מנקודת הנחה שהבינה כבר נמצאת ב'חדר הגישור' ומשמשת את המשתתפים השונים, בגלוי או בסמוי, באופן פורמלי או בלתי פורמלי, באמצעות כלים ייעודיים או כלליים. לכן, השאלות המרכזיות אינן אם לאמץ בינה מלאכותית, אלא כיצד לעצב את שילובה בהליך.

זהו אתגר של תכנון הליכי, תחום המוכר לנו עוד לפני כניסת הטכנולוגיה ליישוב סכסוכים, וביתר שאת מאז אימוצם של הליכים מקוונים. הוא מחייב לבחון כיצד השימוש בבינה משפיע על מכלול הערכים ההליכיים והעקרונות האתיים שהגישור מבקש לקדם, ובראשם נגישות לצדק, הוגנות הליכית, אוטונומיה ואמון, וכן על תוצאות ההליך ועל יישומן בפועל".

איפה בינה מלאכותית כבר משנה בפועל את עבודת המגשר, ואיפה זו עדיין בעיקר הבטחה?
"ממחקר שערכנו לאחרונה בקרב 165 מגשרים בישראל עולה כי חלק ניכר מהם כבר משתמשים בבינה מלאכותית בעבודת הגישור, אף שרק כרבע מהם עושים זאת לעיתים קרובות. השימוש היה נפוץ יותר בקרב מגשרים שהם גם עורכי דין.

רוב המשתתפים ראו באיסוף ובניתוח מידע שימושים ראויים והוגנים, ובמידה פחותה גם בהעלאת כיוונים להסכמות ובניסוחן. לעומת זאת, שימוש בבינה מלאכותית לניתוח רגשי נתפס כפחות ראוי באופן מובהק, ורק כרבע מהמגשרים ראו בו שימוש ראוי. בתשובות הפתוחות לשאלון הדגישו המגשרים את הצורך לשמר את הגורם האנושי, במיוחד בהיבטים הרגשיים ובשיח הבין-אישי, לצד מודעות מפוכחת לסיכונים גם בהקשרים אחרים, ובראשם הפגיעה האפשרית בפרטיות ובסודיות ושאלות בדבר אמינות הכלים".

מה נשאר, לדעתך, רק בידי המגשר האנושי?
"הדבר יהיה תלוי בהקשר ובסוג הסכסוך, אבל במקרים רבים הגורם האנושי ימשיך להיות מעורב, וגם המגושרים מצפים לכך. בגישור, האתגר מורכב במיוחד משום שהרגעים המשמעותיים אינם בהכרח בנקודת ההכרעה, אלא לאורך ההליך עצמו: באופן שבו הצדדים, עורכי דינם והמגשר משתמשים בכלים כדי לנסח את הסיפור, להקשיב, לבחון אפשרויות ולקבל החלטות.

לכן, לא די לחשוב על מעורבות אנושית רק בסוף התהליך. נדרשת חשיבה מעמיקה על חלוקת התפקידים בין בני האדם לכלים, ועל הכשרת מגשרים לעבוד עם בינה מלאכותית באופן שמחזק את יכולותיהם, בלי לאבד את שיקול הדעת, האחריות המקצועית והתרומה של המגע האנושי".

מהו הסיכון המרכזי שמגשרים צריכים להיות ערים לו – הטיות, סודיות, או פערי כוחות בין הצדדים?
"שלושתם חשובים, והם גם קשורים זה בזה. סודיות היא תנאי בסיסי לקיומו של הליך גישור ולפתיחות של הצדדים, המאפשרת להגיע לאינטרסים ולצרכים שמאחורי העמדות המוצהרות שלהם. הטיות וטעויות עלולות לפגוע בהוגנות ההליך, אם כי חשוב לזכור שגם הגורם האנושי אינו חף מהן.

אם צריך להצביע על הסיכון המורכב ביותר, הייתי מדגישה את האפשרות שהטכנולוגיה תעמיק פערי כוחות קיימים. גם בגישור ללא בינה מלאכותית יש חשש שצד חזק יותר ייהנה מן הסודיות ומן האופי הבלתי פורמלי של ההליך. מחויבותו של המגשר לניטרליות, אף שהיא חיונית, יכולה להגביל את מרחב ההתערבות שלו באיזון פערים כאלה.

בינה מלאכותית עלולה להוסיף לכך שכבה חדשה: צד שיודע להשתמש בכלי, לנסח לו שאלות טובות ולתרגם את התשובות לפעולה, עשוי לקבל יתרון משמעותי על צד שאין לו אותה אוריינות, ידע או משאבים. לכן, לצד הפוטנציאל שלה להרחבת נגישות, עלולה הבינה המלאכותית גם להעצים אי-שוויון בין הצדדים להליך".

האם נדרשים כללי אתיקה או רגולציה חדשים למגשרים שמשתמשים בכלי AI?
"נדרשת הסדרה ייעודית, הנשענת על הכללים הקיימים. גם בקרב המגשרים עצמם יש תמיכה בכך: בסקר שהעברנו בקרב 165 מגשרים, 61.8% תמכו בהסדרת השימוש בבינה מלאכותית בגישור. התמיכה בדרישות של פיקוח ואחריות הייתה רחבה עוד יותר: 93.3% סברו שחשוב שתהיה בקרה אנושית על תוצרי הבינה, ו־82.4% סברו שעל המגשר לשאת באחריות לטעויות של הבינה שבה השתמשו בהליך.

עקרונות היסוד של הגישור, ובהם סודיות, אוטונומיה של הצדדים, ניטרליות, כשירות ואחריות מקצועית, נותרים בתוקף; האתגר הוא לתרגם אותם למציאות שבה בינה מלאכותית משתלבת בהליך ההסדרה צריכה להיות מדורגת ורגישה להקשר: ככל שהכלי משפיע יותר על האופן שבו מובנות עמדות הצדדים, על השיחה ביניהם או על כיוונו של ההליך, כך נדרשים יותר יידוע, הסכמה ופיקוח; ובשימושים שאת תוצריהם אי אפשר לבדוק כראוי, נדרשת הגבלת שימוש.

אבל לא די לדרוש פיקוח; צריך גם להבטיח שלמגשרים יש הידע והכלים לקיים אותו, ולא רק למי שהם בעלי רקע משפטי. הסקר שלנו ממחיש את הפער: לצד ההסכמה הרחבה בדבר הצורך בבקרה אנושית, רק 66.1% מהמגשרים דיווחו שהם חשים מסוגלים לפקח על תוצרי הבינה. לכן האחריות אינה מוטלת על המגשר לבדו, אלא נחלקת בין המגשרים, המסגרות המוסדיות וספקי הטכנולוגיה. נדרשים גם הכשרה מתאימה, כללים ברורים וכלים שאפשר לבדוק את תוצריהם. המטרה אינה לעודד או למנוע שימוש בבינה באופן גורף, אלא לוודא שהשימוש בה מובן, ניתן לבדיקה ושומר על שליטת הצדדים בהליך".*

האם AI יכולה לעזור גם במניעת סכסוכים, ולא רק ביישובם?
"כן, ואולי זה אחד הפוטנציאלים המעניינים יותר שלה. בינה מלאכותית יכולה לסייע לצדדים לזהות מוקדם אי-הבנות, פערי ציפיות ודפוסי תקשורת שעלולים להסלים, ולתת להם כלים לנסח את הבעיה, להבין את האפשרויות ולפעול לפני שהסכסוך מתקבע. אבל הפוטנציאל אינו רק ברמת הסכסוך הבודד. כאשר ארגונים או פלטפורמות מזהים, תוך הגנה ראויה על מידע, דפוסים חוזרים של תלונות או חיכוך, הם יכולים לשנות נהלים, ממשקים או מדיניות ולמנוע את הישנות הבעיה מלכתחילה. זהו מעבר מהתמקדות ביישוב סכסוך שכבר התגלה, לחשיבה על מניעה כשלב נוסף בהתפתחותם של סכסוכים.

עם זאת, מניעה אינה יכולה להפוך למעקב סמוי או לתחליף למתן אפשרות לצדדים להשמיע קול ולתבוע סעד. היא תלויה באיכות המידע, בעיצוב ההליך ובשאלה מי שולט בנתונים ובאופן שבו הם מפורשים. לכן, השימוש בבינה צריך להרחיב את יכולתם של אנשים לזהות בעיה ולהשפיע על פתרונה, ולא להרחיק אותם מן התהליך.

זו גם הטענה המרכזית במאמר שכתבתי עם איתן קאטש וטליה שוורץ־מאור: בינה יכולה להוסיף לשלבים המוכרים של התפתחות סכסוכים (naming, blaming and claiming) שלב של מניעה, הן ברמת הפרט והן ברמה המערכתית".

כנס "גישור בעידן הבינה המלאכותית" יתקיים ב-11.11 באוניברסיטת חיפה

*המחקר מומן על ידי מענק ה-ERC של מעבדת DRA ונערך ע״י ד״ר ורה שיכלמן, (אוניברסיטת חיפה), ד״ר דלית קן דרור (אוניברסיטת חיפה), נוי אסרף (אוניברסיטת חיפה), ד״ר רחלי אשוול (אוניברסיטת בר אילן), עו״ד ומגשרת שרי לוז-קנר (אוניברסיטת בר אילן), עו״ד ומגשרת דנה גילה (אוניברסיטת חיפה) ופרופ׳ ארנה רבינוביץ-עיני (אוניברסיטת חיפה).