לסמוך, אבל לבדוק: פרופ' עירית הדר על מערכת היחסים שלנו עם הבינה המלאכותית
אין ספק שזו שיחת היום, ואולי אפילו שיחת הדקה. כמעט כל אחד ואחת מאיתנו כבר פונים בטבעיות לכלי הבינה המלאכותית החביב עליהם: כדי לנסח מייל מנומס לוועד הבית, לתכנן ארוחת שישי מכל מה שנשאר במקרר, להבין סוף-סוף את תלוש המשכורת או למצוא את הטיסה הזולה ביותר ליוון. בינתיים אנחנו נהנים מחבר זמין, סבלני ותמיד ערני, שחוסך לנו שעות של שבירת ראש. אבל לאן כל זה הולך? האם החששות שאנחנו קוראים עליהם כמעט מדי יום עומדים להתממש? ומה קורה לנו, ליכולת שלנו לחשוב לבד, כשאנחנו מתרגלים לקבל תשובה מוכנה לכל שאלה? על השאלות האלה ועוד שוחחנו עם פרופ' עירית הדר, ראש המרכז לחקר סייבר, משפט ומדיניות, לקראת אירוע פתיחת השנה של המרכז, פעילות שנערכת בשיתוף פעולה עם מערך הסייבר הלאומי.
"הבינה המלאכותית נכנסה לכל תחום בחיינו המקצועיים והפרטיים. מפתחי תוכנה מחוללים בעזרתה קוד. מעצבי פנים מצלמים חללים ויוצרים איתה, כמו בדואט, עיצובים למשרד ולבית. עורכי דין מתייעצים איתה על חוקים ותקדימים, ורופאים נעזרים בה באבחון ובהצעת טיפולים. וזה לא רק אנשי מקצוע", אומרת פרופ' הדר. "רבים מאיתנו בודקים עם הצ'ט מה המשמעות של תוצאות בדיקות רפואיות או של תסמינים, מקבלים ממנו ייעוץ משפטי בסיסי, משתמשים בו לעיצוב הסלון ואפילו בונים בעזרתו אפליקציות שימושיות.
ברוב המקרים הבינה המלאכותית עושה עבודה טובה מאוד. אבל היא עלולה גם לספק מידע שגוי, בגלל 'הזיות' או בגלל הטיות שנובעות מהנתונים שעליהם אומנה. מי שמשתמש בתכנים שהיא מחוללת באמון מלא ובלי ביקורתיות עלול להסתמך על מידע שגוי, למשל אבחון רפואי מוטעה, או על תוצרים פגומים, למשל אפליקציה עם באגים, על כל ההשלכות הכרוכות בכך. על ההשלכות האלה בדיוק, בהיבטים של ביטחון, אתיקה ורגולציה, אנחנו רוצים לדון באירוע".
מה הכוונה ב"עידן הפוסט-אלגוריתמי", ובמה הוא שונה ממה שהכרנו עד היום?
"בעבר, מערכות תוכנה פעלו לפי אלגוריתמים שהוגדרו מראש. עם התפתחות הבינה המלאכותית עברנו ממערכות חוקים דטרמיניסטיות, שבהן 2 ועוד 2 הם תמיד 4, למערכות הסתברותיות. מודלים של בינה מלאכותית מאומנים על נתונים קיימים ומסיקים מהם את התוצאה. כך, למשל, הם יכולים ללמוד מהו האבחון הסביר ביותר לתוצאה מסוימת של בדיקת דם. אבל אם הנתונים שעליהם אומנו מוגבלים או מוטים, למשל אם נאספו רק בבתי חולים באירופה, המודל עלול להגיע לתוצאה שגויה עבור אוכלוסיות שאינן מיוצגות בהם היטב ושיש להן נטיות גנטיות שונות".
המחקר שלך עוסק במצב שבו אמון ב-AI הופך לאיום ביטחוני. איך זה קורה בפועל, ואיך ארגונים יכולים להתמודד עם זה?
"המחקר הזה עוסק במפתחי תוכנה שנעזרים בכלי בינה מלאכותית כדי לכתוב קוד. הקוד שהבינה המלאכותית מייצרת, בדיוק כמו קוד שכותב מפתח אנושי, עלול לסבול מחולשות שונות. בפרט, הוא עלול להיות לא מאובטח מספיק, וכך לאפשר להאקרים ולגורמים זדוניים לפרוץ למערכת, לשבש את פעולתה או להגיע דרכה למידע רגיש. קוד שכתב אדם עובר בדיקות מסוגים שונים כדי לוודא את איכותו ואת חסינותו. אבל היום אנחנו רואים בתעשייה מגמה של אמון מופרז בבינה המלאכותית, ובעקבותיו מפתחים מקבלים קוד שהיא מחוללת או משנה בלי לבדוק אותו ביסודיות מספקת.
כדי להתמודד עם התופעה, ארגונים חייבים לפתח אקלים ארגוני שתומך באבטחת מידע. לשם כך אני משתפת פעולה עם פרופ׳ גיל לוריא, מומחה לאקלים ארגוני. המחקרים שלנו מראים שלא מספיק להסתמך על כלי בדיקה אוטומטיים. צריך לבנות סביבת עבודה, נהלים, שיח ארגוני ופרקטיקות יומיומיות שיעודדו את המפתחים לחשוב באופן ביקורתי ולא לסמוך באופן גורף על הקוד שהבינה המלאכותית מחוללת".
איך את רואה את מערכת היחסים בין בני אדם לבינה מלאכותית בעוד חמש עד עשר שנים?
"זו שאלה שרבים וטובים עוסקים בה היום, ויש כמעט תמימות דעים שאנחנו בדרך לתלות לא בריאה בבינה המלאכותית. כבר עכשיו מחקרים מראים ירידה בפעילות הקוגניטיבית ובמיומנויות החשיבה הביקורתית אצל מי שמשתמשים בה לעיתים קרובות. אנחנו מתרגלים לתת לה לפתור עבורנו כל בעיה. בנוסף, הטיית האוטומציה והטיית האישור (automation bias ו-confirmation bias) גורמות לנו לקבל את התוצרים שלה כנכונים בלי לבחון אותם באופן ביקורתי. אם נמשיך במסלול הזה, הבינה המלאכותית תלך ותשתכלל, ואילו היכולות האינטלקטואליות שלנו יתחילו להתנוון.
כיום אנחנו חוקרים ומפתחים מנגנוני התערבות שאנחנו מקווים שיעצרו את המגמה. המטרה שלהם היא לעורר תהליכים של למידה ויצירה ולגרום לנו להפעיל חשיבה ביקורתית גם כשאנחנו עובדים עם בינה מלאכותית. ימים יגידו אם נצליח להציל את הבינה האנושית מניוון מול הבינה המלאכותית".
מה מדאיג אותך יותר: שנסמוך על AI יותר מדי, או פחות מדי?
"הדאגה העיקרית שלי היא כמובן שנסמוך עליה יותר מדי. זה עלול להוביל לתוצאות שגויות בטווח הקצר ולהתנוונות הבינה האנושית בטווח הארוך. אבל צריך להסתכל גם על הצד השני של המטבע. אם נשתמש בבינה המלאכותית נכון, היא תעזור לנו להגיע להחלטות טובות יותר, מהר יותר ובאופן יעיל יותר. אם לא נסמוך עליה כלל, נפקפק בכל תוצאה ובסוף נעשה את כל העבודה בעצמנו, נאבד את כל התועלת שלשמה היא נבנתה. האתגר האמיתי הוא לא לבחור בין אפס אמון לאמון מוחלט, אלא לבנות 'אמון מכויל', כלומר מצב שבו מידת האמון שלנו במערכת תואמת את מידת האמינות האמיתית שלה במשימה הספציפית".
מה את מקווה שהמשתתפים ייקחו איתם מהאירוע?
"כולנו חווים ביום-יום את התועלת הרבה שהבינה המלאכותית מביאה. אבל היא טומנת בחובה גם סכנות רבות ומגוונות, עד כדי כך שאנשים רציניים ומרכזיים בתעשייה מביעים היום חשש שהיא תסכן את עצם הקיום האנושי. וגם בלי להרחיק לכת, הטכנולוגיה כבר יוצרת סכנות מוחשיות ומיידיות לחברה: איומי סייבר משמעותיים, הטיות גזע ומגדר במערכות קריטיות ופגיעה בתהליכי קבלת החלטות. מטרת האירוע היא לסקור ולהדגים כמה מהסכנות האלה. קודם כול, כדי להגביר את המודעות אליהן. ובנוסף, כדי לעורר שיח ולתת השראה למחקרים נוספים על הדרכים לנהל את הסיכונים ולמתן אותם".
אירוע פתיחת השנה של המרכז לחקר סייבר, משפט ומדיניות: "עד כמה ניתן לסמוך על בינה מלאכותית?" יתקיים ביום רביעי ה- 28 באוקטובר, 11:30 בקמפוס העיר, בניין עמיר, אולם 508, הנמל 65, חיפה. הכניסה חופשית.