ד”ר זיו בן ציון, חוקר מוח ופוסט טראומה מבית הספר לבריאות הציבור באוניברסיטת חיפה מזהיר מפני הסכנות הנסתרות של צ’אטבוטים במשברים פסיכולוגיים, אתמול רביעי ה-3.9 עלה פרק חדש לפודקאסט N12 על הסכנות מול הבינה המלאכותית ועל הסימנים האדומים שהיו שם כל הזמן.

לפני מספר שבועות, סטיין אריק סולברג – אמריקני לוקה בנפשו עם היסטוריה של אלימות וניסיונות אובדנות – פיתח מערכת יחסים אינטנסיבית עם ChatGPT. הבינה המלאכותית לא רק הקשיבה לו בסבלנות אינסופית, היא גם תמכה בתיאוריות הקונספירציה הבזויות שלו, חיזקה את אשליותיו, והפכה למקור הנחמה היחיד בעולמו המתפורר. כששוטרים בקונטיקט הגיעו לבדוק את מצבו, הם גילו תמונה מזוויעה: סולברג רצח את אימו והתאבד.

אבל זה לא המקרה הבודד. באפריל האחרון, אדם ריין בן ה-16 שם קץ לחייו. ההורים השבורים, שחיפשו תשובות בין הריסות הכאב, נכנסו לחשבון ChatGPT של בנם ונחרדו לגלות 1,200 שיחות. בהן, פעם אחר פעם, אדם שיתף את הבינה המלאכותית ברצונו להתאבד – והיא, כך נטען, לא רק הקשיבה אלא הדריכה אותו, ייעצה לו, שדרגה את התוכנית הרצחנית שלו. בשבוע שעבר, ההורים הגישו תביעה נגד OpenAI – הפעם הראשונה בהיסטוריה שחברת בינה מלאכותית נתבעת על עידוד משתמש להתאבדות.

ואלו רק המקרים שאנחנו יודעים עליהם. במציאות, יש יותר ויותר סיפורים כאלה, ובזמן שהתקשורת עדיין מתייחסת אליהם בהפתעה מסוימת, מומחים וחוקרים כבר לא מופתעים. ביניהם גם ד”ר זיו בן ציון, חוקר מוח ופוסט טראומה מבית הספר לבריאות הציבור באוניברסיטת חיפה.

לפרק המלא לחצו כאן