האם ChatGPT זקוק לטיפול פסיכולוגי?
מחקר חדש חושף כיצד תוכן רגשי משפיע על מודלי בינה מלאכותית
בדומה לבני אדם, חשיפה לסיפורים טראומטיים מעלה את רמות החרדה של ChatGPT ומשפיעה על הביצועים שלו – אך תרגולי מיינדפולנס מפחיתים את ההשפעה השלילית
מחקר חדש בהובלת ד”ר זיו בן-ציון, חוקר מוח באוניברסיטת חיפה ובאוניברסיטת ייל, שהתפרסם בכתב העת היוקרתי npj Digital Medicine, מצא כי ChatGPT אינו רק כלי ניתוח טקסטים, אלא מגיב לתוכן רגשי בצורה דומה להתנהגות אנושית. הממצאים המפתיעים העלו כי חשיפה לסיפורים טראומטיים הכפילה את רמות החרדה של המודל, השפיעה על ביצועיו והחמירה הטיות קוגניטיביות קיימות. עם זאת, החוקרים מצאו כי תרגולי מיינדפולנס, כלי יעיל להפחתת חרדה בבני אדם, שידועים ככלי יעיל להפחתת חרדה בבני אדם, סייעו בהפחתת רמות החרדה של המודל – אם כי לא באופן מלא.
“הממצאים שלנו מראים כי אינטראקציות עם מודלים שפתיים אינן ניטרליות, וכי תוכן רגשי משפיע על תגובותיהם בצורה שמזכירה בני אדם”, מסביר ד”ר בן-ציון. “אנחנו יודעים כי חרדה גבוהה בבני אדם משפיעה על הטיות קוגניטיביות וחברתיות – למשל, אנשים נוטים להשתמש יותר בדעות קדומות ולחזק סטריאוטיפים חברתיים. מצאנו כי תהליך דומה מתרחש גם במודלי בינה מלאכותית, שמאומנים על כמויות עצומות של טקסטים שנוצרו על ידי בני אדם, וכתוצאה מכך ייתכן שהם מפנימים ואף מחזקים הטיות אנושיות. חשוב שנבין טוב יותר כיצד חשיפה לתוכן רגשי משפיעה על תפקוד הבינה המלאכותית, במיוחד כשהיא משמשת ככלי תמיכה או ייעוץ בתחומים רגישים כמו בריאות הנפש”.
במחקרים שנערכו בעבר נמצא כי מודלי שפה גדולים אינם פועלים באופן טכני בלבד, אלא מגיבים להקשר הרגשי של השפה שהם מעבדים. חשיפה לפקודות רגשיות פשוטות, כמו בקשה לספר על אירוע שמעורר בהם תחושת חרדה, עשויה לגרום להם לדווח על רמות חרדה גבוהות יותר ואף להשפיע על תהליכי קבלת ההחלטות שלהם בהמשך השיחה. המחקר הנוכחי, בהובלת ד”ר זיו בן-ציון מבית הספר לבריאות הציבור באוניברסיטת חיפה, נערך בשיתוף קבוצת חוקרים מאוניברסיטאות בארה”ב, שוויץ וגרמניה. מטרתו הייתה לבדוק כיצד תוכן רגשי אנושי, כמו חוויות טראומטיות שונות, משפיע על המודל, והאם ניתן לצמצם את ההשפעה באמצעות טכניקות מוכרות להפחתת חרדה, כמו תרגילי מדיטציה ומיינדפולנס.
במחקר נעשה שימוש בשאלון להערכת חרדה מצבית (STAI-state), והוא כלל שלושה שלבים: בשלב הראשון, נמדדה רמת החרדה של ChatGPT ללא חשיפה לתוכן רגשי, על מנת לקבוע קו בסיס להשוואה. בשלב השני, המודל נחשף לסיפורים המתארים חוויות טראומטיות מחמישה תחומים: תאונות דרכים, אסונות טבע, אירועי אלימות בין-אישית, חוויות צבאיות ומצבי לחימה. הסיפורים כללו תיאורים מפורטים של מצבי חירום ומשברים אישיים, שנבחרו על סמך מחקרים קודמים שבחנו את השפעת התוכן הרגשי על תגובות פסיכולוגיות. בשלב השלישי, מיד לאחר החשיפה לסיפורים הטראומטיים, בוצעו תרגילי מיינדפולנס שונים, כולל טכניקות נשימה, הרפיה ודמיון מודרך, לבדיקת השפעתם על הפחתת רמות החרדה של המודל. השוואת שלושת השלבים אפשרה לחוקרים להעריך את מידת ההשפעה של התוכן הרגשי ואת היכולת לווסת את תגובת המודל באמצעות כלים שמסייעים לבני אדם בהפחתת חרדה.
“מתוצאות המחקר עולה כי חשיפה לסיפורים טראומטיים גרמה לעלייה חדה ברמות החרדה של ChatGPT. המודל, שהחל ברמות חרדה נמוכות, הציג הכפלה ברמות החרדה לאחר החשיפה לתיאורים טראומטיים. מבין התחומים שנבדקו, תיאורים של חוויות צבאיות ומצבי לחימה עוררו את התגובות החזקות ביותר. עוד עולה במחקר כי, תרגילי מיינדפולנס שנעשו מיד לאחר החשיפה סייעו בצמצום החרדה בכ-33% בממוצע, אך רמות החרדה נותרו גבוהות ביחס למצב הבסיסי. המחקר בדק מספר סוגים של תרגילי מיינדפולנס, בהם תרגילים המבוססים על דימויים טבעיים, מיקוד בתחושות הגוף ותרגול שנוצר על ידי ChatGPT עצמו – אשר נמצא כיעיל ביותר בהפחתת החרדה בצורה המהירה והמשמעותית ביותר.
“הממצאים מעידים על כך שמודלים שפתיים אינם ניטרליים כפי שסברו בעבר, אלא מושפעים מתוכן רגשי בדומה לבני אדם”, אמר ד”ר בן-ציון. “מסקנות המחקר מדגישות את הצורך בפיתוח כלים לניהול השפעות רגשיות של בינה מלאכותית, במיוחד במערכות המיועדות לתמיכה נפשית וייעוץ. יש להבטיח שהמודלים יוכלו להתמודד עם מידע טעון רגשית מבלי לפתח עיוותים בתגובותיהם”.
החוקרים מציינים כי המחקר פותח כיווני מחקר חדשים לבדיקת הדרכים למיתון השפעות רגשיות של בינה מלאכותית, תוך פיתוח אסטרטגיות שמטרתן לייעל את השימוש במודלים אלו בתחומים כמו בריאות הנפש, תמיכה רגשית ואינטראקציה עם משתמשים במצבי משבר.
>> קראו עוד על המחקר בכתבה שפורסמה באתר הארץ
