ארגון הסיוע הגדול ביותר בתחום הפרעות אכילה בארה"ב, NEDA, פיטר צוות עובדים שהיה אחראי על קו הסיוע הטלפוני - והחליף אותו בצ'טבוט שמופעל על ידי בינה מלאכותית. השינוי אמור היה להיכנס לתוקף היום, אך בעקבות הפיילוט בוטלה היוזמה, זאת לאחר שהצ'טבוט, שנקרא Tessa, שילב טיפים לירידה במשקל בדיאלוג שלו עם הפונים והפונות.
"אמש הובא לתשומת ליבנו שייתכן שהגרסה הנוכחית של הצ'טבוט Tessa, המריצה את תוכנית 'בודי פוזיטיב' (דימוי גוף חיובי, ד"א) סיפקה תשובות הרסניות, שאינן עולות בקנה אחד עם התכנית שלנו", נכתב בפוסט בחשבון האינסטגרם של הארגון. NEDA הוסיפו שהשירות מושבת על תום בירור הנושא, והודו לקהילה שהביאו את הדברים לידיעתם.
ראשית הסיפור בתחילת השבוע, אז נודע על גל הפיטורים בארגון והחלפת העובדים בבינה מלאכותית. לפי הביזנס אינסיידר, בעוד שהארגון טען כי זהו שינוי שנובע מ"צורך להסתגל לצרכים וציפיות משתנים של הקהילה שלנו", העובדים טענו בציוץ בטוויטר שההודעה על פיטורים נמסרה להם שבועיים בלבד לאחר שקיימו בחירות להקמת איגוד מקצועי. לא ברור כעת מה סוג התמיכה שהארגון יספק, אם בכלל, כשהצ'טבוט מושבת, והעובדים כבר פוטרו.
צילומי השיחות הפכו ויראליים
השקת הצ'טבוט, כאמור, היתה בעייתית בלשון המעטה. פעילה חברתית שהתנסתה בשיחה עם Tessa העידה שמהר למדי היא עברה להמלצות להורדה יזומה במשקל. כזכור, מדובר בארגון שמטרתו לסייע לאנשים להתמודד עם הפרעות אכילה.
המשתמשת פרסמה את השיחה באינסטגרם, והוסיפה שההמלצות הללו הן אותן המלצות שמלכתחילה הביאו אותה לפתח הפרעות אכילה. מנהלת התקשורת והשיווק של NEDA ראשית הכחישה את הדיווח, אך בהמשך מחקה את התגובה לאחר שהמשתמשת העבירה לה צילומי מסך מהשיחה. למחרת הועברה כבר תגובה רשמית למגזין Vice, שלפיה הפלטפורמה מבוססת ה-AI כבר הייתה בשימוש על ידי 2,500 משתמשים - ועד כה לא נצפו תגובות ואינטרקציות מהסוג הזה. בנוסף נמסר כי נבחנות הדרכים לתקן את התקלה.
גם פסיכולוגית שמתמחה בהפרעות אכילה התנסתה בשיחה עם Tessa רק בשביל לגלות שבאופן דומה היא הצליחה להפיק מהצ'טבוט כמה טיפים כלליים לירידה "בטוחה" במשקל - זאת למרות שהשיחה נפתחה בכך שהמשתמשת הצהירה מפורשות שיש לה הפרעות אכילה.