עבור מפתחים, Stack Overflow הוא אחד הכלים הכי שימושיים בעבודה. מדובר באתר שבו אנשי מקצוע יכולים לשאול שאלות פיתוח מקצועיות ואחרים עונים. כך הם יוצרים ביחד מאגר ידע ענק בכל שפות הפיתוח שקיימות. אלא שלאחרונה האתר נתקל בהצפה של מידע על פיתוח שמדאיג את מנהלי האתר.
במקום לענות בעצמם, משתמשים רבים החלו לספק את התשובות שנותן ChatGPT, מנוע השיחה המבוסס טקסט של חברת OpenAI שבעבר גם שיחררה לציבור את Dall-E, מנוע יצירת תמונות מטקסט. מנהלי האתר Stackoverflow החלו לשים לב שהאתר מוצף בתשובות לשאלות מפתחים שנוצרו כולן דרך המנוע ChatGTP שהפך פתוח לציבור בשבוע שעבר. המנהלים הודיעו כי הם משעים כל מידע באתר שנוצר דרך מנוע ChatGPT בגלל שהתשובות שהמנוע מספק פשוט לא נכונות.
להוריד את כמות התשובות
הבעיה המרכזית שלנו היא שבזמן שהתשובות שמפיק ChatGPT הן בסבירות גבוהה לא נכונות, הן לרוב נראות כמו תשובות נכונות במבט ראשון, וקל מאוד לייצר אותן״, כתבו מנהלי האתר. ״אנחנו צריכים להוריד את הכמות של התשובות הללו, ולכן אנחנו אוסרים על שימוש ב-ChatGPT ליצירת תשובות. אם נחשוד במשתמש שנעזר ב-ChatGPT, נפעיל כלים על מנת למנוע ממשתמשים להעלות תכנים כאלה לאתר, גם אם הפוסט המקורי לא היה שגוי״.
מאז שחרורו של ChatGPT בשבוע שעבר, מעל מיליון משתמשים עבדו איתו. המנוע, שניתן להירשם אליו בחינם, מאפשר להכניס טקסט של שאלה או בקשה ואז הוא מייצר עבור המשתמש טקסט מלא שמעולם לא היה קיים לפני כן - בשניות. אך אחת הבעיות של המנוע (ומנועים אחרים) היא שהטקסטים לא תמיד נכונים או נצמדים לעובדות. מנוע AI שפותח במטא היה אמור לאפשר למשתמשים לכתוב מאמרים מדעיים שלמים או מאמרי ויקיפדיה, אך הוא נסגר אחרי מספר ימים לציבור אחרי שהתגלה שהוא ממציא פסאודו-מדע וכותב מאמרים שלמים עם עובדות לא נכונות.
מנועי ה-AI המנסחים טקסט יכולים לבנות מאמר שלם בשניות לפי הבנת שפה וניתוח סטטיסטי של אילו מילים יכולות להופיע במשפט. הם יודעים לסרוק את הרשת וללמוד מידע, אך עדיין לא יודעים לנתח אם המידע הזה נכון - וכך הם עלולים לספק מאמרים שלמים שמבוססים על מידע שגוי.
מומחי AI עדיין מתווכחים על השינויים מרחיקי הלכת שהמנוע הזה, שעכשיו פתוח לציבור הרחב, יכול להביא לרשת ולהשפיע על היכולת שלנו להבדיל בין מידע נכון לשקרי.