הנה סיפור מצמרר, שלא היה ולא נברא אבל דומים לו מתרחשים מדי שבוע: אור ראשון מבליח מעל גגות כפר פלסטיני בצפון השומרון. הרחובות ריקים מאדם. צעיר חיוור יוצא מאחד הבתים, נושא תרמיל על גבו, מסתכל בעצבנות סביבו. דקה אחר כך נעצר לידו טנדר מרוט, אוסף אותו ויוצא את הכפר בדרכו לצומח תפוח.
עשר דקות לאחר מכן המחבל שוכב כפות לצד הכביש, פניו כבושים בקרקע. מסביבו אנשי מג"ב, חיילים וגם כמה אנשי שב"כ בלבוש אזרחי. התיק שלו נסרק ונמצאה בו כמות נכבדת של סכיני מטבח ארוכי להבים. נהג הטנדר נעצר גם הוא, כשניסה להימלט מהמקום. מסע רצח שהיה עלול להסתיים בכמה הרוגים יהודים נעצר עוד לפני שהתחיל.
הנתונים מראים שמאז תחילת השנה התרחשו כ-150 פיגועים משמעותיים - מטען, דריסה, דקירה וכ-120 פיגועי ירי. פחות זוכרים שבנוסף להם היו 375 סיכולים של כוונות לבצע פיגועים כאלה, מהם 300 מקרים של כוונה לבצע פיגועי ירי. מי שאחראי לסיכול הפיגועים הוא שירות הביטחון הכללי (שב"כ). אחד הכלים העיקריים שלו במאמץ הזה היא הבינה המלאכותית.
באחד השבועות האחרונים התקיימה בשב"כ ישיבת מטה שירות, מה שמקביל לישיבת מטכ"ל בצה"ל. נושא הדיון היה מפתיע משהו: בינה מלאכותית יוצרת (Generative AI). כן, התופעה שאנחנו מכירים בתור ChatGPT או בארד מעסיקה בימים אלו את ראשי השב"כ.
גורם בכיר בשב"כ: "עם האתגר שלנו, אין לנו ברירה אלא לחבר את הבינה המלאכותית בכל הרבדים. זה למידת מכונה, למידה עמוקה, AI צרה למשימות מאוד ספציפיות. וזה מגיע עד להתפתחויות האחרונות של בינה מלאכותית יוצרת (GenAI) ובינה מלאכותית כוללת (AGI). לשם אנחנו הולכים"
השאלה שהם שואלים היא האם אפשר לרתום GenAI בשמה המקוצר כדי לשפר את יכולות הסיכול של השירות? האם פריצת הדרך הטכנולוגית הזו עשוייה להפוך את השב"כ ליעיל יותר, מדוייק יותר, זריז יותר?
הגישה שמוביל ראש השב״כ רונן בר גורסת שהזירה הביטחונית הישראלית נדרשת להוביל את קפיצת המדרגה המשמעותית בתחום ה-GenAI ברמה הלאומית, בשיתוף עם ענקיות הטכנולוגיה העולמיות, בהיבטי רגולציה ובהיבטי שיתוף ידע ויכולות.
בראייתו של בר, נכון ששב״כ יהיה הגורם המוביל בתחום בקהילה ומול שותפיה הביטחוניים של ישראל בעולם. את הגישה שלו בעניין מהפיכת ה-AI הוא יציג בשבוע הבא במסגרת כנס "שבוע הסייבר" השנתי של המרכז למחקר סייבר באוניברסיטת תל-אביב.
בינה מלאכותית גנרטיבית בשירות השב"כ היא רעיון שצריך לגלגל קצת בראש. זה דבר אחד לשאול את ChatGPT על מלחינים אוסטריים בולטים ולקבל כמה שמות של אנשים לא אמיתיים. זה דבר אחר לגמרי לשאול אותו מי עומד לבצע פיגוע הבוקר ולקבל רשימה של מחבלים בדויים.
אלא שבינה מלאכותית יוצרת היא כלי רב עוצמה שעד כה ראינו רק את קצה קצהו של יכולתה. והיכולת הזו היא לצלול לתוך אוקיינוס של נתונים ולהוציא מתוכו תובנות שאדם לא מסוגל למצוא ואפילו AI מהסוגים המסורתיים לא תצליח. ואם אלה יהיו תובנות מצילות חיים, אולי כדאי לגלגל את הרעיון הלאה, בזהירות.
מאגר עצום של נתונים שמספק תובנות בזמן אמת
אוקיינוס של נתונים זה בדיוק מה שהשב"כ מחזיק ברשותו - מיליארדי נתונים שנאספים מדי יום. הנתונים האלו נצברים בדרכים שרק הדימיון יכול לשער: הקלטות של שיחות טלפון ושיחות בעל פה, צילומים וסרטוני וידאו, מידע מכל הסוגים שעובר ברשתות החברתיות ובאמצעות רשתות אחרות.
הדיווחים מגיעים מחיישנים בשטח, ממצלמות קבועות וניידות, ממעקבים, מהאזנות, מדיווחים של משתפי פעולה. כל הנתונים האלה מגיעים למאגרי השב"כ העצומים, ועוברים תהליכי פענוח וניתוח שנועדו להפוך אותם לחומר גלם למערכות המידע ולבינה המלאכותית.
מערכות AI מסייעות לדובב נחקרים בחדרי חקירות. מול החוקרים יש מסך נתונים, וכל אמירה של הנחקר מאומתת ומוצלבת בזמן אמיתי. אם הוא משקר – המערכת תציין את זה. הלם המידע על הנחקר מאפשר לדובב אותו לפני שהוא "מתקרר". מספיק לתכנן מה להגיד ואיזו גירסה לבנות
למחבל מתחילת הכתבה היה מראש סיכוי קטן להצליח. מערכות הביג-דאטה העצומות של השב"כ יודעות הכל על כולם. גם אם הוא ינסה להסתיר את מטרותיו - והפלסטינים הרי יודעים שהם תחת מעקב מתמיד - רוב הסיכויים שהוא ייחשף.
המערכת יודעת עליו הכל: לאן הוא הלך, מי החברים שלו, מי המשפחה שלו, מה מעסיק אותו, מה אמר ומה פרסם. באמצעות הבינה המלאכותית המערכת מנתחת התנהגות, מנבאת סיכונים, מקפיצה התרעות ומסבה את תשומת הלב של אנשי "הפאודה" למי שכדאי לשם אליו לב.
מערכות AI אחרות מסייעות לדובב נחקרים בחדרי חקירות. מול החוקרים יש מסך נתונים, וכל אמירה של הנחקר מאומתת ומוצלבת בזמן אמיתי. אם הוא משקר – המערכת תדע לציין את זה. הלם המידע הזה על הנחקר מאפשר לדובב אותו לפני שהוא "מתקרר" בשפת השב"כ. מספיק לתכנן מה להגיד ואיזו גירסה לבנות.
תחקיר של ידיעות אחרונות חשף לפני כמה שנים את "הכלי": מאגר המידע הסודי של השב"כ שאוסף נתונים על כולם, גם על אזרחי מדינת ישראל. זה הכלי שגויס למאבק בקורונה. בראיון ב-2020 חשף ראש אגף טכנולוגיות המידע הקודם של השב"כ ששי אליה את היכולות העצומות שיש למערכת הזו, שרוב הזמן ממוקדת בתושבי השטחים.
אבל לא רק פלסטינים נמצאים תחת מעקב. יש מערכות שמיועדות לאתר טרור יהודי בשטחים. בימים אלו גויסה המערכת שוב מול אזרחים ישראלים, הפעם כדי לזהות מקרים של אלימות בחברה הערבית שנמצאים על התפר בין פלילי לטרוריסטי. בתנאים מסוימים הממשלה עלולה להרחיב את היכולות האלה לכלל החברה הישראלית.
מאז הריאיון ההוא שהעניק אליה חלפו שלוש שנים, והטכנולוגיה הנוכחית של השב"כ העצימה את יכולותיה באופן אקספוננציאלי. האח הגדול של ג'ורג' אורוול מחוויר מקנאה.
כתבה זו נסמכת על שיחות רקע ושיתוף פעולה עם גורמים בכירים בשב"כ, אלו שאמונים על התחומים הטכנולוגיים של הארגון. פעילות זו מתרחשת באגף טכנולוגיית המידע של השב"כ. מחלקה אחת באגף מפעילה מודלים של AI ואנליסטים, ושולחת אותם לחבור לחפ"קים קדמיים של השב"כ, לצד אנשי המבצעים. במקום אחר פועלת "סדנת ה-AI" של השב"כ - ככל הנראה אחד הגופים המתקדמים בישראל בפיתוח יכולות בינה מלאכותית.
לו זה היה תלוי באנשי הטכנולוגיה של השב"כ, עיקר הדיווח היה עוסק בנפלאות הבינה המלאכותית ובתרומתה להפיכת הארגון לכזה שמונע על ידי נתונים. יש כאן הרבה דברים מלהיבים מבחינה טכנולוגית, אבל במקרה זה מטרות הטכנולוגיה מחייבות כובד ראש מסוג אחר. אחרי הכל מדובר ברתימת הטכנולוגיה למעצרם ואפילו לחיסולם של אנשים. מצד שני, היא גם מסייעת להצלת חייהם של הרבה אנשים אחרים. נושא מעיק, לגיקים יהיה קשה כאן.
ובכל זאת, שב"כ מעסיק את מיטב אנשי המקצוע, מומחי AI ומדעני נתונים. לא מן הנמנע שהמוטיבציה של הארגון להיחשף כאן נועדה בין השאר למשוך אנשים נוספים להצטרף לשירות.
לסדנת ה-AI של הארגון שהוקמה לפני כשלוש שנים גויסו מומחים מהאקדמיה ומהתעשיה: יזמי הייטק שסגרו את החברה ועברו לשב"כ, כמה בעלי תואר דוקטור במדעי המחשב. מדובר בחבורה יוצאת דופן של אנשים מבריקים, שנהנים ממה שנחשב לגיזת הזהב של עולם הבינה המלאכותית: כמויות עצומות של נתונים והכלים הכי חזקים לפצח אותם.
גורם בכיר בשב"כ: "אנחנו יכולים לייצר מיקוד ותעדוף של טיפול באמצעות אלגוריתמים של AI שיודעים לזהות דפוסים ואנומליות. דברים שמאפשרים לנו להקדים, למנוע ולסכל. אלה דברים שהמכונה יודעת לעשות יותר טוב מאיתנו ואנחנו רוצים להיעזר בה"
המשימות שלהם משתנות מיום ליום ומשבוע לשבוע והן מרתקות: הבנת טקסט, ניתוח שמע, איתור התנהגות ויזואלית, בניית מודלי LLM. אפשר להניח שהאנשים בסדנה מונעים גם משכנוע עמוק בצדקת הדרך, בכך שהמערכות שהם מפתחים מצילות חיים, ואם אנשים מתים בגללן - אלה האנשים הרעים. אבל בסוף הטכנולוגיה הזו יש אנשים מתים, וזה אולי לא מתאים לכל הייטקיסט ממוצע.
יכולות הניתוח של ה-AI שולבו בשלל רמות הארגון
האתגר הטכנולוגי בשב"כ נובע מהצורך לקבל את התובנות מהר מאוד, כדי לאפשר סיכול מבעוד מועד. המידע הזה צריך להיות מוגש כך שיתמוך בקבלת ההחלטות של האדם המקבל: מפקד, אנליסט, דסקאי איש שטח. והוא צריך להגיע במשבצת זמן מאוד מצומצמת, לפני שהחשוד יספיק להבחין בהתרחשות ולהימלט.
"בהתמודדות עם עולם הביג-דאטה לא מדובר רק בבניית התשתית אלא גם בפיתוח מערכות וכלים שמנגישים את הדאטה – למי שצריך ואיך שצריך ולאיפה שצריך ומתי שצריך", אומר גורם בכיר בשב"כ.
"זה אומר לתת את פיסת המידע שדרושה לרכז שנמצא כרגע בשטח - אבל רק את המידע הספציפי על הבית שמעניין אותו. זו הדרמה הגדולה שמתרחשת כאן, של פיתוח מערכות וכלים עבור המשתמשים".
הפעילות הזו מבוצעת באמצעות מודלים של AI: מערכות בינה מלאכותית שאומנו לזהות מצבים ספציפיים, סימנים ספציפיים וקבוצת יעד ספציפית. כשעולה צורך מבצעי, במחלקה הרלוונטית מושיבים את מומחי ה-AI לייצר את המודל. בתוך ימים ספורים, לעיתים בתוך שעות, הם מפתחים את כלי ה-AI שמסוגל לספק מענה מדויק ולהציג איומים חמים ומיידיים. עד כה פותחו קרוב ל-80 מודלים כאלה, שמכונים מִבצעי נתונים: data operations.
במקביל פועלות מערכות AI אחרות - מערכות גדולות שפועלות באופן מתמשך ויודעות להציף איומים לרוחב השטח ולאורך הזמן. אלה מערכות כלליות, חזקות ביכולותיהן, ככל הנראה מהמתקדמות שמופעלות כיום בארגוני מודיעין ואכיפה בעולם.
וזה לא הכל. הבינה המלאכותית מסייעת גם בייעול העבודה הפנימית בשב"כ, כמו בכל ארגון ששואף להתייעל. קחו למשל תחום כמו תרגום: לאורך שנים פועלים בגופי המודיעין מאזינים, שצריכים לתרגם שיחות שהם קולטים מערבית לעברית. הכמות כל כך גדולה שהמאזין צריך לנסות ולזהות שיחה בעלת חשיבות לפני שהוא מתרגם אותה.
עכשיו זה משתנה. הבינה המלאכותית יכולה לתרגם בקלות את כל השיחות ובדרגת אמינות גבוהה יחסית. לאחר מכן ה-AI תסרוק את התכנים ותציף שיחות שיש בהן מידע מודיעיני. זו התייעלות משמעותית לא רק בדרך העבודה, גם ביכולת המבצעית.
על ה-AI של השב"כ הוטלה המשימה לבחון את שלל האיומים שנמצאים בכל רגע במערכת, ולדרג אותם לפי מידת הסיכון או המיידיות הנדרשת לטיפול. זו כבר הטלת אחריות אמיתית על הבינה המלאכותית. היא יודעת לזהות את המקרים שאימנו אותה לזהות ועלולה להחמיץ מקרים שטרם הכירה
והנה עוד משימה שהוטלה על הבינה המלאכותית של השב"כ: לבחון את שלל האיומים שנמצאים בכל רגע במערכת, ולהציג אותם לפי מידת הסיכון או המיידיות שנדרשת בטיפול בהם. כאן כבר מוטלת אחריות אמיתית על הבינה המלאכותית. היא יודעת לזהות את המקרים שאימנו אותה לזהות והיא עלולה להחמיץ מקרים שטרם הכירה. אבל הטכנולוגיה מתפתחת בקצב מסחרר והיכולות של ה-AI הולכות ומשתפרות.
"אנחנו יכולים לייצר מיקוד ותעדוף של טיפול באמצעות אלגוריתמים של AI שיודעים לזהות דפוסים ואנומליות. דברים שמאפשרים לנו להקדים, למנוע ולסכל", מסביר הגורם הבכיר. "זה מאפשר גם לתעדף את המשימות כי אי אפשר להתמודד עם כל הדברים ביחד.
"אם פעם היינו צריכים להתמודד רק עם טרור מאורגן ומכוון, היום זה גם טרור בודדים, גם טרור בסייבר, גם בתווך הקינטי, גם השפעה על תודעה. אלה דברים שהמכונה יודעת לעשות יותר טוב מאיתנו ואנחנו רוצים להיעזר בה".
השלב הבא של ה-AI: לחזות מראש אירועים
המשימה המאתגרת עוד יותר של הבינה המלאכותית היא לחזות אירועים והתרחשויות. היכולת הזו, שמבוססת למידת מכונה (ML), מוכרת היטב בעולם האזרחי: על סמך התנהגות של מיליוני מקרים וצירופי מקרים קודמים אפשר בוודאות גבוהה מאוד לחזות מה עומדים אדם מסויים או קבוצה מסוימת לעשות.
הבינה המלאכותית מצטיינת בזיהוי תבניות, כאלו שבני האדם פועלים סטטיסטית לפיהן בלי שהם אפילו מודעים לכך. כמות הנתונים העצומה שקיימת במערכות השב"כ היא בסיס מצויין לזיהוי תבניות של התנהגות שעלולה להוביל לפעילות טרור. מבצעי טרור יחידים עשויים לעלות כל הכוונת עוד לפני שהם קיבלו את ההחלטה לצאת לפיגוע.
עכשיו מגיע השלב הבא, שנראה עדיין קצת מדע בדיוני: הכנסה לשימוש של בינה מלאכותית גנרטיבית, הטרנד הכי חם בעולמות הטכנולוגיה כיום.
"במקום שבו יש את האתגר שיש לנו, אין לנו ברירה אחרת אלא לחבר את הבינה המלאכותית בכל הרבדים", מפרט הגורם הבכיר. "זה למידת מכונה, זו למידה עמוקה, זו בינה מלאכותית צרה שמיוצרת למשימות מאוד ספציפיות. וזה מגיע עד להתפתחויות האחרונות של בינה מלאכותית יוצרת (GenAI) ובינה מלאכותית כוללת (AGI). לשם אנחנו הולכים".
בחודשים האחרונים התחילו באגף הטכנולוגיות לפתח כלים ראשונים בטכנולוגיית GenAI. הם לא מסתפקים בלשאול את הצ'טבוט על דברים שקורים בעולם החיצוני, אלא מפעילים את הטכנולוגיה על הנתונים של השב"כ עצמו, במערכת שפועלת על מחשבי ה-AI העצומים של הארגון. מדובר בצעדים ראשונים, אבל הפוטנציאל נראה עצום, וגם מפחיד.
בינה מלאכותית גנרטיבית יודעת למצוא תובנות בכוחות עצמה, בלי שלימדו אותה, והתוצאות עלולות להיות לא מוסברות. רשימת חשודים בכפר מסוים עלולה לכלול שמות של אנשים שבשום כלי אחר אי אפשר היה לעלות עליהם - אבל חלק מהשמות האלה עלולים להיות טעות.
אנשי הטכנולוגיה של השב"כ מדברים על מערכת GenAI שתעמוד לרשות מקבלי ההחלטות בארגון, כזו שתוכל להמליץ על דרכי פעולה בצורה אובייקטיבית שמנטרלת אגו ורעשים. זה כמו ChatGPT של קבלת החלטות אסטרטגיות
אנשי הטכנולוגיה של הארגון מדברים על מערכת GenAI שתעמוד לרשות מקבלי ההחלטות בשב"כ, כזו שתוכל להמליץ על דרכי פעולה בצורה אובייקטיבית שמנטרלת אגו ורעשים. זה כמו ChatGPT של קבלת החלטות אסטרטגיות.
עכשיו גם מתחילות מחשבות ראשונות על השלב הבא של הבינה המלאכותית: הבינה המלאכותית הכוללת (AGI). העולם כולו אחוז בחרדות לקראת האירוע הזה, שהוא כנראה בלתי נמנע.
ה-AGI לא תחכה להנחיות של מפעילים אנושיים. היא עשוייה למצוא ליקויים בתורת ההפעלה של השב"כ ולהציע דרכי פעולה שאיש לא חשב עליהן, ושיביאו לתוצאות שאיש לא ציפה להן.
אחת המחשבות היא שה-AGI תפתח תודעה משל עצמה, והשילוב בין דעתה על המצב בשטחים לבין יכולות הפעולה מרחיקות הלכת של השב"כ צריכות להדאיג את כולנו.
ה-AI תלמד מה הסוכנים רוצים ותהיה ממוקדת יותר
המהפך הגדול שעבר השב"כ לארגון שמונע על ידי נתונים לא התחיל עכשיו. מאז תחילת שנות ה-2000 החלו בארגון לאסוף נתונים ולצבור אותם במערכות מידע. הניתוח שלהם אז היה ידני בעיקרו, בעזרת מערכות תמיכה בהחלטות (BI).
בשב"כ החלו מחשבות ראשונות על השלב הבא של ה-AI: בינה מלאכותית כוללת - AGI. זו לא תחכה להנחיות של מפעילים אנושיים. היא עשויה למצוא ליקויים בתורת ההפעלה של השב"כ ולהציע דרכי פעולה שאיש לא חשב עליהן, ושיביאו לתוצאות שאיש לא ציפה להן
אבל היקף המידע הלך וגדל, והכלים לניתוחו הלכו והשתפרו. בתקופתו של ראש השב"כ הקודם, נדב ארגמן, הוחלט על איחוד גורמי הטכנולוגיה, הסייבר והסיגינט (האזנות) ליחידה אחת: אגף טכנולוגיות המידע.
"ברקע היתה מהפכת התפוצצות המידע, שזו הדרמה הגדולה שמלווה אותנו בעיקר בעשר השנים האחרונות", מפרט הגורם הבכיר בשב"כ. "השירות נדרש לאסוף הרבה מאוד מידע, למצות אותו, לסנן אותו ולזקק אותו לתובנות מודיעיניות, וזה האירוע הדרמטי כאן.
"היינו צריכים להכין את השירות למהפיכה, החל מרמת תשתיות המחשוב שיקלטו את כל הנתונים ויעבדו אותם, ועד ליצירת תפקיד מנהל הדאטה ראשי (CDO), שאחראי לגבש את אסטרטגיית הדאטה הארגונית. זאת מיומנות מאוד גדולה לתת מכל ים הדאטה שקיים את מה שבאמת נדרש ואיפה שהוא נדרש".
לפי התיאור שלו, השב"כ הוא ארגון שהשלים את תהליך הטרנספורמציה שרבים בעולמות העסקיים עדיין מדברים עליו. הארגון לא רק הכיר בטכנולוגיה החדשה ומיישם אותה בכל תחומי הפעילות - הוא גם הפך אותה למנוע לשינוי הארגון כולו. העובדים בכל רמות הארגון משתמשים בכלי AI כאלה או אחרים. ובפעילותם המבצעית הם גם תורמים לפיתוח ושיפור הכלים שמפעיל השב"כ.
כלי ה-AI לא מסתפקים בהצגת התרעות, הם גם עוקבים אחרי השימוש של העובדים במידע. בחלק מהמקרים העובדים גם נדרשים לתת פידבק קונקרטי. התוצאה היא שההתרעות הבאות של המערכת יהיו הרבה יותר ממוקדות ויובילו לסיכולים יותר מובהקים
מכירים את זה שביוטיוב או בטיקטוק התגובות שלכם לתוכן משנות את הדרך שבה אלגוריתם הצעות התוכן מתאים את התכנים לטעמכם? דבר דומה קורה במערכות ה-AI של השב"כ, אם כי למטרות שונות בתכלית.
כלי ה-AI לא מסתפקים בהצגת התרעות, הם גם עוקבים אחרי השימוש של העובדים במידע.
בחלק מהמקרים העובדים גם נדרשים לתת פידבק קונקרטי. התוצאה היא שההתרעות הבאות של המערכת יהיו הרבה יותר ממוקדות ויובילו לסיכולים יותר מובהקים. ובינתיים דרך העבודה של הארגון עוברת שינויים בעידן הטכנולוגיה.
חייבים להתייחס גם לסיכונים בשימוש ב-AI. ככל שהיא נעשית מתוחכמת יותר, וככל שהיא עוברת ללמידה עצמאית ולא מפוקחת, כך התוצאות שהיא מניבה עלולות להיות פחות מובנות לבני האדם. זו אחת הבעיות המרכזיות בעולמות ה-AI הגנרטיבית הנוכחיים.
בשב"כ מדברים על בינה מלאכותית אחראית ועל בינה מלאכותית מוסברת, ועומלים קשה כנגד מה שמוצג כסכנה הכי גדולה: שהבינה המלאכותית תרד מהפסים. אם זה קורה לחברת ביטוח, היא עלולה להפסיד לקוחות. אם זה קורה לשב"כ, כמה אנשים חפים מפשע עלולים להיות בסכנה גדולה.
"יש איזורים שבהם אתה צריך לתפור את המגבלות כדי שהמודלים לא יטעו אותך", מנסה הגורם הבכיר להרגיע. "אתה צריך לבדוק את עצמך, לוודא שהמודלים לא יורדים מהפסים. שהשימוש בהם הוא שימוש אחראי. אנחנו תמיד נתייחס ל-AI כאל עוזר. בסוף תמיד נצטרך להיות ביקורתיים. החינוך שלנו הוא להטיל ספק וגם ב-AI אנחנו נטיל ספק".