לראות ולא להאמין

פרופ' עירד בן גל, מהמחלקה להנדסת תעשייה וראש המעבדה ליישומי בינה מלאכותית ולמידת מכונה, התראיין לאחרונה לכתבה בוואלה חדשות העוסקת בסיכוני ה"דיפ-פייק" בזמן בחירות. בכתבה הוא מסביר מדוע הטכנולוגיה הזו יכולה ביישומים מסוימים להיות לגיטימית וחיובית בתנאי שתופעל כראוי. בין היתר הוא מספר על שימוש במודלים של רשתות עמוקות המאפשרים ליצור הדמיה מדויקת של המציאות ביישומים כגון ערים חכמות, שיתוף דעות חדשות ברשת ואפילו במודלים אפידמיולוגים של הדבקה. העבודות המוזכרות נעשות בשיתוף עם חוקרים אחרים מהמחלקה להנדסת תעשייה: ד"ר ערן טוך, ד"ר ארז שמואלי וד"ר דן ימין.

דיפ פייק

בחודשים האחרונים נחשפנו בעולם הדיגיטלי לטכנולוגית הדיפ פייק. טכנולוגיה המבוססת על בינה מלאכותית ומאפשרת בין היתר "השתלת" פנים של אדם אחד, על סרט וידאו של אדם אחר. הזיוף נראה אמין, לא פחות מהמציאות. החשש הגדול מטכנולוגיה זו הוא שבידיים הלא נכונות היא יכולה להוות סכנה ממשית לפרטיות שלנו בין אם זו גניבת זהות, הונאות כספיות וחברתיות, פייק ניוז ועד פגיעה ממשית בתהליכים דמוקרטיים כפי שנראו בבחירות לנשיאות בארה"ב ב-2016.

הדרך היעילה להפיץ באינטרנט דעה חדשה או מוצר

במחקר משותף שהתפרסם במגזין Europhysics Letters ונערך בזמנו  עם ד"ר אלון סלע (בזמן שהיה דוקטורנט במחלקה להנדסת תעשייה), פרופ' שלמה הבלין וד"ר לואיס שכטמן נעשתה השוואה בין מודלים להפצת מידע הנקראים "Word of Mouth (WOM)" שמייצגים הפצה ברשת חברתית לבין מודלים של הפצת מידע באמצאות מנועי חיפוש שנקראים WEB. החוקרים בדקו מהי הדרך היעילה להפיץ באינטרנט דעה חדשה או מוצר חדש שעדיין לא נפוצים.

הממצאים במחקר, כמו במחקרי המשך יחד עם ד"ר ארז שמואלי - מומחה לרשתות חברתיות, הראו כי הדרך היעילה ביותר להפצת מידע חדש היא לוודא שבזמן קצר מרגע שאדם נחשף לדעה הזו, הקרובים אליו ברשת החברתית שהם ברובם אנשים רגילים ולא דמויות מוכרות כמו סלבריטאים יגיבו ויהדהדו את המסר החדש וחוזר חלילה תוך חיזוק המגמה של פיעפוע המידע באופן מקומי ברשת. זו אגב במידה רבה הטקטיקה שנקטה חברת קימברידג' אנליטיקס בבחירות הראשונות של טראמפ על בסיס נתוני פייסבוק. 

"עכשיו אפשר לתאר מצב שבו שניתן לייצר דיפ-פייק בכמויות מסחריות עצומות לא רק של פוליטיקאים אלא של אנשים רגילים - אלו שקשורים אישית לכל אחד ואחת מאתנו - וכך להשפיע על הקרובים להם ברשת. הפעלה כזו בימים אחרונים לבחירות יכולה לשנות תוצאות באופן קיצוני וגם אם ההונאה תתגלה בסופו של יום – זה יהיה מאוחר מידי" אומר פרופ' בן גל "מצד שני מחקרים הראו שגיוון של דעות – כולל דעות חדשות ולא נפוצות – הוא חיוני ומעשיר. שימוש בטכנולוגיה כזו – תחת הנחה שהיא אמינה ולגיטימית תאפשר להעשיר את גוף הידע האנושי בדעות שונות ומגוונות".

הדמיה מדויקת של המציאות

בנוסף למחקרים בהם השוו, פרופ' בן גל ושותפיו, מודלים להפצת מידע, הוא גם חוקר יחד עם ד"ר ערן טוך - מומחה בתחום עיבוד נתונים ופרטיות - והסטודנטית מאיה ארדיטי מודלים של רשתות עמוקות המאפשרים ליצור הדמיה מדויקת של תנועת אנשים בערים בהתבסס על נתוני תנועה סלולרית. "זה מחקר שבו מצד אחד ניתן לייצר סימולציית תנועה מדויקת מרמת בן אדם בודד שנע בתוך עיר ומצד שני, משיקולי פרטיות הוא אינו חושף את הנתונים של אנשים אמיתיים ומסכן את פרטיותם" מסביר פרופ' בן גל. "סוג כזה של יצור נתונים על ידי מודלים כגון רשתות עמוקות מסוג LSTM (Long Short Term Memory) ורשתות עמוקות מסוג  (Generative Adversarial Networks)GAN בהן שתי רשתות מתחרות ולומדות האחת מהשנייה - האחת מייצרת נתונים באופן סימולטיבי והשנייה מאשרת או פוסלת אותם  - מאד רלוונטי לדוגמה ליישומי תחבורה  חכמה ויישומי ערים חכמות. אפילו למודלים אפידמיולוגים שמשמשים לניתוח וחיזוי נתוני הדבקה, בהן נעשה שימוש בנתוני תנועה בזמן התפרצות מגפה", למשל במחקרים משותפים עם ד"ר דן ימין שהינו מומחה למודלים של מחלות מדבקות.

משלבים באופן לגיטימי בין העולם הפיזי לעולם הדיגיטלי

בפרויקט ","Digital Living 2030 המשותף לפקולטה להנדסה ולאוניברסיטת סטנפורד בראשו עומדים פרופ' בן גל ופרופ' במבוס, עוסק בהסתכלות על החיים של כולנו בעוד 10-15 שנים, מתוך מחשבה שלפני 10-15 שנים החיים היו שונים לחלוטין מאלו שאנו חווים כיום. Digital Living 2030 עוסק בעיקר בחיבור שבין העולם הדיגיטלי לעולם הפיזי שהופך במידה רבה משולב יותר ויותר שמנתחים מגמות על החיים העתידיים שלנו. חלק מהמגמות האלה נחזו כבר בשנה האחרונה של התפרצות מגפת הקורונה.

פרופ' בן גל מסביר שיישום אפשרי אחד לטכנולוגיית הדיפ-פייק כאשר חושבים על שילוב הולם בין העולם הפיזי לעולם הדיגיטלי הוא ייצור אווטר (דמות דיגיטלית) שיכולה לייצג אדם במרחב הדיגיטלי באופן יחסית מדויק ליישותו הפיזי – אבל הפעם למטרה חיובית – על מנת ולייצג את אותו אדם בעבודות לגיטימיות – "תחשבו על רדיולוג מומחה שהדמות הדיגיטלית שלו למדה מכל נתוני העבר מה פיענוחי ההדמיות הרפואיות שהוא ביצע ולכן תוכל לעבוד בעולם הדיגיטלי במקומו בזמן שהדמות הפיזית שלו אינה פנויה. בדיוק כמו שתוכנה יכולה לפעול גם בזמן שהאלגוריתמים שייצרו אותה הלכו לישון".

נקודה למחשבה

"לאחרונה הדיפ-פייק נעשה יותר ויותר נגיש וזמין למשתמש הפרטי. אני חושב שכל מי שנחשף לפייק ניוז באינטרנט - כולל פעולות מאסיביות של בוטים ברשתות חברתיות כגון טוויטר צריך להיות מאד מודאג מהאופן בו טכנולוגיות חדשניות כגון דיפ פייק יכולות להשפיע באופן משמעותי על דעת קהל. ככל שהטכנולוגיות האלה מתקדמות הן מייצרות מצב לא מאוזן בו מי שייטיב לשלוט בהן יוכל להטות את דעת הקהל לטובתו וזו סכנה מוחשית לדמוקרטיה. הטכנולוגיה עדיין לא מאד נפוצה אבל היא תהיה מאד מסוכנת ברגע שתהפוך נגישה ותאפשר לייצר בקלות הדמיה אמינה שקשה להפריד בינה ובין המציאות" מסביר פרופ' בן גל "מצד שני כל אותן דוגמאות במחקרים שציינתי הן דוגמאות חיוביות ולגיטימיות לטכנולוגיה שכזו – למעשה מאז שהאדם הקדמון למד כיצד להבעיר אש – הטכנולוגיה קיימת והשימוש בה, לטוב ולרע, מצוי בידי בני האדם שמפעילים אותה".

אלה שמתאהבים בבעיה הם אלה שממציאים לה פתרון