פרופ' עירד בן גל, מהמחלקה להנדסת תעשייה וראש המעבדה ליישומי בינה מלאכותית ולמידת מכונה, התראיין לאחרונה לכתבה בוואלה חדשות העוסקת בסיכוני ה"דיפ-פייק" בזמן בחירות. בכתבה הוא מסביר מדוע הטכנולוגיה הזו יכולה ביישומים מסוימים להיות לגיטימית וחיובית בתנאי שתופעל כראוי. בין היתר הוא מספר על שימוש במודלים של רשתות עמוקות המאפשרים ליצור הדמיה מדויקת של המציאות ביישומים כגון ערים חכמות, שיתוף דעות חדשות ברשת ואפילו במודלים אפידמיולוגים של הדבקה. העבודות המוזכרות נעשות בשיתוף עם חוקרים אחרים מהמחלקה להנדסת תעשייה: ד"ר ערן טוך, ד"ר ארז שמואלי וד"ר דן ימין.

דיפ פייק

בחודשים האחרונים נחשפנו בעולם הדיגיטלי לטכנולוגית הדיפ פייק. טכנולוגיה המבוססת על בינה מלאכותית ומאפשרת בין היתר "השתלת" פנים של אדם אחד, על סרט וידאו של אדם אחר. הזיוף נראה אמין, לא פחות מהמציאות. החשש הגדול מטכנולוגיה זו הוא שבידיים הלא נכונות היא יכולה להוות סכנה ממשית לפרטיות שלנו בין אם זו גניבת זהות, הונאות כספיות וחברתיות, פייק ניוז ועד פגיעה ממשית בתהליכים דמוקרטיים כפי שנראו בבחירות לנשיאות בארה"ב ב-2016.

הדרך היעילה להפיץ באינטרנט דעה חדשה או מוצר

במחקר משותף שהתפרסם במגזין Europhysics Letters ונערך בזמנו  עם ד"ר אלון סלע (בזמן שהיה דוקטורנט במחלקה להנדסת תעשייה), פרופ' שלמה הבלין וד"ר לואיס שכטמן נעשתה השוואה בין מודלים להפצת מידע הנקראים "Word of Mouth (WOM)" שמייצגים הפצה ברשת חברתית לבין מודלים של הפצת מידע באמצאות מנועי חיפוש שנקראים WEB. החוקרים בדקו מהי הדרך היעילה להפיץ באינטרנט דעה חדשה או מוצר חדש שעדיין לא נפוצים.

הממצאים במחקר, כמו במחקרי המשך יחד עם ד"ר ארז שמואלי - מומחה לרשתות חברתיות, הראו כי הדרך היעילה ביותר להפצת מידע חדש היא לוודא שבזמן קצר מרגע שאדם נחשף לדעה הזו, הקרובים אליו ברשת החברתית שהם ברובם אנשים רגילים ולא דמויות מוכרות כמו סלבריטאים יגיבו ויהדהדו את המסר החדש וחוזר חלילה תוך חיזוק המגמה של פיעפוע המידע באופן מקומי ברשת. זו אגב במידה רבה הטקטיקה שנקטה חברת קימברידג' אנליטיקס בבחירות הראשונות של טראמפ על בסיס נתוני פייסבוק. 

"עכשיו אפשר לתאר מצב שבו שניתן לייצר דיפ-פייק בכמויות מסחריות עצומות לא רק של פוליטיקאים אלא של אנשים רגילים - אלו שקשורים אישית לכל אחד ואחת מאתנו - וכך להשפיע על הקרובים להם ברשת. הפעלה כזו בימים אחרונים לבחירות יכולה לשנות תוצאות באופן קיצוני וגם אם ההונאה תתגלה בסופו של יום – זה יהיה מאוחר מידי" אומר פרופ' בן גל "מצד שני מחקרים הראו שגיוון של דעות – כולל דעות חדשות ולא נפוצות – הוא חיוני ומעשיר. שימוש בטכנולוגיה כזו – תחת הנחה שהיא אמינה ולגיטימית תאפשר להעשיר את גוף הידע האנושי בדעות שונות ומגוונות".

הדמיה מדויקת של המציאות

בנוסף למחקרים בהם השוו, פרופ' בן גל ושותפיו, מודלים להפצת מידע, הוא גם חוקר יחד עם ד"ר ערן טוך - מומחה בתחום עיבוד נתונים ופרטיות - והסטודנטית מאיה ארדיטי מודלים של רשתות עמוקות המאפשרים ליצור הדמיה מדויקת של תנועת אנשים בערים בהתבסס על נתוני תנועה סלולרית. "זה מחקר שבו מצד אחד ניתן לייצר סימולציית תנועה מדויקת מרמת בן אדם בודד שנע בתוך עיר ומצד שני, משיקולי פרטיות הוא אינו חושף את הנתונים של אנשים אמיתיים ומסכן את פרטיותם" מסביר פרופ' בן גל. "סוג כזה של יצור נתונים על ידי מודלים כגון רשתות עמוקות מסוג LSTM (Long Short Term Memory) ורשתות עמוקות מסוג  (Generative Adversarial Networks)GAN בהן שתי רשתות מתחרות ולומדות האחת מהשנייה - האחת מייצרת נתונים באופן סימולטיבי והשנייה מאשרת או פוסלת אותם  - מאד רלוונטי לדוגמה ליישומי תחבורה  חכמה ויישומי ערים חכמות. אפילו למודלים אפידמיולוגים שמשמשים לניתוח וחיזוי נתוני הדבקה, בהן נעשה שימוש בנתוני תנועה בזמן התפרצות מגפה", למשל במחקרים משותפים עם ד"ר דן ימין שהינו מומחה למודלים של מחלות מדבקות.

משלבים באופן לגיטימי בין העולם הפיזי לעולם הדיגיטלי

בפרויקט ","Digital Living 2030 המשותף לפקולטה להנדסה ולאוניברסיטת סטנפורד בראשו עומדים פרופ' בן גל ופרופ' במבוס, עוסק בהסתכלות על החיים של כולנו בעוד 10-15 שנים, מתוך מחשבה שלפני 10-15 שנים החיים היו שונים לחלוטין מאלו שאנו חווים כיום. Digital Living 2030 עוסק בעיקר בחיבור שבין העולם הדיגיטלי לעולם הפיזי שהופך במידה רבה משולב יותר ויותר שמנתחים מגמות על החיים העתידיים שלנו. חלק מהמגמות האלה נחזו כבר בשנה האחרונה של התפרצות מגפת הקורונה.

פרופ' בן גל מסביר שיישום אפשרי אחד לטכנולוגיית הדיפ-פייק כאשר חושבים על שילוב הולם בין העולם הפיזי לעולם הדיגיטלי הוא ייצור אווטר (דמות דיגיטלית) שיכולה לייצג אדם במרחב הדיגיטלי באופן יחסית מדויק ליישותו הפיזי – אבל הפעם למטרה חיובית – על מנת ולייצג את אותו אדם בעבודות לגיטימיות – "תחשבו על רדיולוג מומחה שהדמות הדיגיטלית שלו למדה מכל נתוני העבר מה פיענוחי ההדמיות הרפואיות שהוא ביצע ולכן תוכל לעבוד בעולם הדיגיטלי במקומו בזמן שהדמות הפיזית שלו אינה פנויה. בדיוק כמו שתוכנה יכולה לפעול גם בזמן שהאלגוריתמים שייצרו אותה הלכו לישון".

נקודה למחשבה

"לאחרונה הדיפ-פייק נעשה יותר ויותר נגיש וזמין למשתמש הפרטי. אני חושב שכל מי שנחשף לפייק ניוז באינטרנט - כולל פעולות מאסיביות של בוטים ברשתות חברתיות כגון טוויטר צריך להיות מאד מודאג מהאופן בו טכנולוגיות חדשניות כגון דיפ פייק יכולות להשפיע באופן משמעותי על דעת קהל. ככל שהטכנולוגיות האלה מתקדמות הן מייצרות מצב לא מאוזן בו מי שייטיב לשלוט בהן יוכל להטות את דעת הקהל לטובתו וזו סכנה מוחשית לדמוקרטיה. הטכנולוגיה עדיין לא מאד נפוצה אבל היא תהיה מאד מסוכנת ברגע שתהפוך נגישה ותאפשר לייצר בקלות הדמיה אמינה שקשה להפריד בינה ובין המציאות" מסביר פרופ' בן גל "מצד שני כל אותן דוגמאות במחקרים שציינתי הן דוגמאות חיוביות ולגיטימיות לטכנולוגיה שכזו – למעשה מאז שהאדם הקדמון למד כיצד להבעיר אש – הטכנולוגיה קיימת והשימוש בה, לטוב ולרע, מצוי בידי בני האדם שמפעילים אותה".

אלה שמתאהבים בבעיה הם אלה שממציאים לה פתרון

פיתוח טכנולוגי וביולוגי של אוניברסיטת תל אביב, חסר תקדים בארץ ובעולם, מאפשר לראשונה לחבר אוזן של בעל חיים מת (חגב) לרובוט שקולט את האותות החשמליים של האוזן ומגיב בהתאם. התוצאה מיוחדת במינה: החוקרים מוחאים מחיאת כף אחת, האוזן של החגב שומעת את הצליל והרובוט נוסע קדימה. החוקרים מוחאים שתי מחיאות כף, האוזן שומעת – והרובוט נוסע אחורה".

המחקר האינטרדיסציפלינרי נערך בהובלת ד"ר בן מעוז מהמחלקה להנדסה ביו-רפואית ובית הספר סגול למדעי המוח, בשיתוף צוות מומחים מבית הספר לזואולוגיה ובית הספר סגול למדעי המוח: פרופ' יוסי יובל, פרופ' אמיר אילי, ד"ר אנטון שיינין, עידן פישל, יוני עמית, נטע שביל. תוצאות המחקר התפרסמו בכתב העת היוקרתי Sensors.

החוקרים מסבירים שבתחילת המחקר הם ביקשו לבחון כיצד ניתן לשלב את היתרונות של המערכות הביולוגיות גם במערכות הטכנולוגיות, ואיך אפשר להשתמש בחושים של בעלי חיים מתים כחיישנים לרובוט. "בחרנו בחוש השמיעה, כי אפשר להשוות אותו בקלות לטכנולוגיות קיימות – בניגוד לריח למשל ששם האתגר גדול עוד יותר", מדגיש ד"ר מעוז. "האתגר שלנו היה להחליף את המיקרופון אלקטרוני של הרובוט באוזן של חרק מת, לנצל את היכולת של האוזן לקלוט את האותות החשמליים מהסביבה, במקרה הזה את הוויברציות באוויר, ובאמצעות שבב מיוחד להמיר את קלט החרק לקלט של רובוט".

לצורך המשימה הייחודית והלא שגרתית, בשלב הראשון החוקרים במעבדה של ד"ר מעוז בנו רובוט שמסוגל להגיב לאותות שהוא מקבל מהסביבה. לאחר מכן, בשיתוף פעולה רב תחומי החוקרים הצליחו לבודד ולאפיין את האוזן של חגב מת, להצליח להחזיק אותה בחיים, כלומר מתפקדת, מספיק זמן כדי ניתן לחבר אותה בהצלחה לרובוט. בשלב האחרון החוקרים הצליחו למצוא דרך לקלוט את האותות שנקלטים באוזן החגב בדרך שתהיה שימושית גם לרובוט. בסוף התהליך, הרובוט הצליח 'לשמוע' את הצלילים ולהגיב בהתאם.

בתמונה: הרובוט עם הצ'יפ

"מעבדתו של פרופ' אילי בעלת ניסיון רב בעבודה עם חגבים, והם פיתחו מיומנויות לבודד את האוזן ולאפיין אותה", מסביר ד"ר מעוז. "מעבדתו של פרופ' יובל בנתה את הרובוט ופיתחה קוד המאפשר לרובוט להגיב לאותות חשמליים של קול. ואילו המעבדה שלי פיתחה מכשיר מיוחד – אוזן-על-שבב – שמאפשר לשמור את האוזן חיה זמן לאורך הניסוי באמצעות אספקה של חמצן ומזון לאיבר, ובמקביל מאפשר להוציא את הסיגנלים החשמליים מאוזן החגב, להגביר ולהעביר אותם לרובוט".

ככלל, למערכות ביולוגיות יתרון עצום על מערכות טכנולוגיות – הן מבחינת הרגישות והן מבחינת תצרוכת האנרגיה. לכן הפרויקט של חוקרי אוניברסיטת תל אביב פותח פתח לשילובים חושיים בין רובוטים לחרקים – ועשוי לייתר פיתוחים מסורבלים ויקרים בהרבה בתחום הרובוטיקה.

"צריך להבין שמערכות ביולוגיות מוציאות אנרגיה זניחה ביחס למערכות אלקטרוניות. הן ממוזערות, ולכן גם חסכוניות ויעילות, בצורה קיצונית. לשם השוואה, מחשב נייד צורך כ-100 וואט לשעה, ואילו המוח האנושי צורך כ-20 וואט ביממה. הטבע מתקדם מאיתנו בהרבה, לכן כדאי להשתמש בו. ניתן להשתמש בעיקרון שהצגנו, וליישם אותו על חושים אחרים, כמו ריח, ראייה ומישוש. לדוגמה, לבעלי חיים מסוימים יש יכולות מדהימות לזיהוי של חומרי נפץ וסמים, וייצור של רובוט עם אף ביולוגי יוכל לעזור לנו לשמור על חיי אדם ולזהות עבריינים באופן שלא ניתן כיום. יש בעלי חיים שיודעים לזהות מחלות ואחרים שיודעים לחוש רעידות אדמה. השמיים הם הגבול".

אלה שמתאהבים בבעיה הם אלה שממציאים לה פתרון