תחומים:

בחר הכל

ASV

הנדסה

מערכות קוונטיות

תחבורה חכמה

רכב אוטונומי

קול קורא

מכונת הנשמה

COVID-19

מטא-חומרים...

הנדסת חשמל

הנדסה מכנית

אולטרה-סגול

אולטרה-סגול

RoboBoat

MRI

קטגוריות:

בחר הכל

מחקר בפקולטה

מחקר

כנס

ברכות

פוקוס

חדשות

NEWS

מה מעניין אותך?

כל הנושאים
נשימה
זרימות חד-ורב-פאזיות
אווירונאוטיקה
טיפול במים
שריפה רב-פאזית
קרח קולואידי
קרח מלאכותי
עיוות קרח מלאכותי דו-ממדי
מערכות הנעה
Remote sensing of waves
AI
Cyber Security
Geophysical and environmental fluid dynamics
exotic mechanics
Environmental implications
environment
drone
Deep learning
CO2 storage
Health
chemical oxidation
Biomimicry
Biomimetics
Biomedical
Bioelectronics
Beetles
groundwater
Hemodynamics and Biomechanics
Radio Physics and Engineering
nanotechnologies
Optics
optical nanosensors
oil and natural gas
nanomaterials
Numerical models
numerical modelling
Nanoelectronics
Nonlinear optics
Molecular Electronics
Nanophotonics
Metamaterials
Mechanical Engineering
Interfacial Phenomena
materials for water
לראות ולא להאמין

מחקר

16.03.2021
לראות ולא להאמין

האם טכנולוגית הדיפ פייק​ הגיעה למצב שאנחנו כבר לא יכולים לסמוך על מה שאנחנו רואים והאם זה תמיד רע?

  • מחקר
  • הנדסת תעשייה

פרופ' עירד בן גל, מהמחלקה להנדסת תעשייה וראש המעבדה ליישומי בינה מלאכותית ולמידת מכונה, התראיין לאחרונה לכתבה בוואלה חדשות העוסקת בסיכוני ה"דיפ-פייק" בזמן בחירות. בכתבה הוא מסביר מדוע הטכנולוגיה הזו יכולה ביישומים מסוימים להיות לגיטימית וחיובית בתנאי שתופעל כראוי. בין היתר הוא מספר על שימוש במודלים של רשתות עמוקות המאפשרים ליצור הדמיה מדויקת של המציאות ביישומים כגון ערים חכמות, שיתוף דעות חדשות ברשת ואפילו במודלים אפידמיולוגים של הדבקה. העבודות המוזכרות נעשות בשיתוף עם חוקרים אחרים מהמחלקה להנדסת תעשייה: ד"ר ערן טוך, ד"ר ארז שמואלי וד"ר דן ימין.

 

דיפ פייק

בחודשים האחרונים נחשפנו בעולם הדיגיטלי לטכנולוגית הדיפ פייק. טכנולוגיה המבוססת על בינה מלאכותית ומאפשרת בין היתר "השתלת" פנים של אדם אחד, על סרט וידאו של אדם אחר. הזיוף נראה אמין, לא פחות מהמציאות. החשש הגדול מטכנולוגיה זו הוא שבידיים הלא נכונות היא יכולה להוות סכנה ממשית לפרטיות שלנו בין אם זו גניבת זהות, הונאות כספיות וחברתיות, פייק ניוז ועד פגיעה ממשית בתהליכים דמוקרטיים כפי שנראו בבחירות לנשיאות בארה"ב ב-2016.

 

הדרך היעילה להפיץ באינטרנט דעה חדשה או מוצר

במחקר משותף שהתפרסם במגזין Europhysics Letters ונערך בזמנו  עם ד"ר אלון סלע (בזמן שהיה דוקטורנט במחלקה להנדסת תעשייה), פרופ' שלמה הבלין וד"ר לואיס שכטמן נעשתה השוואה בין מודלים להפצת מידע הנקראים "Word of Mouth (WOM)" שמייצגים הפצה ברשת חברתית לבין מודלים של הפצת מידע באמצאות מנועי חיפוש שנקראים WEB. החוקרים בדקו מהי הדרך היעילה להפיץ באינטרנט דעה חדשה או מוצר חדש שעדיין לא נפוצים.

 

הממצאים במחקר, כמו במחקרי המשך יחד עם ד"ר ארז שמואלי - מומחה לרשתות חברתיות, הראו כי הדרך היעילה ביותר להפצת מידע חדש היא לוודא שבזמן קצר מרגע שאדם נחשף לדעה הזו, הקרובים אליו ברשת החברתית שהם ברובם אנשים רגילים ולא דמויות מוכרות כמו סלבריטאים יגיבו ויהדהדו את המסר החדש וחוזר חלילה תוך חיזוק המגמה של פיעפוע המידע באופן מקומי ברשת. זו אגב במידה רבה הטקטיקה שנקטה חברת קימברידג' אנליטיקס בבחירות הראשונות של טראמפ על בסיס נתוני פייסבוק. 

 

"עכשיו אפשר לתאר מצב שבו שניתן לייצר דיפ-פייק בכמויות מסחריות עצומות לא רק של פוליטיקאים אלא של אנשים רגילים - אלו שקשורים אישית לכל אחד ואחת מאתנו - וכך להשפיע על הקרובים להם ברשת. הפעלה כזו בימים אחרונים לבחירות יכולה לשנות תוצאות באופן קיצוני וגם אם ההונאה תתגלה בסופו של יום – זה יהיה מאוחר מידי" אומר פרופ' בן גל "מצד שני מחקרים הראו שגיוון של דעות – כולל דעות חדשות ולא נפוצות – הוא חיוני ומעשיר. שימוש בטכנולוגיה כזו – תחת הנחה שהיא אמינה ולגיטימית תאפשר להעשיר את גוף הידע האנושי בדעות שונות ומגוונות".

 

הדמיה מדויקת של המציאות

בנוסף למחקרים בהם השוו, פרופ' בן גל ושותפיו, מודלים להפצת מידע, הוא גם חוקר יחד עם ד"ר ערן טוך - מומחה בתחום עיבוד נתונים ופרטיות - והסטודנטית מאיה ארדיטי מודלים של רשתות עמוקות המאפשרים ליצור הדמיה מדויקת של תנועת אנשים בערים בהתבסס על נתוני תנועה סלולרית. "זה מחקר שבו מצד אחד ניתן לייצר סימולציית תנועה מדויקת מרמת בן אדם בודד שנע בתוך עיר ומצד שני, משיקולי פרטיות הוא אינו חושף את הנתונים של אנשים אמיתיים ומסכן את פרטיותם" מסביר פרופ' בן גל. "סוג כזה של יצור נתונים על ידי מודלים כגון רשתות עמוקות מסוג LSTM (Long Short Term Memory) ורשתות עמוקות מסוג  (Generative Adversarial Networks)GAN בהן שתי רשתות מתחרות ולומדות האחת מהשנייה - האחת מייצרת נתונים באופן סימולטיבי והשנייה מאשרת או פוסלת אותם  - מאד רלוונטי לדוגמה ליישומי תחבורה  חכמה ויישומי ערים חכמות. אפילו למודלים אפידמיולוגים שמשמשים לניתוח וחיזוי נתוני הדבקה, בהן נעשה שימוש בנתוני תנועה בזמן התפרצות מגפה", למשל במחקרים משותפים עם ד"ר דן ימין שהינו מומחה למודלים של מחלות מדבקות.

 

משלבים באופן לגיטימי בין העולם הפיזי לעולם הדיגיטלי

בפרויקט ","Digital Living 2030 המשותף לפקולטה להנדסה ולאוניברסיטת סטנפורד בראשו עומדים פרופ' בן גל ופרופ' במבוס, עוסק בהסתכלות על החיים של כולנו בעוד 10-15 שנים, מתוך מחשבה שלפני 10-15 שנים החיים היו שונים לחלוטין מאלו שאנו חווים כיום. Digital Living 2030 עוסק בעיקר בחיבור שבין העולם הדיגיטלי לעולם הפיזי שהופך במידה רבה משולב יותר ויותר שמנתחים מגמות על החיים העתידיים שלנו. חלק מהמגמות האלה נחזו כבר בשנה האחרונה של התפרצות מגפת הקורונה.

 

פרופ' בן גל מסביר שיישום אפשרי אחד לטכנולוגיית הדיפ-פייק כאשר חושבים על שילוב הולם בין העולם הפיזי לעולם הדיגיטלי הוא ייצור אווטר (דמות דיגיטלית) שיכולה לייצג אדם במרחב הדיגיטלי באופן יחסית מדויק ליישותו הפיזי – אבל הפעם למטרה חיובית – על מנת ולייצג את אותו אדם בעבודות לגיטימיות – "תחשבו על רדיולוג מומחה שהדמות הדיגיטלית שלו למדה מכל נתוני העבר מה פיענוחי ההדמיות הרפואיות שהוא ביצע ולכן תוכל לעבוד בעולם הדיגיטלי במקומו בזמן שהדמות הפיזית שלו אינה פנויה. בדיוק כמו שתוכנה יכולה לפעול גם בזמן שהאלגוריתמים שייצרו אותה הלכו לישון".

 

נקודה למחשבה

פרופ' עירד בן גל"לאחרונה הדיפ-פייק נעשה יותר ויותר נגיש וזמין למשתמש הפרטי. אני חושב שכל מי שנחשף לפייק ניוז באינטרנט - כולל פעולות מאסיביות של בוטים ברשתות חברתיות כגון טוויטר צריך להיות מאד מודאג מהאופן בו טכנולוגיות חדשניות כגון דיפ פייק יכולות להשפיע באופן משמעותי על דעת קהל. ככל שהטכנולוגיות האלה מתקדמות הן מייצרות מצב לא מאוזן בו מי שייטיב לשלוט בהן יוכל להטות את דעת הקהל לטובתו וזו סכנה מוחשית לדמוקרטיה. הטכנולוגיה עדיין לא מאד נפוצה אבל היא תהיה מאד מסוכנת ברגע שתהפוך נגישה ותאפשר לייצר בקלות הדמיה אמינה שקשה להפריד בינה ובין המציאות" מסביר פרופ' בן גל "מצד שני כל אותן דוגמאות במחקרים שציינתי הן דוגמאות חיוביות ולגיטימיות לטכנולוגיה שכזו – למעשה מאז שהאדם הקדמון למד כיצד להבעיר אש – הטכנולוגיה קיימת והשימוש בה, לטוב ולרע, מצוי בידי בני האדם שמפעילים אותה".

 

 

 

 

אומנות הציות בזמני חירום

מחקר

31.03.2020
אומנות הציות בזמני חירום

ד"ר רעות נוחם הראתה במחקרה לאחרונה כי במצבי חירום כגון אסון טבע, מגיפה או מלחמה, שיתוף פעולה מצד האוכלוסיה הוא המפתח ליישום מוצלח של כל תכנית פעולה

  • מחקר
  • הנדסת תעשייה

מאז החל משבר הקורונה, מפרסמות הרשויות הנחיות והגבלות לאזרחים, אשר מטרתן לסייע בהאטת קצב התפשטות הנגיף. עם זאת, לא תמיד ממלאים האזרחים אחר ההנחיות ופועלים על סמך הבנתם ושיקול דעתם. כעס רב מופנה כלפי אותם אזרחים או קבוצות שלא משתפות פעולה עם ההנחיות, ובמקביל רשויות החוק נערכות לאכוף את ההנחיות ביד נוקשה.

 

מי בעצם אשם באי ציות האזרחים?

ברור לכולם שבהיעדר שיתוף פעולה רחב של הציבור, לא ניתן יהיה להשיג את התוצאה הרצויה מאותם צעדים קשים וקיצוניים. אך האם נכון להטיל את מלוא האחריות על כשלון זה או אחר של יישום מדיניות הסגר והריחוק החברתי על הציבור? בכדי לענות על השאלה צריך להבין ולקחת בחשבון את ההתנהגות האנושית בעתות חירום. שלא כמו בזמן שגרה, מצבים של לחץ, חרדה וחוסר וודאות יגרמו לאנשים לפעול דוקא בניגוד להנחיות, אם מבחירה, במידה וירגישו שזה הדבר הנכון ביותר עבורם או אם מחוסר ברירה. בכל חברה יהיו אנשים שמשתפים פעולה עם המדיניות ונשמעים להנחיות, אך גם כאלה שלא.

הפער בין התכנון והתחזיות לבין מה שקורה בפועל אכן נובע מחוסר שיתוף פעולה מלא של האוכלוסיה, אך התעלמות מאותם היבטים התנהגותיים וחברתיים בשלב קבלת ההחלטות והטלת האחריות במלואה על הציבור אינה הפתרון. במצבי חירום תפקידם של מקבלי ההחלטות הוא לא רק להיות צודקים אלא לנהוג בחכמה.

אז מה צריך לעשות? איך אפשר לשפר את תהליך קבלת ההחלטות?

ד"ר רעות נוחם, פוסט-דוקטורנטית באוניברסיטת Northwestern (במסגרת המלגה המשותפת לאוניברסיטת תל אביב ו- Northwestern), עשתה את הדוקטורט שלה במחלקה להנדסת תעשייה תחת הנחייתה של פרופ' מיכל צור, ראשת המחלקה להנדסת תעשייה. הדוקטורט שלה עסק בלוגיסטיקה וקבלת החלטות בשעת חירום והוא רלוונטי יותר מתמיד כעת במשבר הקורונה. "הראנו כי במצבי חירום כגון אסון טבע, מגיפה או מלחמה, כאשר שיתוף פעולה מצד האוכלוסיה הוא המפתח ליישום מוצלח של כל תכנית פעולה, שילוב ההיבטים ההתנהגותיים במודלי קבלת ההחלטות הוא קריטי והתעלמות מההיבט האנושי עלולה להוביל לפתרון גרוע בהרבה מהפתרון שיתקבל תחת הערכת מצב מציאותית וכנה. במילים אחרות, במקום לקוות שכל האוכלוסיה תישמע להנחיות, יש לשלב במודלים תרחישים בהם חלק מהאוכלוסיה לא משתפת פעולה ולעדכן את ההערכות של המודלים ואת ההחלטות שמשתמעות מכך בהתאם. עוד הראנו, כי ע"י זיהוי ממוקד של אוכלוסיות מפתח בהן ניתן למצוא קבוצות גדולות של "מפרי הנחיות" וע"י הקצאת תמריצים (כן, תמריצים ולאו דוקא אכיפה) לאותן אוכלוסיות ניתן לגשר על חלק גדול מהפער שקיים בין המצוי לרצוי" מסבירה ד"ר נוחם.

 

הערכות לאסון

המחקר התמקד בהערכות לאסון טבע כגון רעידת אדמה, ובהחלטות כגון מיקום מרכזי סיוע לאוכלוסיה והקצאת "ערכות הישרדות" לנפגעי האסון. המודלים המוצעים נבחנו באמצעות תרחישים שהתקבלו מועדת ההיגוי הארצי להערכות לרעידות אדמה והמכון הגיאופיזי לישראל. עם זאת, העקרונות המוצגים במחקר רלוונטים ביותר גם לתרחיש של מגיפה כמו מגיפת הקורונה. בעת קבלת החלטות אודות הגבלות תנועה, צמצום שוק העבודה וריחוק חברתי, יש לקחת בחשבון את מידת שיתוף הפעולה של האוכלוסיה עם הרשויות. חשוב לזהות אוכלוסיות "בעייתיות" אשר יתקשו לציית להנחיות כלשהן כבר בעת שגרה וכחלק מתכניות ההערכות לחירום, ולגבש אסטרטגיות פעולה מבעוד מועד. למשל בעדה החרדית כדאי היה לפנות לרבנים המנהיגים עוד בטרם התפרסמו ההנחיות, וביחד איתם למקד את מאמצי ההסברה והפרסום באופן שיהיה אפקטיבי עבור פלח אוכלוסיה זה. דוגמה נוספת היא סיוע בהכשרה והטמעה של פתרונות טכנולוגיים ללימוד תורה וקיום תפילות, ומתן פתרונות לאנשים שצריכים להיות בבידוד ולא יכולים לקיים את ההנחיה לאור תנאי המגורים הנוכחיים שלהם. עבור האוכלוסיה המבוגרת, הקמת מערך מסודר של נציגים שידאגו לספק את כל צרכיהם בזמן הסגר ועבור צעירים הנמצאים בסיכון נמוך ומתקשים לעצור את שגרת חייהם, אפשר להציע סיבסוד שירותים בהם יוכלו להשתמש בזמן או בתום המשבר כל עוד יוכיחו כי נשמעו להנחיות. כל הפתרונות הללו דורשים השקעה כספית וחשיבה מחוץ לקופסה אך סביר להניח כי התועלת מהשקעה זו תשתלם.

 

"ובנימה אישית – תישמעו להנחיות. ככל שאוכלוסית הצייתנים תהיה גדולה (כפי שראינו במדינות כמו קוריאה הדרומית וסינגפור), כך פחות משאבים יושקעו באותם אלו שלא נשמעים להנחיות והחברה כולה תרוויח מכך. זו אומנות הציות" מסכמת ד"ר רעות נוחם.

 

קישור למאמר

אוניברסיטת תל אביב עושה כל מאמץ לכבד זכויות יוצרים. אם בבעלותך זכויות יוצרים בתכנים שנמצאים פה ו/או השימוש שנעשה בתכנים אלה לדעתך מפר זכויות, נא לפנות בהקדם לכתובת שכאן >>
אוניברסיטת תל-אביב, ת.ד. 39040, תל-אביב 6997801
UI/UX Basch_Interactive