במסגרת הפעילות של המרכז לקשרי תעשייה באוניברסיטת תל אביב, התארח דניאל סיגנביץ', Data Scientist בחברת Transmit Security, בקורס "למידת מכונה אמינה" של ד"ר מחמוד שריף, חבר סגל אקדמי בכיר בבית הספר למדעי המחשב ולבינה מלאכותית ע"ש בלווטניק, בפקולטה למדעים מדויקים.
המפגש עסק באחד האתגרים המרכזיים בפיתוח ובהטמעה של מערכות בינה מלאכותית: היכולת להבין ולהסביר כיצד מודלים של למידת מכונה מקבלים החלטות, וכיצד ניתן לבנות מערכות אמינות, שקופות ובעלות ערך למשתמשים וללקוחות.
במהלך ההרצאה הציג סיגנביץ' את תחום Explainable AI (XAI) מנקודת מבט הנדסית ומעשית, כפי שהוא מיושם במערכות פרודקשן. הוא הסביר מדוע הסברתיות (Model Explainability) היא כלי מרכזי לניפוי שגיאות, לעמידה בדרישות רגולציה ולבניית אמון בקרב משתמשים ולקוחות. בנוסף, סקר את שלוש הגישות המרכזיות הנהוגות כיום בתעשייה: מערכות מבוססות חוקים, מודלים מתמטיים כגון SHAP ושימוש במודלי שפה גדולים (LLMs) ליצירת הסברים.
ההרצאה עסקה גם באתגרים ההנדסיים הכרוכים ביישום פתרונות אלו במערכות אמת, ובהם השפעת זמן התגובה (Latency) ועמידה בהתחייבויות שירות (SLA), לצד המתח שבין הסבר מתמטי מדויק לבין הסבר אנושי ברור ומשכנע. כמו כן, הוצגו דרכים פרקטיות להערכת איכותם של הסברים במערכות הפועלות בסביבת פרודקשן.
לדברי ד"ר מחמוד שריף:
"דניאל הציג לסטודנטים את הדרכים שבהן חברות משתמשות בכלים מתחום ההסברתיות של מודלי למידת מכונה כחלק מהמערכות שלהן, כדי לספק שקיפות למשתמשים וללקוחות. הסטודנטים היו מעורבים מאוד לאורך ההרצאה, שאלו שאלות, ענו על שאלות ושיתפו במחשבותיהם, והתגובות היו חיוביות מאוד. תודה רבה, דניאל!"
המפגש המחיש כיצד הידע הנלמד בכיתה מיושם בפיתוח מערכות בינה מלאכותית המשמשות חברות מובילות, ואפשר לסטודנטים ולסטודנטיות להיחשף לאתגרים ההנדסיים, לשיקולים המקצועיים ולתהליכי קבלת ההחלטות המלווים את פיתוחם של פתרונות AI בעולם האמיתי.
מפגשים מסוג זה הם חלק מפעילותו של המרכז לקשרי תעשייה באוניברסיטת תל אביב, הפועל לחיזוק הקשר בין האקדמיה לבין החברות המובילות במשק. באמצעות שילובם של מומחים.ות מהתעשייה בתהליכי ההוראה, נחשפים הסטודנטים והסטודנטיות לטכנולוגיות עדכניות, לאתגרים אמיתיים וליישומים מעשיים, ומעמיקים את החיבור בין הלמידה האקדמית לבין עולם התעסוקה.
לעדכונים וחדשות נוספים, מוזמנים לעקוב אחרינו בלינקדאין
