ניו-טק מגזין | דצמבר 2025 | המהדורה הדיגיטלית

כשהבינה המלאכותית מגינה בסייבר: ) NeSy אתגר האמון והפתרון הנוירו-סימבולי (

גיא חורש גונין, בינת תקשורת מחשבים »

מזהה מתאם AI . חוסר סיבתיות: 3 ("פעילות זו נראית כמו תוכנת כופר") אך לא יכולה להוכיח קשר סיבתי ("פעולה זו .)" X מפרה את מדיניות בסיקור שלאחר אירוע, רגולטורים דורשים נתיב ברור וליניארי להצדקת הפעולה, דבר שהטבע הסטטיסטי מונע. בינה מלאכותית ) היא הגישה NeSy נוירו-סימבולית ( הארכיטקטונית הראשונה שמצליחה לגשר באופן יעיל על הפער בין עיבוד עצבי (מהיר וסטטיסטי) ועיבוד סימבולי (איטי, מבוסס כללים ולוגי). המסגרת הזו מאפשרת למערכת לא רק לראות דפוסים, אלא גם לחשוב עליהם באמצעות ידע תחומי פורמלי. פועלת בלולאה דו-שלבית: NeSy מערכת . הליבה העצבית (קלט והשערות): רכיב 1 הסטטיסטי מנתח במהירות נתונים AI ה- ) ומסמן השערה Logs לא-מובנים (כמו הסתברותית גרידא (למשל: "זוהה חיבור .)" 95% יוצא חריג, ציון ביטחון . המנוע הסימבולי (אימות והסבר) - 2 ההשערה מועברת למאגר ידע מובנה, המפעיל כללים לוגיים שנגזרו ממדיניות

Symbolic Logic (. NeSy וניתן לביקורת ( היא למעשה היא שכבת האמון החיונית, הממירה תחזיות עמומות להחלטות מוסברות שניתן להבין, לאמת ולציית להן. ,) Deep Learning מודלי למידה עמוקה ( נובעת מיכולת זיהוי הדפוסים הסטטיסטית ) LLMs שלהן. מודלי שפה מתקדמים ( ויורשיהם מסוגלים לנתח מידע מורכב ולא מובנה, החל מיומני פעילות משתמשים ), תעבורת רשת ועד פקודות שהוקלדו Logs ( במערכת. הם מזהים חריגות ושינויים מינוריים המאותתים על הפרה, כניסה או פריצה אפשרית. המהירות שבה הם מזהים איומים ומנתחים התנהגות בזמן אמת היא קריטית, אך טבעם הסטטיסטי יוצר עימות עם עקרונות ציות ואחריות: . אטימות מוחלטת: ההחלטה מפוזרת על 1 פני מיליוני פרמטרים במודל, והיא עמומה מהותית ולא ניתנת למעקב אנושי. . הזיות ואי-דטרמיניזם: המודלים 2 ) ולהמליץ Hallucinate עלולים "להזות" ( על סמך הסתברות סטטיסטית גבוהה, ולא על כללים קשיחים או עובדות – דבר פסול באכיפת מדיניות אבטחה.

באירוע סייבר מתפתח ומהיר, מודלי ) מתקדמים מהווים AI בינה מלאכותית ( את קו ההגנה המרכזי. הם מנתחים נתונים עצומים ומסיקים מסקנות קריטיות תוך שניות, כמו לבודד שרת או תחנה ספציפיים. אך החלטה זו Black מגיעה מ"קופסה שחורה" ( ) סטטיסטית, מה שיוצר בעיית Box ) חמורה. מנהלי Governance ממשל ( אבטחה מתקשים להצדיק בדיעבד החלטה אוטומטית שעלולה לגרום נזק כספי עצום לארגון, שנגרמה מפריצה או מהשבתת מערכות בגלל אזעקת False שווא, המכונה בעגה המקצועית . דרישת ההסבר וההצדקה Positive ) הפכה לאתגר הגדול Explainability ( ביותר באוטומציה של הגנת סייבר. פתרון לדילמה הוא בגישה ה ארכיטקטונית חדשנית: בינה ). מדובר NeSy מלאכותית נוירו-סימבולית ( במערכת היברידית המשלבת את המהירות Neural הסטטיסטית של רשתות עצביות ( ) עם היגיון מבוסס כללים, נוקשה Networks

New-Tech Magazine l 34