New-Tech Magazine | Feb 2024 | Digital Edition

:2024- ב GenAI הטוב, הרע והמכוער SentinelOne ולמידת מכונה ב- AI גרגור סטיוארט, סגן נשיא ל- » בשנה החולפת היינו עדים להתפתחויות מסמרות שיער בזכות הבינה המלאכותית, מדרכים חדשות ליצירת תוכן ועד גילוי אוצרות טבע. מנגד, ראינו גם את פוטנציאל ההרס שהטכנולוגיה הזאת מסוגלת לחולל ובפרט במרחב הווירטואלי, היכן שאנו שוהים יותר ויותר. נדמה שאי אפשר עוד לבטוח במה שאנחנו קוראים, רואים ושומעים. כפרטים וכקהילות, אנחנו נתונים לסוגים חדשים של תקיפות שמוקדם עדיין להבין, ושינויים נוספים כבר מעבר לפינה. אז למה צריך לצפות בשנה הנוכחית?

ודיסאינפורמציה אפשר היום להפוך עובדים ואזרחים תמימים ליריבים. ומה שמדאיג עוד יותר: מסרים מעוררי אימה ברשת עלולים להתפשט במהירות שיא ולהצית אלימות ברמה עולמית. איום מבית המודלים הגנרטיביים עצמם מהווים יעד לתקיפה, והאופי הקריאייטיבי שלהם עשוי להקשות מאוד על הזיהוי. זה מטריד במיוחד נוכח העובדה שאותם מודלים כבר מוטמעים ברבים מהמוצרים הכי חדשניים שיש לנו, ונמצאים בשימוש יומיומי על ידי כמעט כל מי שמחזיק במכשיר המחובר לרשת. גורמים זדוניים שוקדים ממש עכשיו על הרעלת המודלים והמערכות. הם עושים זאת דרך הזרמת דאטה שעלול לייצר פגמים לניצול בהמשך, כאשר הוא משמש לאימון הוא AI אלגוריתמים או לשאילתות. וכמובן,

או שהסודות פשוט יפרצו החוצה מעצמם אפשר ליצור GenAI בעזרת מודלים של תוכן מותאם ומשכנע, מדויק לאותו הרגע. עבור תוקפים פוטנציאליים, זה מכרה זהב לדפוס חדש לגמרי של הנדסה חברתית. במקום לחפש נקודות תורפה במכונות, הם ימצאו אותם במוחות. היכולת של תוקפים עם יכולות מדינתיות לעצב את מה שאנשים צורכים כדי לגרום להם לפעול בדרך לא אופיינית – זו כבר המציאות. עם דיפ-פייק

האקרים לא יפרצו – הם פשוט ייכנסו

הגנרטיבי הלך כברת דרך, והימים של AI ה תחביר מוזר וביטויים מעוררי חשד חלפו עברו. במצב כזה, צורות תקיפה קלאסיות כמו פישינג הופכות מפתות יותר וקשות יותר להבחנה. עובדים ייטו למסור ביתר קלות פרטים והרשאות, כי הקולות יישמעו להם מוכרים והבקשות ייראו בעיניהם אמינות. וכך, בלי לשים לב, הם יפתחו את הדלת לרווחה בפני גורמים זדוניים.

New-Tech Magazine l 26