New-Tech Magazine | Nov 2019

AI מוסף מיוחד

של מודלים שעברו אימון להסקת מסקנות הפכה להיות אחד האתגרים החשובים ביותר בתהליך המסחור של הבינה המלאכותית. מאחר שהכלים לרשתות עצביות הפכו להיות זמינים יותר לרכישה וקלים יותר לשימוש מאשר בעבר, מומחי התעשייה אומרים שעלות פרישת המודלים להסקת המסקנות מהווה כעת את הגורם הגדול ביותר שתורם לעלות התשתית, במהלך הזמן. ככל שהדבר נוגע לביצועים, זמן אחזור נמוך במיוחד קריטי לשירותים מבוססי קול, שפועלים באופן הדדי עם משתמשי קצה אנושיים, כפי שהסביר זאת לי קאנג וואון . SK Telecom מחברת הצרכנים מצפים לקבל חוויה טבעית וחלקה, שמחייבת הסקת מסקנות קרובה לזמן אמת. טכניקות להשגת המטרה הזו עודן בפיתוח, ככל שיותר ויותר מפעילים מתחילים את המסע לפרישת הבינה המלאכותית. מנגד, כבר עתה ידוע רבות על הכשרת רשתות עצביות. גדולים הפכו להיות GPU לצורך כך, מערכי הפלטפורמה הנבחרת לטיפול באקסה ביטים הרבים של נתונים ובטרה פלופים הרבים של מחשוב, אבל ההכשרה נעשתה באופן לא מקוון וניתן להשלימה במהלך ימים או שבועות. כאשר המדובר בפרישה, היישום חייב לספק את הביצועים המצופים ממנו במסגרת הדרישות המחמירות של זמן אחזור וצריכת הספק. FPGA הראתהשהמאיציםברכיבי Xilinx חברת מספקים את תגובת הממשק בזמן אמת, אשר דרושה לזיהוי קול ופעולה באופן הדדי בשפה טבעית, בצריכת הספק נמוכה יותר בהרבה . מצד GPU מאשר אפשר לקבל בעזרת יחידות שני, על אף שמנוע הסקת מסקנות מבוסס על יכול היה לשלב זמן אחזור נמוך ASIC רכיבי עם צריכת הספק נמוכה, המאיצים ברכיבי מעניקים את הערך המוסף ביתרון של FPGA יכולת הגדרה מחדש כדי לאמץ במהירות את טכנולוגיות לימוד המכונה המתקדמות ביותר, ככל שהם ממשיכים להתפתח. ביסס את המאיץ SK Telecom הצוות בחברת שלו על כרטיסי מאיצים במרכז הנתונים AIX FPGA שכולל רכיבי - Xilinx של KCU 1500 AIX . המאיץ Kintex - של UltraScale KCU 115 כולל מערך נרחב של ליבות עצביות שממומש כדי Kintex של FPGA של רכיבי DSP בפרוסות להפעיל את היישום של זיהוי דיבור אוטומטי . NUGU ) שנמצא בלבו של הכלי ASR ( המערך העצבי והפונקציות המשויכות כוללים מזין עם שקילה, זיכרון מטמון בטנסור ובקר

Xilinx של FPGA UltraScale ברכיבי SK Telecom של NPU יחידות :1 איור « .NUGU של ASR עבור שרתי AIX מפעילים את המאיץ Kintex

- תפוקה לעומת מספר ערוצים בהשוואה SK Telecom תרשים של :2 איור « בלבד. CPU בהשוואה לשרתים עם יחידות FPGA ומאיצים ברכיבי GPU ליחידת

DSP מליבות 95% - הבטיחו שיותר מ Telecom יהיו פעילים בכל מחזור. FPGA של רכיבי ASR אכלסה את שרתי SK Telecom חברת בלבד, הקיימים שלה, עם CPU בעלי יחידות KCU 1500 PCIe Gen 3 כרטיסי מאיצים . התוצאות שקיבלו אנשי הצוות הצביעו x 16 כאשר הפעילו 500% על שיפור בביצועים של ערוצי קול מרובים בו בזמן בהשוואה לחוויה

) שיוצרים יחידת עיבוד עצבי 1 טנסור (איור ) שכוללת באופן יעיל NPU לביצועים גבוהים ( עשרות אלפים מאיצים להסקת מסקנות: בסופו של תהליך היא מספקת עיבוד מקבילי . GPU רב יותר מאשר אפשר לקבל עם יחידת על ידי הפעלה של אופטימיזצית מחשוב ), קוונוט pruning סטטית ודינמית, עם גיזום ( SK (קוונטיזציה) ודיוק דינמי, המהנדסים של

New-Tech Magazine l 64