New-Tech Magazine | August 2020 | Digital Edition

העלאת המודעות למחיר הסביבתי של בינה מלאכותית הובילה לכך שחוקרי בינה מלאכותית התחילו לעקוב אחרי צריכת האנרגיה של האלגוריתמים שהם מפתחים. החוקרים משתמשים במחשבון פליטת פחמן דו־חמצני ליישומי לימוד מכונה שבו הם מזינים את משך זמן החישוב, את חומרת המחשב ואת שירות הענן שבהם השתמשו כדי לקבל את פליטת הפחמן הדו־חמצני המשוערת של האלגוריתמים שלהם, והחלו לפרסם אותה במאמרים שלהם. אפשר להקטין את טביעת הרגל הפחמנית בשתי דרכים: תוכנה וחומרה. אפשר לנסות לפתח אלגוריתמים יעילים יותר שיקטינו את מספר החישובים. דוגמה טובה לכך היא שיטה ) Network pruning הנקראת צמצום הרשת ( שבה מוסרים מהרשת כל החלקים שאינם נחוצים להשגת התוצאה הסופית. בשיטה הזאת מתקבלת רשת נוירונים קטנה יותר, מהירה יותר וחסכונית יותר באנרגיה, מבלי לפגוע ביכולות שלה. הגישה השנייה היא פיתוח של רכיבי חומרה חסכוניים יותר באנרגיה. כיום נעשים חישובי הבינה המלאכותית בעיקר על מעבדים גרפיים ). המעבדים האלה לא תוכננו למטרה GPU ( הזאת, אבל הם עושים אותה היטב. אחד הגורמים שהובילו לצמיחה המהירה של רשתות נוירונים הוא הזמינות הרחבה של מעבדים גרפיים. בשנים האחרונות פותחו גם מעבדים ייעודיים לחישובי בינה מלאכותית, של גוגל (בראשי תיבות Tensor כמו מעבדי ). המעבדים האלה יכולים TPU באנגלית: לבצע יותר חישובים בשנייה לעומת מעבדים גרפיים, אבל צורכים את אותה כמות אנרגיה. FPGA מערכות אחרות משתמשות במעבדי שצורכים פחות אנרגיה, אבל גם איטיים יותר. כשמשווים את הביצועים כפונקציה של צריכת , המתחרים במעבדי ASIC האנרגיה, מעבדי , מציגים את היחס הטוב ביותר. FPGA מציג השוואה של הקשר בין מהירות 1 תרשים החישוב וצריכת האנרגיה של מעבדים שונים. הקשר שבין מהירות החישוב לצריכת האנרגיה (טרה־פעולות TOPS / W מבוטא ביחידות של לשנייה לכל ואט; או כמה טריליון חישובים אפשר לבצע לכל יחידת אנרגיה). אולם, כדי 1 שנצליח להגדיל את היעילות האנרגטית מ־ , אנחנו צריכים TOPS / W 10,000־ ל TOPS / W טכנולוגיה חדשה לגמרי. חומרה ירוקה לבינה מלאכותית

:1 תמונה

« In order to process AI calculations directly on IoT sensors, mobile devices or in cars, the energy efficiency of the hardware (visualised using the grey diagonals) must be drastically increased.

גם מכונית ללא נהג. "במכונית ללא נהג קבלת החלטות מהירה היא חיונית ואין זמן לשלוח את הנתונים לחוות שרתים, להמתין לסיום החישוב ואז לקבלת התוצאה. זאת הסיבה שבמכונית מותקן מספר גדול של מעבדים גרפיים שמפענחים את התמונות באופן מקומי", מסביר ורקסט. "במקרה של פענוח אוטומטי של תמונות אנחנו מיליון פעולות 20 מדברים על סדר גודל של כדי לזהות פרט מידע אחד. בחוות שרתים החישובים האלה מתבצעים תוך שבריר שנייה ואט לערך. אם 200 על גבי מעבד גרפי שצורך אפשר להסתפק בפענוח תמונה תוך שנייה ואט. 20 אחת, הרי שמספיק מעבד גרפי שצורך זה עדיין בגבול המעשי במכונית, אבל עבור מכשירים קטנים יותר מדובר בצריכת אנרגיה גבוהה מדי. אם ניקח לדוגמה טלפון נייד עם מיליאמפר־שעה, הרי 4,000 סוללה בקיבולת ואט־שעה. אם נפעיל 14.8 שהיא יכול לספק לנו ואט, הסוללה 20 בעזרתה מעבד גרפי שצורך תתרוקן תוך פחות משלושת רבעי שעה. IoT כשמדובר בחיישנים אלחוטיים במכשירי (האינטרנט של הדברים), על הסוללה להחזיק זמן רב הרבה יותר ולכן השימוש במעבדים האלה אינו מעשי. אין לנו כרגע פתרון לשוק האינטרנט של הדברים", מודה ורקסט. "זאת הסיבה שאנחנו עובדים על פיתוח פתרונות חדשים.

מהענן למכשירי קצה כיום רוב החישובים מתבצעים בחוות שרתים גדולות אבל אפשר לבצע את חישובי הבינה המלאכותית גם במקום אחר. "אפשר להפחית מאוד את צריכת האנרגיה על ידי ביצוע החישובים באופן מקומי", אומר דידריק ), מנהל תכנית Diederik Verkest ורקסט ( . "צריכת האנרגיה של imec למידת המכונה ב־ חוות השרתים בעולם היא עצומה, אבל זה רק חלק מהעניין. צריכת האנרגיה הדרושה להעברת המידע בין מכשירי הקצה לחוות השרתים גדולה לא פחות. אם נוכל לבצע את החישובים במכשירי הקצה עצמם, נוכל לחסוך את האנרגיה הדרושה לשליחתם אל חוות השרתים". פתרון כזה יתכתב נהדר עם מגמת המעבר מהענן למכשירי הקצה, שכבר נמצאת בעיצומה. יותר ויותר מידע נאסף היום על ידי מכשירים שרק הולכים ונעשים קטנים יותר. אם אנחנו רוצים לעבד את המידע הזה ישירות במכשירי הקצה, הצעד הראשון הוא הפחתת צריכת האנרגיה הדרושה לחישובים האלה. עד כמה להפחית? "התשובה לשאלה הזאת תלויה בגודל המכשיר שמבצע את החישובים", מסביר ורקסט. מכשירי קצה מגיעים בגדלים ובצורות שונות. מכשיר קצה יכול להיות חיישן אלחוטי קטן או מכשיר טלפון נייד, אבל

New-Tech Magazine l 42