ניו-טק מגזין | נובמבר 2024

מפת הסכנות של הבינה המלאכותית

באדיבות מכון דוידסון לחינוך מדעי, הזרוע החינוכית של מכון ויצמן למדע. »

) והאנתרופולוגית ליסה Crockett קרוקט ( ) מארצות הברית מאמר דעה Messeri מסרי ( , שבו מיפו את Nature משותף בכתב העת הכשלים הללו. במאמרן בחנו השתיים את החזון שהציגו מדענים אחרים בקשר לעשייה המחקרית הנתמכת בבינה מלאכותית, כדי להעריך איך עשויה להיראות העבודה המדעית בעתיד הלא רחוק. הן תיארו תמונה של עתיד שבו התפקידים הקלאסיים של המדען יעברו באופן מוחלט לידיהן של בינות מלאכותיות. הבינה המלאכותית תעבד ספרות מדעית ענפה, ותציג את שאלות המחקר המעניינות ביותר. במקום לאסוף נתונים מהטבע או מהאדם, נוכל לייצר נתונים מלאכותיים באמצעות הדמיות שתיצור הבינה המלאכותית. המסקנות שנסיק מהנתונים יתבססו כולן על הערכות של בינה מלאכותית. והדובדבן שבקצפת – הבינה המלאכותית תבדוק ותבקר מאמרים חדשים שמוצעים לפרסום. ״התגובה המיידית שלי לתחזיות האלה הייתה "הם התחלקו על השכל?" הודתה . Ars Technica קרוקט בריאיון למגזין הרשת "אבל הרי לא בחרנו את המאמרים סתם כך מתוך גחמה. אלה הדברים שאומרים

בכירי המדענים הבכירים על עתיד הבינה המלאכותית".

אין ספק שפריצות הדרך הטכנולוגיות החדשות ישנו את פני המחקר המדעי. מאמר חדש מצביע על שלושה כשלים שחשוב להיזהר מהם חודש יוני השנה חגג הסרט ב "המטריקס" חצי יובל לצאתו לאקרנים. כבר בתחילת הסרט מגלה גיבורו, ניאו, שהעולם שבו הוא חי נשלט בידי מכונות בעלות בינה מלאכותית, שמרדו ביוצריהן ושעבדו את המין האנושי. כשהסרט יצא לראשונה הצופים נהרו בהמוניהם לאולמות הקולנוע, כפי שעשו בשלל סרטים אחרים על בינות מלאכותיות שיצאו משליטה. אך כיום, ככל שהבינה המלאכותית מעמיקה את חדירתה לחיינו, מתחדדת ההבנה כי הסכנות הכרוכות בשימוש בבינה מלאכותית עשויות להיות דרמטיות פחות וחמקמקות הרבה יותר. דוגמה לסכנות הללו אפשר לראות בתחום המחקר המדעי. בדומה לתחומים רבים אחרים בכלכלה ובחברה, השימוש בכלי הבינה המלאכותית במחקר המדעי הולך וגובר. במענה להתפתחויות המהירות בתחום פרסמו לאחרונה הפסיכולוגית מולי

תועלת עם נזק בצידה היתרונות שמציעה הבינה המלאכותית למחקר המדעי ברורים: ביניהם חיסכון אדיר בכסף ובשעות עבודה, ופתיחת שער לרעיונות חדשים שאינם מוגבלים לצורת החשיבה של המוח האנושי. עם זאת, קרוקט ומסרי טוענות שלתועלת הזאת נלווה תג מחיר לא פשוט: פגיעה בעצם ההבנה שלנו את המציאות. המאמר מבוסס על מחקרים שבחנו את מידת האמון של חוקרים בכלי בינה מלאכותית. בהתבסס עליהם הגדירו הכותבות שלושה סוגים של אשליות שמדענים נוטים ללכת שבי אחריהן בעבודתם עם כלים כאלו. הסוג הראשון הוא האשליה שאנו יכולים להסביר את הממצאים שהתקבלו. כלי הבינה המלאכותית מבוססים על חישובים מסובכים ועל מציאת קשרים לא מובנים מאליהם בין פרמטרים. חוקרים שמשתמשים בכלים אלו הם אומנם מומחים בתחום המחקר שלהם, אך זה לא אומר שהם בהכרח מומחים גם לאלגוריתם עצמו – אוסף כללי קבלות ההחלטות של תוכנת הבינה המלאכותית.

New-Tech Magazine l 32