האתיקה של הבינה המלאכותית – אל תגיד "זה לא קשור אלי"

אתר כיפה, י"ד בסיון התשע"ח, 28 במאי, 2018

תקציר

הבינה המלאכותית איננה רק התקדמות טכנולוגית - היא מהפכה של ממש. אילו שאלות אתיות יכולות להתעורר בעקבות הבינה המלאכותית? מהו הסיכון בשימוש בבינה מלאכותית בלי גדרות אתיים?

הבינה המלאכותית אינה מציאות עתידית. היא ההווה. בכל יום נוספים אין ספור מפגשים בינינו ובין תהליכים שנוצרו על ידי הבינה המלאכותית, וכדרכם של דברים – ההתפתחות הטכנולוגית מקדימה בהרבה את הדיון האתי, ואת כל המשמעויות שנולדות מהאתיקה, למן החינוך ועד הרגולציה, ולמן החקיקה ועד שינוי התודעה והצורך בהסכמה מדעת לחלק כחלק בלתי נפרד מכך.

הבינה המלאכותית אינה עוד עליית מדרגה ביכולת הטכנולוגית, שניתן להתייחס אל קיומה באותם כלים שעשינו זאת עד כה. יש בה הבדלים משמעותיים רבים: ה"למידה" הטכנולוגית נעשית על ידי אין ספור מרכיבים, שאינם שקופים ואינם חשופים בפני האדם, וממילא מדובר בסוג של "קופסה שחורה" הפועלת במרחב האנושי ללא כלי בקרה והנחיה; הבינה המלאכותית עוסקת במצבים בהם יש יותר מתשובה אחת נכונה למציאות הנתונה, וממילא היא "בוחרת" מבין האפשרויות לאור עקומות הלמידה שלה, ולא מתנהלת לאור אלגוריתמים מעוצבים מראש בלבד; ה"למידה" שלי נעשית בעיקר על ידי פרקטיות וניתוח מצבים לאור התועלת שבהם, ועל כן לסוגיות האתיות יש מקום נמוך במערכות שלה, ועוד ועוד.

בשל כך, יש בה פוטנציאל פגיעה עצום לאנושות, ובתוכה למערכות החיים האתיים. האפשרות שהיא תיכנס לסחרור בלתי נשלט בתחום הביטחון, התשתיות וכדו', נולד אמנם בסרטי המדע הבדיוני, אולם נפילות בנקים כבר הראו את האפשרויות האלה; יש בה סיכון עצום לזכויות האדם, אפליה, חוסר שוויון, שליטה על תודעת אנשים; היא מקדמת את איבוד המשמעות של כלים אנושיים, כגון כלים רגשיים ואומנותיים; הפרטיות תהפוך למותג ארכיאולוגי וכדו'. כל זה, בלי יכולת לקבל הסכמה מדעת, ולאפשר את הדעת לקבלת הסכמה זו.

המודעות לסכנות – אף היא כבר חלק מהארכיאולוגיה, שכן הרכבת כבר יצאה מזמן לדרך. מאוחר מאוד, אך לא מאוחר מידי, אנו נדרשים לכונן את העקרונות היסודיים של השימוש בה. כינון זה מחייב שתי הכרעות יסוד. ראשונה בהן היא ההכרעה המוסדית – כאן לא תועיל רק חקיקה, רגולציה או אמנות בינלאומיות, אם כי גם אלו חיוניות, והן מפגרות מאוד אחרי המציאות. זו חייבת להיות מערכה כללית, המעצבת את מערכת החינוך ובעיקר זו האקדמית-טכנולוגית, מעצימה את מקומם של אוצרות הרוח כחלק בלתי נפרד מפיתוח עוצמות המסוגלות להתמודד עם הסכנות ועוד ועוד.

שניה היא ההכרעות המהותיות, בדבר כללי כינונה של הבינה המלאכותית. אחת הדוגמאות לכלל זה היא קביעת התקן המחייב יכולת בקרה אנושית על התהליכים המתרחשים, התביעה מ"הקופסה השחורה" להיות מסוגלת "להסביר" את הכרעותיה, והשקיפות החיונית של כל תהליך שמתרחש בה. דוגמה נוספת היא קביעת המסגרת של הבינה המלאכותית, ברוחו של אסימוב (סופר המדע הבדיוני שניסח את הכללים האתיים של הרובוטים הדמיוניים), אך מעודכנים להיבטים המהפכניים של הבינה המלאכותית.

אל תגידו זה לא קשור אלי. קשה לאדם מן השורה לדעת כמה הכרעות הנוגעות לו כבר מתקבלות בטכנולוגיות השונות של בינה מלאכותית. כשאתם לא מקבלים הלוואה מהבנק, כשאתם מוצפים חדשות מסוג מסוים בלבד הכובש את תודעתכם, כשאתם נחשפים לאין ספור תגובות שליליות לקורות חיים ששלחתם – תאלצו להיזכר בעובדה שלא הייתם חלק מהתביעה לעצב באופן אתי את השימוש בטכנולוגיות אלו.

מאמרים נוספים בנושא

מאמרים

אמצעים טכנולוגיים מיוחדים לאיתור חולי קורונה: מסוכן או הכרחי?

מאמרים

האם ניתן לסמוך על הציבור?

מאמרים

האם הבן של מרב מיכאלי יצטרך גיור? סוגיות הלכתיות באם פונדקאית

לשם שמיים - האתיקה של המחלוקת - ספר הרב יובל שרלו

מאמרים

ספר חדש של הרב שרלו: לשם שמיים – האתיקה של המחלוקת

מאמרים

האם מותר לכתוב ביקורת ספרים שלילית?

מאמרים

בין טראמפ ו"ג'נין ג'נין". על עקרון חופש הדיבור

פיראטים

מאמרים

אתרים פירטיים – לא חוקי ולא אתי

מאמרים

חסימות פעילי הימין ברשת – זהירות מהתהום

עוד בצהר לאתיקה

מאמרים

רב ראשי יבחר ע"י הציבור. הוא אינו ממונה או מונחת

מגילת אסתר

מאמרים

פסק הלכה מיוחד: כיצד לחגוג את פורים בצל המלחמה?

מאמרים

הרב יובל שרלו על מסקנות הוועדה לחקר אסון מירון: "לעולם צריך המקרה הבא לעמוד לנגד עינינו"

מאמרים

להתכלל ולא להיפרד

מאמרים

הרב יובל שרלו על סערת פרס ישראל: רק כך לא ניתן לטרור לנצח