שלום וברכה
הסוגיה כבדת המשקל של הפעלת הנשק האוטונומי שאתה עוסק בה מחייבת מאמר מסודר, כשכאן מופיעים רק ראשי הפרקים שלו. אני הוגה בכך כבר זמן רב, וגם משתתף בדיונים על הנושא. נקודת המוצא למתודולוגיה של הדיון היא שאין לנו מקורות של ממש לכוון לאתיקה היהודית ולמוסר התורני בנושא זה. זהו נושא חדש לחלוטין, שאין לנו עליו שום מסורת.
אף על פי כן, אנחנו יכולים לנסות לחלץ ממקורות שכלל לא עוסקים בנושא הזה כיוון היונק מהתפישות ההלכתיות הכלליות. כמובן שהדבר יהיו נתונים במחלוקת, כדרכם של דברים, אבל זו הדרך היחידה לברר את הסוגיה.
יש לדיון הזה נקודת מוצא: הציווי על מאבק בשפיכות הדמים בעולם נמצא כבר בתחילת ספר בראשית: ״שופך דם האדם באדם דמו יישפך, כי בצלם אלוהים עשה את האדם״. הוא קיים עוד לפני שעם ישראל נוצר, והוא מכוון לכל באי עולם – מעצם היותם בעלי צלם אלוהים. אנחנו חייבים אפוא לפעול בדרך המצמצמת שפיכות דמים בעולם. במקביל, התורה לא אסרה להילחם, לפגוע ב"בא במחתרת", להציל עשוק מיד עושקו וכדו'. השימוש בכוח ואפילו בשפיכות דמים עשוי להיות מוסרי מאוד בשעה שהוא מכוון למטרות ראויות, ונעשה בדרכים ראויות. הדיון בנשק המופעל על ידי בינה מלאכותית אינו על צדקת המלחמה ומוסריותה, כי אם בשאלה האם ישנן הגבלות על דרכי המלחמה, גם כאשר מדובר במלחמה צודקת. אשמח אם תקרא את המאמר הזה כרקע לדיון: שאלות על מוסר המלחמה.
צריך ראשית להגדיר את תחום הדיון – תחום הדיון הוא הפעלת נשק בכלים של בינה מלאכותית, אשר מקבל את ההחלטות ללא התערבות אנושית. לא זו בלבד, אלא שכאשר אנו עוסקים בבינה מלאכותית פעמים רבות אין האדם מסוגל לעקוב אחרי כל התהליך שהביא את הנשק הפועל בבינה מלאכותית, להנחות אותו מראש, או אפילו לשפוט אותו בדיעבד. על כן, זוהי סוגיה סבוכה מאוד.
על רקע האיסור הכללי של שפיכות דמים והחובה לצמצמו – יסוד ההלכה בנושאים רבים הוא חייך קודמים לחיי חברך, ושלך קודם לשל כל אדם. החובה המוסרית הראשונית היא להגן על עצמנו מפני שפיכות דמים. המילה ״קודם״ מלמדת על כך שישנה חשיבות גם במניעת שפיכות דמים של ״אחרים״, אולם יש סדר לדברים. גם דברי חז״ל, המצוטטים ברש״י בראשית לב, ח – "ויירא ויצר, ויירא שמאז יהרג, ויצר לו אם יהרוג הוא את האחרים" – הם היסוד והבסיס לכל הדיון. ישנה חשיבות עליונה למניעת שפיכות דמים בעולם.
הנשק האוטונומי לכאורה עומד בדרישות המוסר של ״חייך קודמים״, והוא מהווה כלי הגנה על עצמנו ומניעת שפיכות דמים. לכן, לכאורה, יש תמיכה מאוד משמעותית בו.
ברם, מול זה עומדות שתי טענות. ראשונה בהן היא העובדה שמשעה שיותר נשק אוטונומי הוא לא יהיה רק כלי שיגן עלינו, אלא גם כלי שאויבנו ישתמשו בו כדי לפגוע בנו בצורה עוצמתית, ועל כן אפשר שהוא דווקא מסוכן יותר. לאמור: דווקא מכוח החובה לצמצם שפיכות דמים מיותרת בעולם יש צורך באמנה בינלאומית שאף אנו שותפים בה שתאסור את השימוש בנשק הזה, כמובן רק אם יהיה ניתן לאוכפה.
ישנה סכנה גדולה של פגיעה במקומות אסורים, שהם עצמם מהווים שפיכות דמים אסורה, שלא יהיה ניתן לעקוב אחריה, לקבל החלטות ראויות וכדו'. לאמור: לאור הכתוב במאמר שהפניתי בקישורית מקודם יש גם חובות מוסריות בדרכי המלחמה. נשק אוטונומי עלול להביא אותנו למצבים של עשיית פשעים חמורים כתוצאה מחוסר הבקרה וההחלטה העצמאית של הנשק.
מה אפוא נכון לעשות?
בשאלה "נכון" בשלב הראשון לא עוסקים ביכולת לאכוף את הדבר, או להשיג הסכמה בינלאומית רחבה, אלא בראש ובראשונה בשאלה מה רצוי ומה ראוי מבחינה מוסרית:
הדבר הנכון הוא להתקדם לאט לאט, ולראות את הדברים במשמעותם המעשית. זה מחייב ליצור קוד אתי, שעיקרו השפעה גדולה ככל האפשר של שיקול הדעת האנושי בתהליך ה"למידה' וההפעלה של הנשק העצמאי, ולא פחות מכך – הפעלה מוגבלת שתאפשר גם חקר להבנת התהליכים שהביאו להפעלה זו; זה מחייב להפעיל נשק אוטונומי עם יכולות מוגבלות מהצד הטכני של הדברים, וכדו'. זהו חלק מעיקרון "הוו מתונים בדין", ובתהליכי בקרה ובחינה של התוצאות ניתן יהיה להגיע לדרך הראויה בשלב הראשון של הפעלת הנשק הזה, באופן שמחד גיסא יאפשר פחות היפגעות בשדה הקרב, ומאידך גיסא לא ישיג את המטרה הזו במהלכים האסורים על בני אדם לעשותם.
פרקיו של הקוד האתי והמוסרי של הנשק הזה די ברורים: תהליכי הלמידה והבקרה עליהם; היקף האחריות המוטלת על היצרנים ועל המפעילים; ההצדקה להפעלת נשק זה כחלק מהאתיקה של הפעלת הכוח; רמה מצומצמת ומוגבלת של יכולת פעילות; רגלוציה ואכיפה קפדנית.
ואז, לאחר התקופה הראשונה, ניתן יהיה לדון מחדש בתוצאות. האם נראה לך שלפחות העולם המערבי יכול ללכת בדרך זו?
כל טוב ויישר כוח
יובל שרלו
הרב שרלו הוא ראש תחום אתיקה בארגון רבני צהר
לקריאה נוספת:
