בינה מלאכותית: האם שימוש צבאי במערכות אוטנומיות מוסרי?

שאלה:

לכבוד הרבנים שלום רב, כעוסק בנושאים ביטחוניים הייתי מעוניין לשמוע את עמדתכם בנושא שימוש צבאי במערכות אוטנומיות, כלומר מערכת אוטומטית המזהה ותוקפת על פי אלגוריתם נתון כאשר לא מעורב אדם בשלב הזיהוי והתקיפה. תודה מראש וסליחה על הפניה האנונימית

תשובה:

שלום וברכה

הסוגיה כבדת המשקל של הפעלת הנשק האוטונומי שאתה עוסק בה מחייבת מאמר מסודר, כשכאן מופיעים רק ראשי הפרקים שלו. אני הוגה בכך כבר זמן רב, וגם משתתף בדיונים על הנושא. נקודת המוצא למתודולוגיה של הדיון היא שאין לנו מקורות של ממש לכוון לאתיקה היהודית ולמוסר התורני בנושא זה. זהו נושא חדש לחלוטין, שאין לנו עליו שום מסורת.

אף על פי כן, אנחנו יכולים לנסות לחלץ ממקורות שכלל לא עוסקים בנושא הזה כיוון היונק מהתפישות ההלכתיות הכלליות. כמובן שהדבר יהיו נתונים במחלוקת, כדרכם של דברים, אבל זו הדרך היחידה לברר את הסוגיה.

יש לדיון הזה נקודת מוצא: הציווי על מאבק בשפיכות הדמים בעולם נמצא כבר בתחילת ספר בראשית: ״שופך דם האדם באדם דמו יישפך, כי בצלם אלוהים עשה את האדם״. הוא קיים עוד לפני שעם ישראל נוצר, והוא מכוון לכל באי עולם – מעצם היותם בעלי צלם אלוהים. אנחנו חייבים אפוא לפעול בדרך המצמצמת שפיכות דמים בעולם. במקביל, התורה לא אסרה להילחם, לפגוע ב"בא במחתרת", להציל עשוק מיד עושקו וכדו'. השימוש בכוח ואפילו בשפיכות דמים עשוי להיות מוסרי מאוד בשעה שהוא מכוון למטרות ראויות, ונעשה בדרכים ראויות. הדיון בנשק המופעל על ידי בינה מלאכותית אינו על צדקת המלחמה ומוסריותה, כי אם בשאלה האם ישנן הגבלות על דרכי המלחמה, גם כאשר מדובר במלחמה צודקת. אשמח אם תקרא את המאמר הזה כרקע לדיון: שאלות על מוסר המלחמה

צריך ראשית להגדיר את תחום הדיון – תחום הדיון הוא הפעלת נשק בכלים של בינה מלאכותית, אשר מקבל את ההחלטות ללא התערבות אנושית. לא זו בלבד, אלא שכאשר אנו עוסקים בבינה מלאכותית פעמים רבות אין האדם מסוגל לעקוב אחרי כל התהליך שהביא את הנשק הפועל בבינה מלאכותית, להנחות אותו מראש, או אפילו לשפוט אותו בדיעבד. על כן, זוהי סוגיה סבוכה מאוד.

על רקע האיסור הכללי של שפיכות דמים והחובה לצמצמו – יסוד ההלכה בנושאים רבים הוא חייך קודמים לחיי חברך, ושלך קודם לשל כל אדם. החובה המוסרית הראשונית היא להגן על עצמנו מפני שפיכות דמים. המילה ״קודם״ מלמדת על כך שישנה חשיבות גם במניעת שפיכות דמים של ״אחרים״, אולם יש סדר לדברים. גם דברי חז״ל, המצוטטים ברש״י בראשית לב, ח – "ויירא ויצר, ויירא שמאז יהרג, ויצר לו אם יהרוג הוא את האחרים" – הם היסוד והבסיס לכל הדיון. ישנה חשיבות עליונה למניעת שפיכות דמים בעולם.

הנשק האוטונומי לכאורה עומד בדרישות המוסר של ״חייך קודמים״, והוא מהווה כלי הגנה על עצמנו ומניעת שפיכות דמים. לכן, לכאורה, יש תמיכה מאוד משמעותית בו.

ברם, מול זה עומדות שתי טענות. ראשונה בהן היא העובדה שמשעה שיותר נשק אוטונומי הוא לא יהיה רק כלי שיגן עלינו, אלא גם כלי שאויבנו ישתמשו בו כדי לפגוע בנו בצורה עוצמתית, ועל כן אפשר שהוא דווקא מסוכן יותר. לאמור: דווקא מכוח החובה לצמצם שפיכות דמים מיותרת בעולם יש צורך באמנה בינלאומית שאף אנו שותפים בה שתאסור את השימוש בנשק הזה, כמובן רק אם יהיה ניתן לאוכפה.

ישנה סכנה גדולה של פגיעה במקומות אסורים, שהם עצמם מהווים שפיכות דמים אסורה, שלא יהיה ניתן לעקוב אחריה, לקבל החלטות ראויות וכדו'. לאמור: לאור הכתוב במאמר שהפניתי בקישורית מקודם יש גם חובות מוסריות בדרכי המלחמה. נשק אוטונומי עלול להביא אותנו למצבים של עשיית פשעים חמורים כתוצאה מחוסר הבקרה וההחלטה העצמאית של הנשק.

מה אפוא נכון לעשות?

בשאלה "נכון" בשלב הראשון לא עוסקים ביכולת לאכוף את הדבר, או להשיג הסכמה בינלאומית רחבה, אלא בראש ובראשונה בשאלה מה רצוי ומה ראוי מבחינה מוסרית:

הדבר הנכון הוא להתקדם לאט לאט, ולראות את הדברים במשמעותם המעשית. זה מחייב ליצור קוד אתי, שעיקרו השפעה גדולה ככל האפשר של שיקול הדעת האנושי בתהליך ה"למידה' וההפעלה של הנשק העצמאי, ולא פחות מכך – הפעלה מוגבלת שתאפשר גם חקר להבנת התהליכים שהביאו להפעלה זו; זה מחייב להפעיל נשק אוטונומי עם יכולות מוגבלות מהצד הטכני של הדברים, וכדו'. זהו חלק מעיקרון "הוו מתונים בדין", ובתהליכי בקרה ובחינה של התוצאות ניתן יהיה להגיע לדרך הראויה בשלב הראשון של הפעלת הנשק הזה, באופן שמחד גיסא יאפשר פחות היפגעות בשדה הקרב, ומאידך גיסא לא ישיג את המטרה הזו במהלכים האסורים על בני אדם לעשותם.

פרקיו של הקוד האתי והמוסרי של הנשק הזה די ברורים: תהליכי הלמידה והבקרה עליהם; היקף האחריות המוטלת על היצרנים ועל המפעילים; ההצדקה להפעלת נשק זה כחלק מהאתיקה של הפעלת הכוח; רמה מצומצמת ומוגבלת של יכולת פעילות; רגלוציה ואכיפה קפדנית.

ואז, לאחר התקופה הראשונה, ניתן יהיה לדון מחדש בתוצאות. האם נראה לך שלפחות העולם המערבי יכול ללכת בדרך זו?

כל טוב ויישר כוח

יובל שרלו
הרב שרלו הוא ראש תחום אתיקה בארגון רבני צהר

לקריאה נוספת:

שאלות נוספות

האם ניתן להפקיד בידי בינה מלאכותית את פסיקת ההלכה?

על מי האחריות? שימוש בדמות של נפטר באישור יורשיו

לדבר בשם אדם שנפטר: האם זה אתי או מניפולטיבי?

כבוד המת בעידן הדיגיטלי: האם מותר לשחזר אדם שאיננו?

האם ניתן להסתמך על בינה מלאכותית לשאלות הלכתיות ואתיות?

עסקת החטופים מבחינה הלכתית

האם מלחמת "חרבות ברזל" הינה מלחמת מצווה?

האם עדיף להציל משריפה מחבל מורשע או את הכלב שלי?

עוד בצהר לאתיקה

סרטונים

לקט וענווה: פרשת אמור כמדריך לחברה מוסרית וצודקת

סרטונים

מחשבות אתיות לל"ג בעומר

מאמרים

פחות מדורות ובלי חומרים מזהמים: הרב שרלו קורא לשמירה על הסביבה בל"ג בעומר

סרטונים

הרב יובל שרלו בראיון לערוץ הכנסת בנושא השבת גופתו של צבי פלדמן ז"ל שנפל בקרב סולטן יעקב

מאמרים

הרב יובל שרלו: אם חיילים יחששו שיופקרו, רוח הלחימה תישבר

סרטונים

איך להכניס אל ל"ג בעומר משמעות חדשה?

סרטונים

בעקבות השבת גופתו של צבי פלדמן ז"ל- זכרונות של הרב שרלו על קרב סולטן יעקב

סרטונים

מוסר וצדק חברתי: המסר החד של פרשת קדושים לישראל 2025

מאמרים

ומעז יצא מתוק" — הבינה המלאכותית בין אתגר להזדמנות

מאמרים

ביולוגיה רוחנית של חיים

מאמרים

הרב יובל שרלו לערוץ 7: מותר "להקים לתחיה" וירטואלית אמן שנפטר?

יש לך שאלה לצוות המקצועי שלנו?