מי צריך לקבל את ההחלטה?
המאמר תורגם באמצעות בינה מלאכותית, והתרגום טרם עבר עריכה ידנית שלי.
פיקוח אנושי נעשה אחד מעקרונות היסוד של האתיקה של הבינה המלאכותית. האיחוד האירופי מחייב אותו במערכות בסיכון גבוה. אונסק״ו מתעקש שבינה מלאכותית אינה יכולה להחליף את האחריות האנושית הסופית. הוועד הבין־לאומי של הצלב האדום מבקש לשמר את שיקול הדעת האנושי בהחלטות על שימוש בכוח קטלני. האפיפיור לאו מרחיק לכת: אסור להפקיד בידי מערכות מלאכותיות החלטות קטלניות או בלתי הפיכות אחרות.
אבל מדוע להניח ששילובו של אדם בהחלטה משפר אותה?
שיקול הדעת האנושי כבר מופקד במידה רבה בידי אחרים. אנשים מסתמכים על מומחים ועל מערכות שבנו אנשים אחרים. חברות ביטוח מקבלות זה שנים החלטות הרות גורל באמצעות אלגוריתמים גסים למדי. בינה מלאכותית בעלת יכולת מספקת עשויה דווקא להתחשב בפרטי המקרה יותר מאשר המערכת שהיא מחליפה.
גם להיקף יש חשיבות. אדם אינו יכול לשקול ברצינות אלפי החלטות. כשהכמות גדלה מספיק, ״פיקוח אנושי״ עלול להסתכם בקבלת המלצה ובאישורה. האדם עדיין נוכח, אבל שיקול הדעת כבר עבר למעשה למקום אחר.
השאלה היא מי עושה זאת טוב יותר. האם המערכת מבחינה בעובדות הרלוונטיות ובנסיבות החריגות? באיזו תדירות היא טועה, ובאילו טעויות? האם אפשר לערער על מסקנותיה כשמשהו השתבש?
אחריות אינה מחייבת לבצע אישית את מהלך החשיבה. אם אבקש מבינה מלאכותית לכתוב דבר מה ואפרסם אותו בשמי, אהיה אחראי לפרסומו בין שקראתי אותו בקפידה ובין שלא. גם מוסד יכול להישאר אחראי לבחירה במערכת החלטות אוטומטית ולהפעלתה.
ייתכן שעדיין יהיו פעולות שחייבות להישאר אנושיות גם כאשר הבינה המלאכותית תיטיב להפעיל את שיקול הדעת הנדרש להן. הריגה היא הדוגמה הברורה. אבל לשם כך דרוש טיעון חזק יותר: משהו בטבע הפעולה או באדם כמי שפועל מתוך הכרעה מוסרית, שמקנה להשתתפות האנושית חשיבות בפני עצמה.
הבינה המלאכותית מקשה על השאלה הזאת משום שהנחת יסוד ישנה הולכת ונעלמת. בעבר, אוטומציה פירושה היה כללים נוקשים, ואילו בני האדם סיפקו את ההקשר ואת שיקול הדעת. יותר ויותר, ייתכן שדווקא בזה המכונה תהיה טובה יותר.