האפיפיור בקפלת הזכוכית
המאמר תורגם באמצעות בינה מלאכותית, והתרגום טרם עבר עריכה ידנית שלי.
.jpg "Pope Leo XIV greeting the crowd from St Peter’s balcony, 8 May 2025 — Edgar Beltrán / The Pillar, CC BY-SA 4.0 (https://creativecommons.org/licenses/by-sa/4.0/); Commons crop.")
האיגרת החדשה של האפיפיור לאו שבה ומזהירה מפני ריכוז הכוח בתחום הבינה המלאכותית: מספר מצומצם של מוסדות עלול לקבוע את הכללים, לעצב את מה שאנשים רואים ולקבל החלטות הרות גורל באמצעות מערכות שאין לאנשים מבחוץ אפשרות לבחון.
זו ביקורת יוצאת דופן כשהיא באה מפיו של ראש הכנסייה הקתולית.
הכנסייה ריכוזית מאוד, וראשה נבחר בהליך שהוא במכוון אחד מהליכי הבחירה העמומים ביותר בחיים הציבוריים. הקרדינלים נכנסים לקונקלווה סגורה, דנים בחשאי, מצביעים בפתקים חשאיים ואינם מגלים כמעט דבר מלבד התוצאה.
יכולות להיות לכך סיבות טובות. החשאיות יכולה להגן על הבוחרים מפני לחץ חיצוני. סמכות מרכזית יכולה לשמור על לכידות מוסדית. גם לחברות הבינה המלאכותית יש סיבות להסתיר חלקים ממערכותיהן ולקבוע כללים באופן ריכוזי. אותם קריטריונים צריכים להכריע מתי הסיבות האלה מספיקות.
העיקרון של הכרעה ברמה המקומית משנה את אופן פעולתה של הסמכות המרכזית, ואינו מבטל אותה. רומא קובעת מסגרת, והרשויות המקומיות מיישמות אותה בדרגות שונות של שיקול דעת. גם הפיקוח על הבינה המלאכותית יכול לפעול באותה מתכונת.
סמכותה של הכנסייה הקתולית גם אינה נעצרת בפתח הכנסייה. הכנסייה תובעת לעצמה את הזכות להורות בענייני פוליטיקה, כלכלה, מלחמה, חינוך וטכנולוגיה. מגניפיקה הומניטס עצמה היא ניסיון לעצב החלטות בכל התחומים האלה.
ההשוואה מתחדדת כשהכנסייה חוששת שאנשים ייתנו אמון רב מדי במערכות מלאכותיות. כל מערכת בינה מלאכותית מרכזית מזהירה את משתמשיה שהיא עלולה לטעות. הקתוליות מחזיקה בדוקטרינה שלפיה האפיפיור יכול, בתנאים מוגדרים, להורות בלא אפשרות לטעות.
גם חלק ניכר מתוכניתו המעשית של לאו לבינה מלאכותית דומה למה שכבר הציעו מוסדות חילוניים: פיקוח אנושי, שקיפות, הגבלות על נשק אוטונומי וחשד כלפי ריכוז כוח טכנולוגי.
הנצרות נעשית ייחודית כשהיא משנה את התשובה: כאשר צלם אלוהים, התגשמות האל בבשר, המצפון או מעמדם המיוחד של בני האדם נותנים סיבה לדחות דבר מה שהאתיקה החילונית הרגילה של הבינה המלאכותית הייתה עשויה לקבל.
עד אז, נותרת השאלה המתבקשת אם הכנסייה מוכנה להחיל על עצמה את עקרונותיה בדבר סמכות ריכוזית ועמומה.
מי שמטיף בקפלה של זכוכית צבעונית, מוטב שלא יזרוק אבנים.