پاپ لئو چهاردهم روز دوشنبه اولین دایرةالمعارف خود را منتشر کرد، سندی ۲۴۵ پاراگرافی که به طور کامل به هوش مصنوعی اختصاص یافته و خواستار نظارت دقیقتر بر غولهای فناوری، طبقهبندی دادهها به عنوان یک منبع انسانی مشترک، و استدلال میکند که "فناوری هرگز خنثی نیست" زیرا ارزشها، نقاط کور و انگیزههای اقتصادی سازنده خود را جذب میکند.
این سند، Magnifica Humanitas ("انسانیت باشکوه")، در تاریخ ۲۵ می در تالار سینود واتیکان منتشر شد. پاپ لئو آن را ۱۰ روز قبل، در ۱۵ می، یعنی در صد و سی و پنجمین سالگرد Rerum Novarum — دایرةالمعارف ۱۸۹۱ پاپ لئو سیزدهم در مورد حقوق کار که به بنیان آموزش اجتماعی کاتولیک مدرن تبدیل شد — امضا کرده بود.
پاپ لئو به طور مداوم هوش مصنوعی را به عنوان چالش اخلاقی تعیینکننده پاپنشینی خود معرفی کرده و تحول اجتماعی پیش رو را با انقلاب صنعتی مقایسه کرده است.
این دایرةالمعارف طیف وسیعی از موضوعات را پوشش میدهد: هوش مصنوعی در جنگ، غیرانسانیسازی، فنسالاری، استعمار داده، امنیت آنلاین کودکان، بیکاری گسترده، اطلاعات نادرست، سلاحهای خودمختار، و حتی ترابشریت. اما استدلالی که همه اینها را به هم مرتبط میکند، ساده است. هر الگوریتم، اولویتهای افرادی را که آن را طراحی، تأمین مالی و به کار گرفتهاند، منعکس میکند. ساخت سیستمهایی که غیر از این وانمود میکنند، آن سوگیری را از بین نمیبرد – فقط آن را پنهان میکند.
داده متعلق به همه است. از جمله شما.
آموزههای اجتماعی کاتولیک مدتها است که معتقدند منابع طبیعی زمین برای تمام بشریت در نظر گرفته شدهاند، نه مالکان خصوصی. لئو این اصل را مستقیماً به اقتصاد دیجیتال گسترش میدهد. این دایرةالمعارف استدلال میکند که الگوریتمها، پلتفرمها و دادهها باید به عنوان کالاهای عمومی اداره شوند، نه اینکه توسط تعداد کمی از شرکتها در پشت دیوارهای تجاری قفل شوند.
پاپ مینویسد: "داده محصول مشارکتکنندگان متعدد است و نباید به عنوان چیزی برای فروش یا سپردن به تعداد محدودی از افراد تلقی شود."
این متن همچنین اصل یارانگی — اصلی که میگوید تصمیمات باید در محلیترین سطح ممکن گرفته شوند — را به طور خاص در مورد پلتفرمهای فناوری اعمال میکند. این دایرةالمعارف فقط خواستار مقررات از بالا به پایین نیست؛ بلکه به جای آن از الگوریتمهای شفاف، حسابرسیهای مستقل جامعهمحور، و اختیار قانونی واقعی برای مردم برای به چالش کشیدن سیستمهای خودکار که بر نمرات اعتباری، درخواستهای شغلی، یا ارزیابیهای خطر جنایی آنها تأثیر میگذارند، حمایت میکند. لئو استدلال میکند که بدون آن نظارت توزیعشده، حکمرانی هوش مصنوعی به شکلی از اقتدارگرایی دیجیتال تبدیل میشود که جمعیتهایی را که ادعا میکند به آنها خدمت میکند، ساکت میکند.
این دایرةالمعارف همچنین ترابشریت را هدف قرار میدهد — این ایده که محدودیت و آسیبپذیری انسان نقصهایی هستند که باید از بین بروند. پاسخ لئو این است که محدودیت ذاتی یک باگ نیست. این همان چیزی است که همدلی، قضاوت اخلاقی و مراقبت واقعی از دیگران را ممکن میسازد. سیستمهایی که برای بهینهسازی آن ساخته شدهاند، انسان بهتری تولید نمیکنند. آنها چیزی تولید میکنند که آسیبپذیران را با کارایی بیشتری ارزیابی و حذف میکند.
پاپ مراقب است که فناوری را انسانانگاری نکند. این دایرةالمعارف میگوید، سیستمهای هوش مصنوعی "جسمی ندارند، درد یا لذت را احساس نمیکنند." این دایرةالمعارف اشاره میکند که سیستمهای هوش مصنوعی فاقد تجربه زیستهای هستند که درک واقعی را تولید میکند. آنها میتوانند همدلی را شبیهسازی کنند و زبان قانعکننده تولید کنند، اما آنچه را که خروجی میدهند، درک نمیکنند.
این تمایز از نظر عملی اهمیت دارد. هنگامی که یک الگوریتم تصمیمات استخدام میگیرد، شرایط اعتبار را تعیین میکند، یا در دادگاه یک امتیاز ریسک را اختصاص میدهد، عینیت ظاهری آن، انتخابهای تعبیه شده توسط طراحانش را پنهان میکند. این دایرةالمعارف به طور خاص در مورد واگذاری تصمیمات حساس به سیستمهای خودکار که "شفقت، رحمت، بخشش را نمیشناسند" و در مورد بیطرف دانستن نتیجه صرفاً به این دلیل که یک ماشین آن را تولید کرده است، هشدار میدهد.
Anthropic حضور داشت
فردی که روز دوشنبه در کنار لئو بر روی صحنه بود، به اندازه خود سند توجه زیادی را به خود جلب کرد. کریستوفر اولا — همبنیانگذار Anthropic و رئیس تیم تحقیقاتی قابلیت تفسیر آن — در ارائه تالار سینود در کنار دو کاردینال واتیکان و دو الهیدان سخنرانی کرد.
همانطور که Decrypt هنگام انتخاب لئو گزارش داد، پاپ هوش مصنوعی را از همان اولین سخنرانی خود در برابر کاردینالها به عنوان سوال اخلاقی اصلی پاپنشینی خود مطرح کرد. دایرةالمعارف روز دوشنبه، نسخه رسمی و دکترینال آن تعهد است.
اولا از این فرصت استفاده کرد تا آنچه را که اکثر مدیران اجرایی هوش مصنوعی از آن اجتناب میکنند، به صراحت بیان کند: اینکه هر آزمایشگاه بزرگی "درون مجموعهای از انگیزهها و محدودیتها فعالیت میکند که گاهی اوقات میتواند با انجام کار درست در تضاد باشد"، و اینکه نظارت بیرونی — از سوی دولتها، نهادهای مذهبی و جامعه مدنی — اختیاری نیست. او همچنین جابجایی نیروی کار ناشی از هوش مصنوعی را به عنوان یک خطر کوتاهمدت برجسته کرد که اگر در مقیاس وسیع محقق شود، "یک الزام اخلاقی با ابعاد تاریخی" ایجاد خواهد کرد.
لئو قبلاً نسخه سختتر این استدلال را نوشته بود. این دایرةالمعارف میگوید: "یک هوش مصنوعی اخلاقیتر کافی نیست"، اگر اخلاق پشت آن صرفاً توسط هر کسی که دادهها و قدرت محاسباتی را کنترل میکند تعیین شود. لئو در نوامبر ۲۰۲۵ نیز همین مورد را مستقیماً برای مدیران اجرایی سیلیکونولی در واتیکان مطرح کرد. واتیکان همچنین در ۱۶ می یک کمیسیون داخلی جدید هوش مصنوعی را تأیید کرد که از هفت دپارتمان تشکیل شده تا کارهای حکمرانی هوش مصنوعی را در سراسر واتیکان در آینده هماهنگ کند.
