
教宗良十四世週一發布了他的首份通諭,這是一份長達245段的文獻,完全專注於人工智慧,呼籲對大型科技公司進行更嚴格的監督,將數據歸類為人類共享資源,並主張「科技從來都不是中立的」,因為它吸收了建造者的價值觀、盲點和經濟誘因。
這份名為《崇高人性》(Magnifica Humanitas)的文件於5月25日在梵蒂岡的世界主教會議廳發布。教宗良十四世在10天前,即5月15日簽署了這份文件,這一天是教宗良十三世於1891年發布的《新事》(Rerum Novarum)通諭的135週年,該通諭關於勞工權利,成為現代天主教社會訓導的基礎。
教宗良十四世一直將人工智慧視為其教宗任期內最根本的道德挑戰,並將其帶來的社會變革與工業革命相提並論。
該通諭涵蓋了廣泛的議題:戰爭中的人工智慧、非人化、技術官僚、數據殖民主義、線上兒童安全、大規模失業、假訊息、自主武器,甚至超人類主義。但將這些議題連結起來的核心論點很簡單:每個演算法都反映了設計、資助和部署它的人的優先順序。建立假裝沒有偏見的系統並不能消除偏見,它只是將偏見隱藏起來。
數據屬於每個人。也包括你的。
天主教社會訓導長期以來認為,地球的自然資源是為全人類所準備的,而非私人所有。良十四世將這一原則直接延伸到數位經濟。通諭主張,演算法、平台和數據必須作為公共財進行管理,而不是被少數公司鎖在商業壁壘之後。
教宗寫道:「數據是許多貢獻者的產物,不應被視為可以出售或託付給少數人。」
這份文件還將「輔助性原則」(subsidiarity,即決策應在盡可能最低層級進行的原則)具體應用於科技平台。該通諭不只呼籲由上而下的監管;它反而提倡透明演算法、獨立的社群審計,以及人民擁有真正的法律權力來挑戰影響其信用評分、求職申請或刑事風險評估的自動化系統。良十四世認為,如果缺乏這種分散式的監督,人工智慧的治理將演變成一種數位威權主義,使它聲稱服務的人民保持沉默。
該通諭也針對超人類主義——一種認為人類的限制和脆弱性是應透過工程技術消除的缺陷——進行了批判。良十四世的回應是,有限性並非缺陷。正是它使同理心、道德判斷和對他人的真誠關懷成為可能。旨在將其「優化」掉的系統並不會產生一個更優良的人類。它們只會產生一個更有效率地評估和排除弱勢群體的東西。
教宗謹慎地避免將科技擬人化。通諭中寫道,人工智慧系統「不具備身體,不會感受喜悅或痛苦」。通諭指出,人工智慧系統缺乏產生真正理解所需的生活經驗。它們可以模擬同理心並產生有說服力的語言,但它們並不理解自己輸出的內容。
這種區別在實踐中很重要。當演算法做出招聘決定、設定信用條款或在法庭上分配風險評分時,其表面上的客觀性掩蓋了設計者內建的選擇。該通諭特別警告不要將敏感決策委託給「不懂得同情、慈悲、寬恕」的自動化系統,也不要僅僅因為機器產生了結果就將其視為中立。
Anthropic在現場
週一與良十四世同台的人物與文件本身一樣引人注目。Anthropic共同創辦人兼其可解釋性研究團隊負責人克里斯多福·歐拉,與兩位梵蒂岡樞機主教和兩位神學家一同在世界主教會議廳的發表會上發言。
正如《Decrypt》在良十四世當選時報導的那樣,教宗從他對樞機主教們的首次演講開始,就將人工智慧定調為其教宗任期內的中心道德問題。週一發布的這份通諭是這項承諾的正式教義版本。
歐拉藉此機會公開表示了大多數人工智慧主管所迴避的觀點:每個主要實驗室都「在一系列誘因和限制下運作,這些誘因和限制有時可能與做正確的事情相衝突」,並且來自政府、宗教機構和公民社會的外部監督並非可有可無。他還指出,人工智慧導致的勞動力取代是一項近期風險,如果大規模發生,將產生「具有歷史意義的道德迫切問題」。
良十四世已經寫下了該論點更嚴厲的版本。該通諭指出,「一個更道德的人工智慧是不夠的」,如果其背後的道德觀完全由控制數據和計算能力的人決定。良十四世在2025年11月直接向在梵蒂岡的矽谷高管們提出了同樣的觀點。梵蒂岡還於5月16日批准成立一個新的內部人工智慧委員會,由七個部門組成,以協調聖座未來的人工智慧治理工作。