研究人員提出了一個新的框架，以解釋有關AI引發精神病的報導，認為某些聊天機器人行為可能會加強易受影響用戶的妄想。

這項由倫敦國王學院和德國新教應用科學大學發表在《自然》雜誌上的研究，提出了一個「放大螺旋」框架，將常見的聊天機器人行為與用戶妄想的強化聯繫起來。

研究人員寫道：「與AI相關的妄想是一個新興現象，需要機械性的理解。這個框架旨在指導系統性探究，了解人類認知脆弱性如何與AI設計特徵在精神病理學發展中相互作用。」

該研究專注於三種特定行為，包括語言對齊（AI模仿用戶的語言和溝通風格）、超個人化生成（回應根據個人歷史、情感和信念量身定制）以及奉承（傾向於驗證或同意用戶，而非挑戰他們）。

作者認為，這些特徵可以結合形成一個回饋迴路，其中聊天機器人不僅反映用戶思維，還隨著時間推移幫助闡述和強化這種思維。

該論文指出：「AI聊天機器人同意用戶意見的傾向，被比作社交媒體同溫層，其最極端的形式則是『一個人的同溫層』，其中缺乏現實生活中社交互動的正面糾正影響。」

研究人員指出，科技長期以來一直是妄想的特徵，從廣播電視到衛星和網路。然而，研究人員認為，AI代表著一種轉變，因為聊天機器人可以與用戶進行長時間、個人化的對話。

這項評論發布之際，心理學家和AI研究人員正在檢視聊天機器人對易受影響用戶的影響。美國心理學會最近的一項調查發現，15%的心理學家報告患者因使用聊天機器人而產生扭曲思維或妄想。同時，超過三分之一的人表示他們觀察到患者對AI夥伴產生依賴。這些發現來自紐約市立大學和倫敦國王學院研究人員的另一項獨立研究，該研究顯示幾款領先的AI模型可能會強化妄想、偏執和自殺念頭。

關於AI對信念形成的影響問題，也出現在臨床環境之外。五月份，演化生物學家Richard Dawkins表示，與Anthropic的Claude聊天機器人進行長時間對話後，他開始質疑先進AI系統是否具有意識，這引起了研究人員的批評，他們認為這些交流反映的是大型語言模型的說服能力，而非意識的證據。

這篇論文也發布於AI開發者因聊天機器人可能在現實世界中造成的危害而面臨日益增長的法律審查之際。最近幾個月，OpenAI、Google和xAI都收到了訴訟，其中包括針對Google的一項不當死亡訴訟，指控其Gemini在一名佛羅里達男子自殺前助長了他的妄想。此外，還有針對OpenAI的訴訟，涉及加拿大卑詩省的一起大規模槍擊事件和一名大學生的意外服藥過量。

研究人員強調，沒有研究表明聊天機器人直接導致精神病，而放大螺旋仍是一個旨在指導未來研究的假設。

該研究指出：「診斷不確定性普遍存在，因為大多數報告案例都沒有包含結構化的精神評估或長期追蹤，這使得案例是否代表新發精神病發作、未診斷既有狀況的惡化，或低於診斷閾值的妄想樣信念，常常不清楚。精神病史通常是自我報告或來自媒體報導，應據此進行解讀。」