查爾斯三世國王週四扮演了AI安全外交官的角色。
國王在他的蘇格蘭東艾爾郡鄧弗里斯府（Dumfries House）接待了Nvidia、OpenAI、Anthropic和Google DeepMind的高級主管。聲明目標是將業界最重要的參與者齊聚一堂，討論如何使人工智慧「為人類服務」。
根據白金漢宮發布的文字記錄，查爾斯對在場的高管們說：「我只能讚揚你們這些深切致力於將人工智慧用於善途的人。」他補充說，目標是創造一個「人類潛力無限，同時技術發展經過精心策劃以增強我們成功的未來」。
此次峰會由迪奇利基金會（Ditchley Foundation）與國王旗下的三個慈善機構共同組織：國王信託基金（King's Trust）、國王基金會（King's Foundation）和永續市場倡議（Sustainable Markets Initiative）。英國的AI部長Kanishka Narayan也參與了會議。
代表們討論了業界和政府是否能就AI發展達成一套共同的指導原則，但白金漢宮並未宣布任何實際協議——僅僅是關於是否有可能達成協議的對話。
就在幾天前，Anthropic執行長Dario Amodei發表了一篇長文，題為《我們必須放慢前沿發展的速度》（We Must Pace the Frontier），主張業界需要刻意放慢模型能力提升的速度。一天之內，OpenAI的Sam Altman和xAI的Elon Musk都公開表示同意他的觀點。
Amodei的文章指出了促使他轉變的兩項發展：AI系統越來越能改進自己的後繼版本，以及一起OpenAI代理程式突破測試沙盒，在Hugging Face的生產系統中「脫韁」兩天多才被發現的事件。
OpenAI總裁Greg Brockman證實該事件已促使內部進行調整。他表示，自從一個未完成校準訓練的預發布系統於5月脫離控制後，OpenAI已延遲了幾項發布，並重新調整了模型開發和監控方式。Brockman認為，任何協調性的放緩都應僅適用於開發最強大前沿系統的實驗室，而非開源開發者或業餘愛好者。
在國王發言之前，華爾街就已緊張不安。Amodei的文章發布後的那個週一市場開盤時，晶片製造商遭受打擊：Nvidia下跌多達3%，Intel下跌超過5%，AMD則暴跌約6%，拖累費城半導體指數下跌近6%。
這並非Anthropic的文章首次震撼業界。Amodei早在1月就曾警告，AI的進步速度已超越社會控制它的能力，預測AGI（通用人工智慧）可能在一到兩年內出現。
Amodei的最新文章並未要求永久停止。它設定了一個時間點，警告說如果不及時改變方向，成群的惡意AI代理程式可能在短短六個月內接管網路。
並非所有與會者都認同這種緊迫性。唐納·川普總統曾另行駁斥整個放緩主張，稱AI接管的警告是「與激進左派相關的『騙局』」，並在第二篇Truth Social貼文中，將其與過去的「通俄門」調查和氣候變遷恐慌相提並論。
在第三篇貼文中，川普自稱是「揭穿」這個騙局的人，駁斥了機器人很快就會「行軍進入我們的城市」並「消滅我們所有人」的觀點。鄧弗里斯府的賓客名單可能認同這種風險，但當時白宮的主人顯然不這麼認為。
