OpenAI 已詢問國會議員，競爭對手 AI 公司是否可以合法地同意放緩開發，同時其首席科學家也敦促業界建立共享的安全標準。

根據 WIRED 援引該公司內部人士的說法，OpenAI 近幾週向立法者詢問，AI 公司之間達成放緩開發的協議是否會違反反壟斷法。

在 OpenAI 首席科學家 Jakub Pachocki 呼籲自願放緩開發，直到開發者能更好地證明其系統是安全的之後，OpenAI 隨即向立法者發出此請求。然而，即使研究人員自身有所顧慮，公司仍面臨著不斷推進的壓力。

民主與科技中心（Center for Democracy and Technology）首席技術專家 Miranda Bogen 告訴 Decrypt：「AI 領域的商業和地緣政治競爭異常激烈，導致一種令人擔憂的動態，即公司被鼓勵在充分了解風險之前就發布產品。」

她補充道：「即使內部員工知道需要更多的研究和測試，他們的公司仍面臨巨大的壓力，要求其偷工減料並跳過關鍵的安全測試，儘管有越來越多的證據表明過快推進的後果。」

達成放緩 AI 開發的協議可能會因限制競爭而引發反壟斷擔憂。參議員 Adam Schiff 和 Jim Banks 已提出立法，旨在保護某些安全合作，但需事先知會司法部。

關於放緩 AI 開發的辯論正值美國和中國爭奪該技術領導地位之際。美國總統川普在五月曾推遲了一項 AI 行政命令，因為擔心這可能會削弱美國對中國的領先地位。川普隨後於六月簽署了該命令，為進階模型發布前建立了一個自願審查程序。

比起國家安全擔憂，財務誘因可能更直接地讓達成協議變得困難。

機器智能研究協會（Machine Intelligence Research Institute）傳播主管 Duncan Sabien 告訴 Decrypt：「在當前條件下，每一次進步都會帶來數百萬甚至數十億美元的額外資金，並使這些進步的創造者獲得更大的權力與影響力。」

Sabien 稱這場軍備競賽的動態是真實的，他說 OpenAI 和 Anthropic 面臨著儘管存在不確定風險也要不斷推進的壓力，因為每一個新系統都有助於構建更強大的後繼者，如果其中任何一家公司在沒有共享協議的情況下放慢速度，其競爭對手就會取得領先。

他說：「智能的進步是複合式的，這一點尤其如此；每個新系統都讓訓練和部署下一個更先進的系統變得更容易。」「如果沒有某種協調機制，退一步就意味著讓其他人取得領先。」

八月，OpenAI 因網路安全顧慮，暫停了內部 Astra 項目中缺乏更強大安全措施的工作。然而，OpenAI 和 Anthropic 在二月都放鬆了他們的安全承諾，Anthropic 首席科學家 Jared Kaplan 認為，當競爭對手持續推進時，獨立放緩開發的意義不大。

關於放緩 AI 開發的辯論本週再度升溫，此前前 Anthropic 工程師 Jacob Coxon 公開宣布辭職，理由是他擔心 AI 持續開發對人類構成的風險。

Coxon 在 X 上表示：「建造 AI 的人真心相信，它可能在本世紀末殺死我們所有人。」他說這並不是「行銷噱頭」。

他寫道：「如果說有什麼的話，那就是許多高階主管和資深研究人員在媒體上措辭會顯得合情合理——但我聽到同樣的人私下表達恐懼。沒有其他人類活動會帶來這種程度的危險。」

然而，Sabien 表示，如果有人簡單地取代離開的研究人員，那麼他們離職可能收效甚微。

他說：「如果足夠多的研究人員達成共識，認為他們都應該停止，那麼他們就可以突破協調障礙，一同停止，而不是僅僅被下一個稍微不那麼謹慎的人取代。」