美國和中國的安全專家已提議制定規則，禁止人工智慧(AI)自主對核指揮系統發動網路攻擊，或自行決定使用核武器。
布魯金斯學會(Brookings)和上海復旦大學最近一份報告敦促中美兩國將其對核武器的人類控制承諾，擴展到AI的其他軍事用途，包括對核指揮系統的網路攻擊。
研究人員寫道：「透過同意只有人類而非AI，才能決定對彼此的核指揮、控制和通訊系統(NC3)或關鍵基礎設施發動網路攻擊，美國總統川普和中國國家主席習近平可以在管理這些危險方面發揮領導作用。」
NC3系統協助政府偵測威脅、決定是否使用核武器以及傳達發射指令，但任何階段的故障都可能中斷通訊、誤判攻擊、鼓勵先發制人，或引發意外或未經授權的發射。
研究人員寫道：「將適用於核武器的原則——即具有戰略影響的攻擊應表達人類意圖並須負人類責任——延伸開來，並不要求華盛頓和北京共享網路安全或基礎設施保護的其他原則。」
擬議的協議將要求兩國降低因偶然、人為錯誤、不可預測的AI或未經授權的行為者觸發具戰略後果攻擊的風險。
這種對核武式保障措施的呼籲，是圍繞如何減緩AI發展並將日益強大的系統置於人類控制之下的日益激烈辯論的一部分。這種擔憂在軍事領域尤為突出，因為在幾毫秒內做出的自動決策可能將錯誤警報或網路攻擊轉變為核危機。
今年2月，OpenAI、Google和Anthropic的模型在95%的模擬戰爭情境中使用了核武器，儘管專家警告稱該模擬可能鼓勵了升級，這一擔憂由此更加突顯。
同月，Anthropic拒絕了五角大廈要求移除Claude對大規模監控和全自動武器的限制。川普曾命令聯邦機構停止使用該公司的技術，但一名聯邦法官於8月28日裁定，政府對Anthropic進行了非法報復。
此後，要求克制的呼籲已蔓延至整個行業。本月稍早，Anthropic執行長Dario Amodei敦促開發者放慢能力提升的速度，獲得了OpenAI執行長Sam Altman和xAI所有者Elon Musk的支持，而OpenAI則向國會詢問公司是否可以在不違反反壟斷法的情況下協調減速。
在沒有具約束力的減速措施到位的情況下，布魯金斯學會的作者們提出了一項更為狹窄的規則：只有人類才能被允許授權對核指揮系統的攻擊或使用核武器。
他們寫道：「軍事AI的治理不是一場可以等待的談判——而是一場與時間賽跑的競賽。」
