唐納·川普總統週二簽署了一項行政命令，旨在透過先進人工智慧強化美國網路安全，同時擴大聯邦機構與領先人工智慧公司之間的合作。

這項名為「促進進階人工智慧創新與安全」的命令，指示各機構加速使用人工智慧驅動的網路安全工具，建立一個人工智慧網路安全資訊中心，並制定識別進階人工智慧模型的流程。

該行政命令指出：「進階人工智慧能力使我們的國家更強大，但也帶來了新的國家安全考量，需要行政部門與機構（各機構）及組成單位之間採取協調行動。隨著這些能力的演進，我的政府將繼續與業界密切合作，確保最佳和最安全的技術能夠迅速部署，以應對我國面臨的所有威脅。」

該命令還指示各機構建立一個機密審查程序，國家安全局將據此判斷進階人工智慧系統是否符合受管制的尖端模型資格。

開發商將能夠自願向政府提供這些模型進行評估，「為期最長30天，之後他們計劃將這些模型發布給其他值得信賴的合作夥伴。」

今年五月，川普推遲簽署了一項類似的行政命令，稱提案中的部分內容可能會減緩美國人工智慧發展，並削弱美國在與中國競爭中的地位。

川普行政命令的批評者表示，該框架過度依賴其意圖監督的人工智慧公司的自願合作。

消費者權益倡導非營利組織「公共公民」（Public Citizen）的人工智慧治理與技術政策顧問 J.B. Branch 在一份聲明中表示：「足以威脅網路安全和國家安全的模型需要真正的監督。國會和政府應制定全面的聯邦人工智慧立法，包含可執行的保障措施、透明度要求、獨立測試以及對勞工、消費者、兒童和公民權利的有意義保護。」

起草人工智慧相關行政命令的努力，在Anthropic 的 Claude Mythos 模型引發擔憂後獲得了動力。該模型展示了識別軟體漏洞的能力，並引發了官員們對日益強大的人工智慧模型的國家安全影響的質疑。

四月，在Mythos發布後，據報導，美國財政部長斯科特·貝森特（Scott Bessent）和時任聯邦準備理事會主席傑羅姆·鮑威爾（Jerome Powell）與華爾街銀行執行長們召開了一次會議，警告與新人因智慧模型相關的網路安全風險。

儘管存在這些擔憂，Anthropic 仍繼續提供對 Mythos 的有限訪問。週二，Claude 人工智慧開發商表示，正透過「玻璃翅膀計畫」（Project Glasswing）擴大其 Claude Mythos 人工智慧模型的訪問權限。該計畫旨在讓科技和安全公司以及政府在強大模型公開發布之前，發現並解決潛在的漏洞，該公司上週暗示這將「在未來幾週內」進行。

儘管涵蓋範圍廣泛，該行政命令也試圖向人工智慧開發商保證，新框架不會為新模型的發布建立正式的批准程序。該命令發布之際，正值川普試圖建立聯邦層級的人工智慧監管框架，而越來越多的州正在推進自己的立法。

該命令還呼籲加強打擊人工智慧的犯罪用途，包括侵入任何公共或私人資訊技術系統，或「利用人工智慧代理非法存取隨後用於犯罪或非法目的的資料或資訊。」

上個月，聯邦檢察官指控兩名男子利用人工智慧生成並散佈未經女性同意的性露骨圖片，這是「移除它法案」（Take It Down Act）生效後的首批重大執法行動之一。