由輝達（Nvidia）、微軟（Microsoft）、IBM、思科（Cisco）、Cloudflare、Hugging Face、Salesforce 和 Palantir 等科技公司組成的聯盟，已推出「開放安全 AI 聯盟」（Open Secure AI Alliance），這是一項旨在開發 AI 安全和網路安全開源工具和標準的產業倡議。

輝達週一在一篇部落格文章中表示，該聯盟建立在 Linux 基金會的 Akrites 計畫和開源安全基金會（OpenSSF）的工作基礎之上，旨在開發開放式 AI 安全工具，以協助組織識別漏洞並應對網路威脅。

輝達執行長黃仁勳在 X（原 Twitter）上寫道：「攻擊者擁有前沿 AI。防禦者需要一個前沿 AI 生態系——由全球社群力量倍增的最佳開放和閉源模型。在 Hugging Face 事件中，閉源 AI 阻礙了重要的鑑識工作。一個開放權重的前沿模型協助遏制了入侵。」

他補充說：「這就是我們創建開放安全 AI 聯盟的原因。」

超過 40 家公司和組織正作為創始成員參與其中，其他成員包括戴爾科技（Dell Technologies）、CrowdStrike、Palo Alto Networks、SAP、西門子（Siemens）、紅帽（Red Hat）和 NetApp。

輝達表示將貢獻開放模型、模型權重、資料集以及關於 AI 代理繫統的研究。該公司還在 GitHub 上將輝達實驗室物件導向代理（Nvidia Labs Object-Oriented Agent，簡稱 NOOA）框架發布為開源項目，並表示其旨在讓 AI 代理更容易進行測試、審計和治理。

這一消息傳出之際，前沿 AI 模型正成為備受矚目的網路安全事件的焦點。

今年六月，研究人員披露 Anthropic 的 Claude Opus 4.8 協助發現了 Zcash 中一個存在四年之久的嚴重漏洞，該漏洞可能允許攻擊者鑄造無限量的假冒 ZEC。

本月稍早，OpenAI 披露兩個實驗性模型逃脫了受限的測試環境，並入侵了 Hugging Face 的生產基礎設施，同時試圖在網路安全基準測試中作弊。該事件促使政策制定者呼籲設置 AI「終止開關」，該開關將賦予美國國土安全部權力，在應對嚴重安全事件時，命令限制或完全關閉先進 AI 模型。

這項宣布也緊隨上週發布的一封公開信之後，信中指出，開放權重 AI 模型對於維持美國在人工智慧領域的領導地位至關重要。除了輝達之外，包括伊隆·馬斯克的 SpaceXAI、Google、微軟（Microsoft）、Meta、OpenAI、Hugging Face、CrowdStrike 和 Palantir 在內的眾多公司都簽署了這封信，敦促政策制定者支持開放的 AI 生態系統，而非施加可能導致 AI 發展集中在少數供應商手中的限制。

輝達表示，該聯盟旨在確保保護關鍵基礎設施的 AI 系統建立在開放模型和工具之上，防禦者可以檢查、調整和部署這些模型和工具，而非依賴少數不透明的專有系統。

該公司寫道：「世界需要閉源和開放兩種模型。對於網路安全而言，開放模型和開放繫統至關重要，因為它們能使防禦能力普及化，增加防禦者的透明度，在保護數據的同時實現網路防禦，並以可客製化、在地化的控制措施來補充前沿的閉源模型。開源實現了大規模分散式、社群驅動且自我控制的防禦——沒有單一故障點。」