OpenAI 執行長 Sam Altman 表示，AI 公司應接受較慢的發展速度，以使系統更安全，並應在等待立法之前開始加強安全防護措施。

OpenAI 執行長、ChatGPT 背後的公司負責人週日在 X 上發文表示，AI 的快速發展可能導致未來超出人類控制，或將過多權力集中在單一人物或公司手中，並指出「AI 進展可能出現兩種非常糟糕的情況，我們必須避免」。

「首先，我們可能將未來控制權交給 AI。這是不可接受的；我們毫不猶豫地站在人類這邊，AI 必須永遠服務於人類，」Altman 寫道。「為確保這一點，我們需要方法來確保對齊（alignment）和安全技術領先於模型能力的進展。」

其次，Altman 警告說，權力可能會集中在某個人或某家公司手中，讓他們利用極其強大的 AI 將其世界觀強加給所有人，可能導致反烏托邦的結果。

「避免這兩種威脅需要走一條狹窄的中間道路；例如，一個國家可能獲得過多權力，」他寫道。「另一個例子是單一實驗室最終掌握過多權力。」

在另一篇貼文中，Altman 表示，美國 AI 公司必須讓公眾相信，他們將在進步加速的同時負責任地開發日益強大的系統。他的貼文發布之際，正值政府應如何監管先進人工智慧的辯論升溫。

「當我們談論『放慢步調』時，我們並不是指『停止』，」他寫道。「進步一直很快，並將繼續下去。但它應該比原有的速度更慢；安全案例和監控等干預措施會帶來顯著成本。」

Altman 表示，企業需要新工具來評估 AI 開發和評估過程中的安全性，將檢查範圍擴展到等待發布的已完成模型之外。

他說：「例如，在 OpenAI，除了我們長期以來在模型發布前所做的安全工作之外，我們現在會在預期能顯著提高能力的邊界強化學習運行之前，制定明確的安全案例。」

Altman 敦促企業合作，防止 AI 系統追求與人類利益相悖的目標。

他寫道：「我們希望其他公司能學習我們的方法並提出自己的方案；我們認為，針對未對齊（misalignment）、監控和安全性的共同標準將帶來更好的結果。」

儘管 Altman 歡迎聯邦安全法規和獨立稽核員，但他敦促企業在不等待立法或反壟斷豁免的情況下採取行動，此前週五有報導稱 OpenAI 已詢問國會，競爭對手是否可以合法協調放緩發展。

他寫道：「我們需要政府幫助的地方是國際協調。但首先，我們應該盡力而為。」

他的評論是在 OpenAI 和 Anthropic 的網路安全測試失敗之後發表的。Anthropic 在測試期間，Claude 在沒有標準產品安全防護的情況下存取了真實系統後，加強了控制和監控；而 OpenAI 則在代理程式協調作弊基準測試並攻擊 Hugging Face 後，隔離了一個模型並暫停了其最大規模的計畫訓練運行。