今年第二次，Demis Hassabis 預測通用人工智慧（AGI）將在本世紀結束前出現。然而，這次他表示這將不只是一項技術突破，其重要性將媲美電力或火的發現。

在週二於 X 發表的一篇部落格文章中，Google DeepMind 執行長表示 AGI「可能只剩下短短幾年時間」，並將其描述為一種可以重塑人類文明的技術。

「當我們在未來幾十年回顧這段時期時，我認為我們會意識到我們正站在奇點的腳下——這不亞於人類新時代的黎明。」

Hassabis 認為，AGI，即電腦能夠像人類一樣或甚至更優異地理解、學習和執行廣泛任務的時刻，不應與網路或行動運算等進步相提並論，因為其影響可能更為巨大。

「這更像是電力或火的發現，」他寫道，「如果你仔細思考，我們本質上找到了一種讓沙子思考的方法。這簡直是奇蹟。」

儘管抱持樂觀態度，Hassabis 警告說，人工智慧的能力發展速度快於社會理解和管理風險的能力，他指出當前尖端模型已存在網路安全威脅，並補充說未來的系統可能帶來生物、核子及其他國家安全風險。

他認為，隨著人工智慧變得更具自主性且能夠自我改進，將需要更強大的技術保障來確保人類仍能掌控。

「展望未來，我們將需要健全的保障措施，以維持對日益自主、遞歸式自我改進系統的控制——並解決那些只會隨著時間推移而變得更清晰的未知問題。」

這消息傳出之際，自 2022 年 ChatGPT 公開發布以來，人工智慧領域的領導者們在過去一年中不斷警告 AGI 可能比預期更早到來。2026 年 1 月，Anthropic 執行長 Dario Amodei 表示，人類水準的人工智慧可能在一到五年內出現，並警告政府低估了發展速度。隨後在 6 月，Hassabis 預測 AGI 將在 2030 年前到來，並警告社會「沒有太多時間準備」。

為了應對這些擔憂，Hassabis 提議成立一個美國邊緣人工智慧標準機構（U.S. Frontier AI Standards Body），仿效金融業監管局（FINRA），這是一個監管美國證券經紀公司的私人組織。這個由聯邦監督的公私合作夥伴關係將主要由人工智慧產業資助，並由獨立技術專家和開源代表組成，負責評估尖端人工智慧模型。

「我們在人工智慧領域看到的快速進步，需要一種動態、適應性強且嚴謹的新方法來測試尖端人工智慧模型的能力，」他寫道，「鑑於其經濟和技術地位，美國具備良好條件，可以率先制定這樣的框架。」

這項提案呼應了該產業主要成員為建立先進人工智慧監管所提出的類似呼籲。

2023 年 5 月，在美國參議院司法委員會的一次聽證會上，OpenAI 執行長 Sam Altman 呼籲成立一個聯邦機構來許可強大的人工智慧系統，並要求進行獨立的安全審計。更近期，上個月，美國總統唐納德·川普簽署了一項行政命令，建立了一個自願性的框架，用於在發布前審查先進人工智慧模型。同一個月，Anthropic 執行長 Dario Amodei 警告說，人工智慧正變得過於強大，需要類似於美國聯邦航空管理局（FAA）的安全規則。

儘管推動監管人工智慧發展，Hassabis 表示，在 AGI 到來之前，世界只有有限的時間來建立共同標準。

「未來尚未定稿，我們必須利用 AGI 到來前的寶貴窗口，塑造這項技術以造福全人類，」他寫道，「我們現在共同的行動將決定文明的下一個階段如何發展。透過安全地引導 AGI 進入世界，我們可以開啟一個科學發現和進步的新黃金時代，並迎來人類繁榮的璀璨未來。」