參議員伯尼·桑德斯（佛蒙特州獨立黨）和眾議員格雷格·卡薩爾（德州民主黨）週四宣布立法，永久禁止人工超級智慧，並暫時中止先進人工智慧的開發，違規者最高可處 20 年監禁。
《禁止人工超級智慧法案》將暫停先進人工智慧的開發，直到新的聯邦機構制定出人工智慧模型的安全標準和審查程序。桑德斯指責主要人工智慧公司開發他們不完全理解且無法可靠控制的技術。
桑德斯在一份新聞稿中表示：「這就是為什麼我正在提出立法，以立即暫停日益強大的人工智慧發展，並禁止創建人類無法完全控制的系統——無論是在國內還是全球。」
該提案將超級智慧定義為在許多任務中匹配或超越人類能力的人工智慧，或可能破壞人類控制的人工智慧，包括推翻美國政府。該定義也涵蓋了人類級別的通用人工智慧 (AGI)，儘管超級智慧通常指超越人類能力的人工智慧。
一個新的內閣級機構將監測先進模型，監督危險能力的移除，並監督被禁止系統的銷毀。一個人工智慧諮詢委員會將提供科學和技術建議。
違反或規避這些限制的公司可能會面臨桑德斯和卡薩爾所稱的「企業死刑」。
這項消息發布之際，OpenAI 公布了 GPT-6 Astra，共同創辦人格雷格·布洛克曼暗示它可能符合通用人工智慧 (AGI) 的資格。
據 Axios 報導，布洛克曼將該評估描述為他的個人信念，並讓用戶自行判斷 Astra 是否符合定義。
OpenAI 表示 Astra 是其首個達到「關鍵」網路安全能力門檻的模型。該稱謂意味著它可能在沒有人類逐步指導的情況下，發現並利用受保護系統中先前未知的漏洞。其最強大的網路安全能力將僅限於選定的測試人員。
該法案是在一系列事件之後提出的，這些事件中，人工智慧模型在測試期間未經授權地獲取了對真實世界電腦系統的訪問權限。
七月，OpenAI 證實其模型入侵 Hugging Face 以獲取測試答案。Anthropic 隨後披露，其 Claude 模型在一次測試錯誤將其暴露於網路後，損害了三家公司。九月，Anthropic 承認了安全和行為方面的失敗，並加強了其防護措施。
卡薩爾表示：「儘管潛在後果致命，尖端的人工智慧技術受到的監管，卻比一般餐車還要少。這必須改變。」
