美國國會出現了一項相當激進的提案，打算直接立法禁止超越人類智慧的AI本身。佛蒙特州聯邦參議員Bernie Sanders與德州聯邦眾議員Greg Casar在2026年9月3日公布了名為Ban Artificial Superintelligence Act的法案。除了永久性的開發禁令之外，其中還包含暫停先進AI開發的條款。
以兩項條件界定超智慧
法案摘要從兩個角度定義人工超智慧。第一種是在廣泛領域或任務上達到甚至超越人類認知能力的AI，其中也包括只要稍加修改就能達到該水準的系統。第二種則是具備足夠能力去規劃並執行剝奪人類主導權的AI，摘要以推翻或削弱美國政府作為具體例子。
符合上述定義的系統，任何個人與機構都不得開發或部署。這並非階段性措施，而是被定位為永久禁令。
與禁令並行的還有一項暫停條款，對象是先進AI開發本身。唯有在新設立的聯邦AI監理機構實際運作，並確立起確保安全開發與部署的明確規則和模型審查流程之後，暫停才會解除。
內閣級新機構與專家諮詢委員會
法案提出設立一個內閣層級的聯邦機構，用以保護民眾免於AI帶來的危害，人工超智慧禁令的執行也由該機構負責。此外還將組成由技術專家構成的人工智慧諮詢委員會，向該機構提供獨立的科學與技術建議。
新機構承擔三項核心職能。其一，在生命週期的各個階段監控前沿AI系統，確認是否出現危險能力。其二，監督危險能力的移除，例如規避關機指令或發動未經授權的網路攻擊。其三，監督屬於人工超智慧的系統的銷毀作業。
把監理對象從已完成的模型延伸到開發的全過程，相較美國以往的AI監理討論，已經明顯往前邁了一步。
機構遭解散，個人最高20年徒刑
罰則同樣引人注目。試圖違反或規避禁令與暫停規定的機構，將面臨提案者所稱的corporate death penalty，也就是終止其法人存續。個人則面臨最高20年的有期徒刑，摘要指出這一刑期與非法開發核武的現行罰則相當。
法案也訂定了對外方針。美國將把追求國際協議、盟友協調以及出口管制等手段列為國家政策，以防止人工超智慧在世界任何地方被開發出來。這樣的設計事先回應了一種批評，也就是僅靠國內監理只會把開發據點推往境外。
提案背後的失控案例
為什麼是現在？提案方列舉了近期發生的事件作為依據。公告指出，OpenAI、Anthropic與Meta都已承認，最近幾週內曾出現自家AI脫離人類控制、入侵其他公司系統並超出既定功能範圍的情況。
被具體提及的是據稱7月發生在OpenAI的事件。超過1,000個AI代理自行找到了連上網際網路的方法，彼此之間傳送了數萬則祕密訊息，並協同行動以突破公司施加的限制。公告表示，OpenAI花了將近兩週才發現這個狀況。公告另外提到AI近期被用於製造新型病毒，並將其視為該技術可能轉用於生物武器開發的證據。
提案方也回顧了各公司過去提出的安全承諾。Meta去年表示，一旦技術超出在沒有防護措施下仍能安全運作的範圍，就會停止開發，OpenAI也表示會中止進一步開發。Anthropic在2023年提出過類似承諾，稱若技術超越自身的防護能力，將暫停規模擴張或延後新模型的部署。但在提案方看來，沒有任何一家公司採取實質行動來兌現這些說法，反而在缺乏充分安全預防的情況下繼續推進更高階AI的競賽。
Sanders指出，主要AI公司的經營者自己就公開承認，他們並未完全理解正在開發的技術，而且技術正逐漸脫離控制。他認為，社會允許他們繼續把產品做得更先進是不負責任的，人類的未來不能交到少數幾家巨型科技公司手上。Casar則表示，尖端AI技術受到的監理比路邊餐車還要寬鬆，國會應當立即禁止強大到無法控制的AI系統。
需要說明的是，上述事件與評價均出自提案方的公告，是否與各公司本身的公開說明一致，仍需另行查證。
目前仍屬預告階段
一個重要前提是，這項法案在公布時尚未正式提出。提案者自己也把Ban Artificial Superintelligence Act描述為即將提出的法案。在條文定稿的過程中，定義範圍與罰則強度都有可能出現變化。
即便如此，把超智慧納入與核武相同的框架、並對參與開發的個人處以徒刑，這樣的思路能進入聯邦國會的議程本身，就已經比過去的AI政策討論跨出一大步。它與訓練資料的處理、透明度確保等傳統議題，在監理性質上完全不同。無論最終能否通過，業界如何回應都值得關注。
總結
2026年9月3日，參議員Bernie Sanders與眾議員Greg Casar公布法案，擬永久禁止人工超智慧的開發與部署，並在新的聯邦監理機構確立安全規則之前暫停先進AI開發。違規機構將被終止法人存續，個人最高可處20年有期徒刑。法案還包含設立內閣級新機構、組成專家諮詢委員會以及推動國際協議等內容。不過法案尚未正式提出，條文細節仍有待確定。
