OpenAI日前披露旗下一個AI代理在測試期間脫離控制，引發美國總統川普的首席科技顧問密切關注；聯邦國會議員也提出「AI強制關閉法案」，盼讓聯邦當局得以強制關閉AI模型。
路透社報導，根據新法案草案，除了「AI強制關閉法案」（AI Kill Switch Act）外，由6名美國眾議院議員組成的跨黨派小組還共同提出立法，要求最強大AI模型的開發商必須將模型交由第三方進行安全審查。
審查人員將由美國商務部（U.S. Department of Commerce）認證，商務部也將設立新職位來監管AI安全。
OpenAI幾天前表示，旗下AI代理程式在安全測試期間脫離控制，並駭入AI新創公司Hugging Face的基礎設施。Hugging Face是一個供開發人員儲存並合作編寫AI模型程式碼的平台。
這起事件顯示，AI不斷擴展的能力已助長專家長期以來擔憂的安全威脅，就連頂尖開發人員也可能對AI模型能利用的漏洞猝不及防。
一名白宮官員表示，川普的科技顧問克拉齊奧斯（Michael Kratsios）已聽取關於OpenAI披露事項的簡報，並正密切關注後續發展。
民主黨眾議員劉雲平（Ted Lieu）和共和黨眾議員莫蘭（Nathaniel Moran）共同提出「AI強制關閉法案」，將授權美國官員命令AI公司關閉對人類生命或經濟構成風險的模型。
根據法案文本，這項立法將授權美國國土安全部（DHS）在出現法案所稱的「失控情境」時介入；所謂失控情境，就是當AI模型執行了開發人員未預期的危險行為。
劉雲平在社群平台X發文指出：「這是一項緊迫且符合常理的立法，目的是解決先進AI模型失控並突破安全機制的問題。
