9 月 30 日消息，當地時間 28 日，據美國 CNBC 報導，代表矽谷選區的民主黨聯邦眾議員羅 · 康納準備提出一項 AI 監管法案，引入嚴格責任標準，並禁止 AI 在缺乏政府安全防護機制的情況下進行遞歸式自我改進。

康納在接受採訪時坦言：“事實上，存在文明滅絕的風險。既有失去控制的安全風險，也有被濫用的風險，兩者都必須認真對待。”

康納將法案命名為《Human Control Over AI Act（人類控制 AI 法案）》。聯邦政府建立防護規則且監管機構批准有關活動前，AI 模型不得遞歸式自我改進，也不得自主修改自身的核心目標、遏制機制或關停控制。

法案還計畫設立一個新的聯邦機構，負責制定 AI 安全監管規定，通過許可制度審批模型訓練和部署，對前沿 AI 模型開展審計，並制定安全標準，確保模型持續接受測試並處於有效的人類控制之下。

每家前沿 AI 實驗室還必須配備獨立審計人員，由審計人員直接向新機構報告。新機構還將制定多項標準，涵蓋沙盒測試環境、讓測試環境與互聯網斷開的物理隔離、緊急關閉開關，以及防止模型脫離實驗室環境後在互聯網上自行運行的控制措施。前沿 AI 實驗室使用的先進晶片也將納入監管，包括建立監測或控制晶片使用的機制。

據IT之家瞭解，法案還將為 AI 出現問題的情形增設法律處罰。部署 AI 模型如果導致平民群體遭到毀滅，將被列為“危害人類罪”並追究刑事責任。

AI 公司員工如果停用防護措施、緊急關閉開關、日誌記錄功能或遏制系統，或者明知某套系統未經授權仍予以部署，同樣將面臨刑事處罰。此外，AI 公司還必須持有覆蓋範圍廣泛的責任保險，才能發佈模型。

康納稱，法案是迄今提出的“最全面的 AI 安全立法”，其設計主要來自他與多家獨立非營利 AI 安全組織的交流，而非大型 AI 公司高管提出的訴求。“我希望這項法案能成為一個範本，讓 AI 安全界擁有發聲管道。我認為，他們一直被不公平地當成只是在談科幻，沒有得到足夠重視…… 應該由 AI 安全界而不是前沿 AI 實驗室的高管來主導這場討論。”

來源：中國IT之家