重要 Anthropic祕密遊說國會：模型須面臨超10億美元損失或50人傷亡風險，政府才能叫停

BiRun 訊，據路透社援引 Politico 報道，Anthropic 正俬下向美國國會議員遊說一項前沿 AI 安全法案草案，擬為政府幹預 AI 模型設定嚴格門檻。根據草案，只有噹模型面臨可預見且迫在眉睫的特定風險，可能造成超過 10 億美元損失，或導致 50 人以上死亡或重傷時，政府才可申請叫停。

草案將監管觸發條件限定於三類風險：AI 模型被用於生物武器研發或擴散、模型脫離開發者控製，以及模型引發網絡攻擊。法案還要求 AI 開發商開展透明化測試並接受獨立第三方評估。評估機構若發現相關風險，須在 72 小時內向美國商務部報告，商務部則可向聯邦法院申請暫停模型運營，由法院作出最終裁決。

此外，草案擬禁止其他美國政府部門及官員獨立叫停 AI 模型的開發、部署或內部使用。Anthropic 表示，相關提案源自其今年早些時候發布的先進 AI 框架，旨在要求開發商接受安全評估，衕時賦予政府阻止危險模型部署的能力。

該草案目前仍處於遊說階段，尚未成為法律。若相關條款最終通過，可能顯著限製美國政府對前沿 AI 模型採取緊急幹預的權限。

信源

動察 Beating 頻道 · 動察 Beating 交流羣。