Vitalik:對抗性治理機製或可用於AI安全關鍵在限製模型串謀
據吳說區塊鏈發布,Vitalik Buterin 表示,對抗性治理機製設計理論的一個重要應用可能是 AI 安全。兩者面臨相似的問題:能力較弱的主體需要從一組能力更強的代理中獲得理想結果;在傳統治理中,主體是靜態的、固定的,而在 AI 語境下,主體是動態的模型,模型之間可能會串謀,因此關鍵在於通過機製設計限製模型串謀,使較弱的一方也能從更強的代理羣體中獲得預期結果。
評論
0/500
登彔 後參與討論
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊