Cloudflare AI用戶隔離失效:GPU緩存不夠竟照常回答,155條回復洩露其他客戶內容
BiRun 訊,Cloudflare 披露一起 AI 數據洩露事故。旂下 Workers AI 平台的 GLM-5.3 模型出現用戶隔離漏洞,導致 155 條回答混入其他客戶此前提交的內容。也就是說,你發給 AI 的信息,可能直接出現在陌生人的回答裡。
問題出在 GPU 緩存管理。Cloudflare 給模型開放了約 105 萬 Token 的上下文窗口,但負責處理輸入的 GPU 緩存只能容納約 68 萬 Token。超長請求本該直接報錯,底層推理引擎 SGLang 卻錯誤地繼續執行,讓模型讀到了其他用戶殘留的緩存。受影響的 155 條回復,全部來自超過緩存容量的超長請求。
Cloudflare 承認,上綫前就知道緩存容量不足,但測試時只檢査接口是否正常返回,沒有覈對回答內容,因而漏掉了數據串號問題。
雙方排査時還發現另一類緩存漏洞。用戶中途取消請求後,系統可能提前把緩存分配給別人,但原來的數據還沒傳輸完,隨後又覆蓋了新用戶的內容。SGLang 團隊用兩塊 H200 GPU 復現:AI 原本正常從 1 數數,數到 80 後,突然開始輸出另一個請求的提示詞。這類錯誤甚至不會留下異常日誌。
Cloudflare 已於 9 月 9 日脩復實際洩露事故,確認其他 Workers AI 模型未受該問題影響,也未發現噁意利用的証據。SGLang 則陸續脩復了相關緩存管理缺陷,建議相關部署昇級至 v0.5.22 或更新版本。
信源
動察 Beating 頻道 · 動察 Beating 交流羣。
問題出在 GPU 緩存管理。Cloudflare 給模型開放了約 105 萬 Token 的上下文窗口,但負責處理輸入的 GPU 緩存只能容納約 68 萬 Token。超長請求本該直接報錯,底層推理引擎 SGLang 卻錯誤地繼續執行,讓模型讀到了其他用戶殘留的緩存。受影響的 155 條回復,全部來自超過緩存容量的超長請求。
Cloudflare 承認,上綫前就知道緩存容量不足,但測試時只檢査接口是否正常返回,沒有覈對回答內容,因而漏掉了數據串號問題。
雙方排査時還發現另一類緩存漏洞。用戶中途取消請求後,系統可能提前把緩存分配給別人,但原來的數據還沒傳輸完,隨後又覆蓋了新用戶的內容。SGLang 團隊用兩塊 H200 GPU 復現:AI 原本正常從 1 數數,數到 80 後,突然開始輸出另一個請求的提示詞。這類錯誤甚至不會留下異常日誌。
Cloudflare 已於 9 月 9 日脩復實際洩露事故,確認其他 Workers AI 模型未受該問題影響,也未發現噁意利用的証據。SGLang 則陸續脩復了相關緩存管理缺陷,建議相關部署昇級至 v0.5.22 或更新版本。
信源
動察 Beating 頻道 · 動察 Beating 交流羣。
評論
0/500
登彔 後參與討論
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊