Cloudflare 表示，Workers AI 上 GLM 5.3 的設定不匹配，導致 KV 快取頁面跨請求外洩

Cloudflare 於 10 月 26 日發布事件揭露與修復說明，表示 Workers AI 上 GLM 5.3（@cf/zai-org/glm-5.3）的設定不匹配，觸發推論引擎 SGLang 的錯誤，導致 KV 快取頁面跨請求外洩。這份揭露與 SGLang 的一篇貼文同步發布。

Cloudflare 表示，問題從該模型於 8 月 27 日推出後持續到 9 月 9 日；在長度超過 681,280 個 token 的提示詞所產生的 155 個回應中，包含了其他客戶先前請求的資料。該公司表示，沒有發現遭到蓄意利用的證據，也沒有其他 Workers AI 模型受到影響。

• 原因（依 Cloudflare 說法）。 GLM 5.3 部署時的上下文視窗為 1,048,576 個 token，但其 prefill GPU 上的 KV 快取池只能容納 681,280 個 token。在 SGLang 的分離式 prefill/decode 模式中，超出長度限制的提示詞不會被拒絕並回傳錯誤；decode 節點會讀取仍存有先前請求資料的快取頁面。Cloudflare 表示，該公司在模型推出前就知道容量不匹配，但測試只檢查 HTTP 狀態碼和速度，沒有檢查輸出內容。
• 應對措施。 Knostic 的安全研究員 Gadi Evron 於 9 月 8 日透過 HackerOne 通報此問題。Cloudflare 隔天早上重現問題，在宣布發生事件後 40 分鐘內將模型下線，並於當天以更大的快取池（約 204 萬個 token）和修補後的引擎恢復服務。
• 給 SGLang 維運者的建議。 Cloudflare 建議使用 SGLang v0.5.22 或更新版本執行分離式部署，並在每個節點檢查 KV 池大小是否符合上下文長度。