Cloudflare、Workers AIのGLM 5.3の設定不一致により、リクエスト間でKVキャッシュのページが露出したと発表

Cloudflareは10月26日、Workers AI上のGLM 5.3（@cf/zai-org/glm-5.3）の設定不一致によって推論エンジンSGLangにバグが発生し、リクエスト間でKVキャッシュのページが露出したとして、情報開示と修正に関する報告を公開した。この開示は、SGLangの投稿と連携して行われた。

Cloudflareによると、この問題は8月27日のモデル公開から9月9日まで発生し、681,280トークンを超えるプロンプトへの155件の応答に、他の顧客が以前に送信したリクエストのデータが含まれていた。同社は意図的な悪用の証拠は見つかっておらず、影響を受けたWorkers AIのモデルはほかにないとしている。

• 原因（Cloudflareの説明）。 GLM 5.3は1,048,576トークンのコンテキストウィンドウでデプロイされていたが、prefill用GPU上のKVキャッシュプールが保持できるのは681,280トークンまでだった。SGLangのprefill/decode分離モードでは、長さの上限を超えたプロンプトがエラーで拒否されず、decodeノードが以前のリクエストのデータを保持したままのキャッシュページを読み込んでいた。Cloudflareは、公開前からサイズの不一致を把握していたものの、テストではHTTPステータスコードと速度だけを確認し、出力内容をチェックしていなかったという。
• 対応。 Knosticのセキュリティ研究者Gadi Evronが、9月8日にHackerOneを通じて報告した。Cloudflareは翌朝に問題を再現し、インシデントを宣言してから40分以内にモデルをオフラインにした。同日、より大きなキャッシュプール（約2.04 millionトークン）とパッチ適用済みのエンジンで復旧した。
• SGLangの運用者向け。 Cloudflareは、分離デプロイメントでSGLang v0.5.22以降を実行し、すべてのノードでKVプールのサイズがコンテキスト長に見合っているか確認するよう推奨している。