ClusterMark: Robust Watermarking for Autoregressive Image Generators with Visual Token Clustering

将 KGW 水印适配自回归图像生成器：VQ-VAE 码本 k-means 聚类 + 对抗训练 Token/Cluster 分类器（CVPR 2026）

Overview

ClusterMark 首次将 KGW(Kirchenbauer et al.)水印范式从大语言模型(LLM)适配到自回归图像生成器(Autoregressive Image Generators)，解决了自回归视觉生成中"软token"（连续分布 logits）而非离散 token 带来的水印嵌入困难。核心方案包括：VQ-VAE 码本 k-means 聚类(k=64)划分簇级绿/红列表，以及在 Token 级和 Cluster 级训练对抗分类器进行鲁棒提取。

核心技术原理

自回归视觉生成的水印挑战

• 自回归生成器输出的是连续 logits（软 token），而非离散 token
• 传统的 KGW 绿/红列表划分无法直接应用于软 logits
• 需要重新设计适合视觉自回归模型的嵌入与提取方案

VQ-VAE 码本聚类 (Visual Token Clustering)

1. 码本聚类：对 VQ-VAE 的离散码本向量做 k-means 聚类（k=64）
2. 簇级红/绿划分：将每个聚类标记为红(Red)或绿(Green)列表
3. 生成时偏向采样绿簇中的 token，嵌入水印

对抗训练分类器

• Token 分类器：直接预测单个 token 的红/绿属性
• Cluster 分类器：通过聚类中心匹配预测该 token 所属簇
• 联合训练提高对各种攻击的鲁棒性

Key results

• JPEG 压缩：TPR 0.893（基线 0.821）
• 高斯噪声：TPR 0.895（基线 0.055）
• 图像质量：FID 仅增加 +0.11
• 首个将 KGW 范式成功迁移到自回归图像生成器的工作

Related

• diffusion-in-generation-wm — 内生水印总览
• tree-ring-watermarks — 扩散模型环形水印
• img-wm-diffusion — 扩散模型水印综述

Sources

• CVPR 2026 — ClusterMark: Robust Watermarking for Autoregressive Image Generators with Visual Token Clustering