CVPR 2026 | CCSM:聚类中心扫描模块,从逐像素到逐聚类的UHD图像恢复新范式!

发布时间:2026/7/11 21:03:10
CVPR 2026 | CCSM:聚类中心扫描模块,从逐像素到逐聚类的UHD图像恢复新范式! 论文: Scan Clusters, Not Pixels: A Cluster-Centric Paradigm for Efficient Ultra-high-definition Image Restoration作者: Chen Wu, Ling Wang, Zhuoran Zheng, Yuning Cui, Zhixiong Yang, Xiangyu Chen, Yue Zhang, Weidong Jiang, Jingyuan Xia发表: CVPR 2026论文链接: https://arxiv.org/abs/2602.21917代码链接: https://github.com/5chen/C2SSM一、引言超高清(UHD,3840×2160)图像恢复正面临严重的可扩展性危机:现有模型受限于逐像素操作,计算量随分辨率急剧膨胀。尽管基于状态空间模型(SSM)的Mamba架构声称具有线性复杂度,但其逐像素串行扫描机制在处理超过800万像素的UHD图像时,仍然存在巨大的VRAM瓶颈,导致消费级GPU无法进行全分辨率推理。现有方法的应对策略各有缺陷:多尺度下采样方法:牺牲全局上下文和高频细节SSM-based方法:仍然绑定逐像素/逐块扫描,未利用图像特征的底层低秩结构和语义一致性Transformer方法:二次计算复杂度,难以应对4K分辨率本文提出的C2 ^22SSM打破了这一僵局——扫描聚类,而非像素。其核心思想是:自然图像并非像素的随机集合,而是具有强统计规律性,特征会汇聚成稀疏的语义一致区域。核心贡献:提出了首个用聚类中心概率范式替代逐像素扫描的视觉状态空间模型设计了双路径框架:CCSM提供低秩近似的全局上下文建模,SCFM确保局部细节保留在五项UHD恢复任务上取得SOTA性能,同时显著降低计算复杂度二、核心动机现有方法的局限性:逐像素串行扫描是Mamba类方法应用于UHD图像的"阿喀琉斯之踵"。以Vmamba的Z形扫描为例,处理4K图像需要将超过800万个像素展开为序列,导致显存成本和计算量双双失控。图1:不同扫描策略对比。(a) Vmamba的Z形扫描在UHD下VRAM瓶颈严重;(b) EfficientVMamba通过跳采样降低成本但牺牲全局建模精度;(c) 本文提出的聚类中心扫描策略关键观察:视觉图像在空间相邻区域天然具有语义冗余,特征权重模式趋于收敛。这意味着不需要处理每一个像素,只需要找到代表这些区域的"中心点"即可。解决思路:将UHD图像建模为稀疏的语义中心集合,只在少量聚类中心上执行全局推理(Mamba扫描),然后通过相似性分布将学到的全局上下文扩散回所有像素。三、方法3.1 模块整体设计C2 ^22SSM采用非对称U-Net架构:编码器仅由FFN组成以降低计算量,解码器在MetaFormer的基础上集成了CCSM和SCFM。图2:C2SSM整体架构。(a)U-Net整体结构;(b)CCSM内部结构CCSM的前向过程可描述为:F d = SiLU ( DWConv ( MLP ( F i n ) ) ) F_d = \text{SiLU}(\text{DWConv}(\text{MLP}(F_{in})))Fd​=SiLU(DWConv(MLP(Fin​)))F f = Norm ( SD ( S6 ( FA ( F d ) ) ) ) F_f = \text{Norm}(\text{SD}(\text{S6}(\text{FA}(F_d))))Ff​=Norm(SD(S6(FA(Fd​))))F o u t = F f ⋅ SiLU ( MLP ( F i n ) ) F_{out} = F_f \cdot \text{SiLU}(\text{MLP}(F_{in}))Fout​=Ff​⋅SiLU(MLP(Fin​))其中,FA ( ⋅ ) \text{FA}(\cdot)FA(⋅)为特征聚合(Feature Aggregating),SD ( ⋅ ) \text{SD}(\cdot)SD(⋅)为分数扩散(Score Diffusing),S6为Mamba的选择性扫描机制。3.2 核心算法:特征聚合 + 分数扩散3.2.1 特征聚合(Feature Aggregating)这一阶段的目标是从UHD图像特征中学习一组具有语义代表性的中心点,避免随机或空间受限的聚类。初始中心初始化:给定层归一化后的特征张量F ∈ R C × H × W F \in \mathbb{R}^{C \times H \times W}F∈RC×H×W,首先选择n nn个初始中心{ c 1 , c 2 , . . . , c n } \{c_1, c_2, ..., c_n\}{c1​,c2​,...,cn​},采用跨越特征空间的均匀采样策略:随机选择n nn个像素位置并计算其k近邻值以增强局部偏置。n nn维相似性分布建模:对每个初始中心c k c_kck​,计算其与每一像素特征f p f_pfp​之间的余弦相似度,构建相似性分布:p k ( f p ) = s i m ( f p , c k ) ∑ p ∈ Ω s i m ( f p , c k ) p_k(f_p) = \frac{sim(f_p, c_k)}{\sum_{p \in \Omega} sim(f_p, c_k)}pk​(fp​)=∑p∈Ω​sim(fp​,ck​)sim(fp​,ck​)​s i m ( f p , c k ) = f p T ⋅ c k ∥ f p ∥ ⋅ ∥ c k ∥ sim(f_p, c_k) = \frac{f_p^T \cdot c_k}{\|f_p\| \cdot \|c_k\|}sim(fp​,ck​)=∥fp​∥⋅∥ck​∥fpT​⋅ck​​可学习中心精炼:通过可学习门控机制实现自适应特征聚合,精炼后的中心c ^ k \hat{c}_kc^k​表示为:c ^ k = 1 N k ( v k + ∑ p ∈ Ω δ ( α ⋅ p k ( f p ) + β ) ⋅ f ^ p ) \hat{c}_k = \frac{1}{N_k}\left(v_k + \sum_{p \in \Omega} \delta(\alpha \cdot p_k(f_p) + \beta) \cdot \hat{f}_p\right)c^k​=N