news 2026/3/24 22:36:35

即插即用系列(代码实践)| AAAI 2025 TBSN:基于Transformer的盲点网络——自监督去噪新SOTA,彻底解决注意力机制信息泄露难题

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
即插即用系列(代码实践)| AAAI 2025 TBSN:基于Transformer的盲点网络——自监督去噪新SOTA,彻底解决注意力机制信息泄露难题

论文题目:Rethinking Transformer-Based Blind-Spot Network for Self-Supervised Image Denoising

中文题目:重新思考用于自监督图像去噪的基于Transformer的盲点网络
论文出处:arXiv 2025 (最新自监督去噪研究)
应用任务:自监督图像去噪 (Self-Supervised Image Denoising, SSID)、盲点网络 (BSN)
核心模块:Dilated G-CSA (扩张分组通道注意力), Dilated M-WSA (扩张掩码窗口注意力)

摘要
本文提取自2025年最新论文《Rethinking Transformer-Based Blind-Spot Network for Self-Supervised Image Denoising》。针对自监督去噪任务中,主流的盲点网络(Blind-Spot Network, BSN)长期被 CNN 统治,而强大的 Transformer 因Attention 机制容易泄露中心像素(Blind-Spot)信息而无法应用的痛点,复现了其核心组件——TBSN(Transformer-based BSN)。该模块通过重新设计通道注意力和空间注意力,在保留 Transformer 强大建模能力的同时,严格遵守盲点约束,是无参考图像去噪领域的重大突破。


目录

    • 第一部分:模块原理与实战分析
      • 1. 论文背景与解决的痛点
      • 2. 核心模块原理揭秘
      • 3. 架构图解
      • 4. 适用场景与魔改建议
    • 第二部分:核心完整代码
    • 第三部分:结果验证与总结

第一部分:模块原理与实战分析

1. 论文背景与解决的痛点

在没有干净参考图(Ground Truth)的情况下进行图像去噪(即自监督去噪),通常采用盲点网络(BSN)。它的核心逻辑是:利用周围的像素预测中心像素,因为噪声通常是独立的,而图像信号是相关的。

然而,现有的 BSN 几乎全是用 CNN(特别是扩张卷积)做的,因为卷积很容易设计成“不看中心点”。Transformer 虽然在图像复原(如 Restormer)中效果拔群,但想用在 BSN 里却有两个致命缺陷:

  1. 通道注意力的泄露:在多尺度架构中,下采样操作会将空间信息混入通道维度,导致计算通道注意力时“偷看”到了中心像素。
  2. 空间注意力的泄露:标准的 Self-Attention 计算全局或窗口相关性时,Query 会不可避免地和自身的 Key/Value 交互,直接破坏了盲点假设。

痛点总结:我们需要一种既有 Transformer 的长距离建模能力,又能像扩张卷积一样严格屏蔽中心像素的注意力机制。

2. 核心模块原理揭秘

为了解决“既要 Transformer 强,又要 BSN 盲”的矛盾,TBSN 提出了两个核心魔改模块。我已将其封装为即插即用的 PyTorch 类:

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/3/13 8:05:25

【计算机毕业设计案例】基于Python+Mysql+django的房屋信息可视化及价格预测系统基于django的城市房产价值的数据分析与预测系统的设计与实现(程序+文档+讲解+定制)

java毕业设计-基于springboot的(源码LW部署文档全bao远程调试代码讲解等) 博主介绍:✌️码农一枚 ,专注于大学生项目实战开发、讲解和毕业🚢文撰写修改等。全栈领域优质创作者,博客之星、掘金/华为云/阿里云/InfoQ等平台优质作者、…

作者头像 李华
网站建设 2026/3/14 11:43:51

利用DeepSeek辅助DuckDB SQL求解Advent of Code 2025第10题 电子工厂

前期嫌SQL处理麻烦和性能不足,用python做过一个, 最近看到clickhouse微信公众号文章用纯 SQL 硬刚 Advent of Code?ClickHouse 把「不可能」变成了 12 天的现实。 看到了希望,所以用DuckDB SQL重新做过。 第一部分格式转换代码如…

作者头像 李华
网站建设 2026/3/24 4:24:36

【课程设计/毕业设计】基于python房价预测系统的设计与实现机器学习的房子价值预测系统的设计与实现【附源码、数据库、万字文档】

java毕业设计-基于springboot的(源码LW部署文档全bao远程调试代码讲解等) 博主介绍:✌️码农一枚 ,专注于大学生项目实战开发、讲解和毕业🚢文撰写修改等。全栈领域优质创作者,博客之星、掘金/华为云/阿里云/InfoQ等平台优质作者、…

作者头像 李华
网站建设 2026/3/21 11:26:30

SpringBoot + RabbitMQ + 事务状态机 实现电商订单超时自动关单

在电商系统中,订单超时未支付自动取消是核心场景之一 —— 用户创建订单后若长时间未付款,需释放库存、解冻优惠券,避免资源占用。传统定时轮询(如 Quartz)存在资源消耗大、实时性差、并发能力弱等问题,而基…

作者头像 李华
网站建设 2026/3/16 15:49:42

SSM283的列车火车高铁票务信息管理系统

目录SSM283列车票务信息管理系统摘要开发技术源码文档获取/同行可拿货,招校园代理 :文章底部获取博主联系方式!SSM283列车票务信息管理系统摘要 SSM283列车票务信息管理系统是基于SSM(SpringSpring MVCMyBatis)框架开发的智能化铁…

作者头像 李华