1. AD-Census算法背景与核心思想
AD-Census算法最早由中国学者Xing Mei等人在2011年ICCV会议上提出,这篇名为《On Building an Accurate Stereo Matching System on Graphics Hardware》的论文,为立体匹配领域带来了一个高效且效果出色的解决方案。你可能不知道的是,这个算法后来被Intel采用,成为RealSense D400系列深度相机的核心算法之一。
我第一次接触这个算法是在2015年,当时正在做一个三维重建的项目。传统的立体匹配算法要么计算速度太慢,要么匹配精度不够理想。直到尝试了AD-Census,才发现它在速度和精度之间找到了一个很好的平衡点。这也是为什么我特别推荐初学者从这个算法入手学习立体匹配。
AD-Census的核心思想其实很直观 - 它巧妙地将两种经典的匹配代价计算方法结合起来。一种是AD(Absolute Differences)法,也就是计算像素间颜色或亮度差的绝对值;另一种是Census变换,这是一种基于局部窗口的二值描述子。这两种方法各有优缺点:AD计算简单但对光照变化敏感,Census对光照变化鲁棒但计算量稍大。AD-Census的创新之处在于,它通过数学方法将这两种代价归一化后融合,取长补短。
2. AD代价计算的实现细节
AD代价计算看似简单,但在实际编码时还是有不少需要注意的地方。我们先来看最基本的公式:
CAD(p,d) = (|IL(r,c)-IR(r,c-d)| + |IL(g,c)-IR(g,c-d)| + |IL(b,c)-IR(b,c-d)|)/3这个公式的意思是:对于左图的某个像素点,计算它与右图对应点(考虑视差d)在RGB三个通道上的颜色差绝对值,然后取平均值。如果是灰度图像,那就更简单了,直接计算亮度差就行。
我在实现这个部分时,发现有几个关键点需要注意:
边界处理:当视差d较大时,右图的对应点可能会超出图像边界。这时候需要特别处理,常见的做法是赋予一个较大的固定代价值。
数据类型转换:图像像素值通常是8位无符号整数(0-255),在做减法前最好先转换成有符号整数或浮点数,避免下溢。
并行计算优化:由于每个像素的代价值计算是独立的,这个步骤非常适合并行计算。我通常会使用OpenMP或者CUDA来加速。
下面是一个简单的C++实现示例:
float computeADCost(const cv::Mat& leftImg, const cv::Mat& rightImg, int row, int col, int d) { if (col - d < 0) return MAX_COST; // 边界处理 float cost = 0; for (int ch = 0; ch < 3; ch++) { // 遍历RGB三个通道 cost += abs(leftImg.at<cv::Vec3b>(row, col)[ch] - rightImg.at<cv::Vec3b>(row, col - d)[ch]); } return cost / 3.0f; // 取平均值 }3. Census变换的代码级解析
Census变换是AD-Census算法中另一个核心组成部分。相比AD,Census变换要复杂一些,但它的优势是对光照变化更加鲁棒。我第一次实现Census变换时,花了整整两天时间调试,才让它正确工作。
Census变换的基本思想是:对于中心像素,比较它和邻域内其他像素的亮度关系,如果邻域像素更亮则置1,否则置0,最后得到一个二进制串。这个二进制串就是该点的特征描述子。
具体实现时需要考虑几个关键参数:
- 窗口大小:通常使用3x3、5x5或7x7的窗口
- 比特串长度:3x3窗口(不包括中心)产生8位,5x5窗口产生24位
- 比较方式:可以设置一个小的容差阈值来增加鲁棒性
这里有一个常见的误区:很多人以为Census变换只适用于灰度图像。实际上,对彩色图像也可以做Census变换,可以分别对RGB三个通道做变换然后合并,或者先转换成灰度再做。
下面是一个5x5窗口的Census变换实现:
uint64_t computeCensusTransform(const cv::Mat& img, int row, int col) { uint64_t census = 0; uchar center = img.at<uchar>(row, col); for (int r = row - 2; r <= row + 2; r++) { for (int c = col - 2; c <= col + 2; c++) { if (r == row && c == col) continue; // 跳过中心点 census <<= 1; // 左移一位 if (isInImage(img, r, c) && img.at<uchar>(r, c) > center) { census |= 1; // 设置最低位为1 } } } return census; }计算两个Census变换的匹配代价时,使用汉明距离(即两个二进制串异或后统计1的个数)。这个操作在现代CPU上可以用专门的指令高效实现。
4. 代价归一化与融合策略
AD和Census计算出的代价值尺度不同,直接相加没有意义。AD的值范围是[0,255],而Census的值范围是[0,N](N是比特串长度)。AD-Census论文中提出的归一化方法非常巧妙:
f(c,λ) = 1 - exp(-c/λ)这个指数函数有几个很好的特性:
- 将任意范围的代价值映射到[0,1]区间
- 参数λ控制曲线的形状,可以调节对代价差异的敏感度
- 函数单调递增,保持代价的排序关系
我在实际项目中发现,λ的选择对最终匹配效果影响很大。经过多次实验,总结出一些经验:
- 对于AD部分,λ通常在10-30之间
- 对于Census部分,λ通常是比特串长度的1/4到1/2
- 可以分别对AD和Census使用不同的λ值
归一化后的代价融合很简单,就是直接相加:
CAD-Census = f(CAD, λAD) + f(CCensus, λCensus)这里有一个实现细节需要注意:指数函数计算比较耗时,在实际编程中,通常会预先计算一个查找表(LUT)来加速。例如:
// 预计算指数查找表 vector<float> expLUT(256); for (int i = 0; i < 256; i++) { expLUT[i] = 1 - exp(-i / lambda); } // 使用时直接查表 float normalizedCost = expLUT[static_cast<int>(rawCost)];5. 参数选择与性能优化
实现AD-Census代价计算模块时,参数选择和性能优化是两个最实际的问题。我在这上面踩过不少坑,分享一些实战经验。
参数选择方面:
- λ值:这个参数控制归一化曲线的形状。λ越大,曲线越平缓,对代价差异越不敏感。建议AD部分λ=20左右,Census部分λ=12(对于32位Census变换)。
- Census窗口大小:5x5窗口是个不错的起点,太大影响速度,太小降低鲁棒性。
- 颜色空间:RGB空间简单直接,但转换到HSV或YCrCb有时能获得更好效果。
性能优化技巧:
- 使用查找表:如前所述,指数函数计算用查找表替代。
- 并行计算:代价计算是像素级独立操作,非常适合并行化。
- 内存访问优化:按行处理图像,尽量保证内存连续访问。
- SIMD指令:使用SSE/AVX指令加速Census的汉明距离计算。
- 提前终止:对于明显不匹配的点,可以提前终止计算。
下面是一个使用SSE指令加速汉明距离计算的例子:
#include <emmintrin.h> int hammingDistance(uint32_t a, uint32_t b) { __m128i x = _mm_set1_epi32(a ^ b); const __m128i mask = _mm_set1_epi8(0x55); x = _mm_add_epi8(_mm_and_si128(x, mask), _mm_and_si128(_mm_srli_epi16(x, 1), mask)); return _mm_cvtsi128_si32(x) & 0xFF; }6. 常见问题与调试技巧
在实际实现AD-Census代价计算模块时,会遇到各种各样的问题。我总结了一些常见问题及其解决方法:
问题1:视差图出现明显的水平条纹
- 可能原因:图像没有进行预处理,存在传感器噪声
- 解决方法:加入高斯滤波或双边滤波预处理
问题2:重复纹理区域匹配错误
- 可能原因:AD和Census权重不平衡
- 解决方法:调整两者的λ值,或尝试不同的归一化方法
问题3:算法运行速度太慢
- 可能原因:没有进行任何优化
- 解决方法:使用查找表、并行计算、SIMD指令等优化手段
调试时,我通常会分步骤可视化中间结果:
- 单独可视化AD代价
- 单独可视化Census代价
- 可视化归一化后的代价
- 可视化最终融合代价
这样可以快速定位问题出现在哪个环节。例如,如果AD代价看起来正常但Census代价有问题,那就集中精力调试Census变换部分。
另一个有用的技巧是使用标准测试数据集(如Middlebury)中的小尺寸图像进行调试,这样可以快速迭代。等算法在小图像上工作正常后,再扩展到全尺寸图像。
7. 与其他代价计算方法的对比
AD-Census的代价计算方法不是唯一的选择,了解它与其他方法的区别有助于我们更好地应用它。我做过一系列对比实验,这里分享一些发现:
与纯AD方法对比:
- 优点:在弱纹理和光照变化区域表现更好
- 缺点:计算量稍大,对重复纹理的处理优势不明显
与纯Census方法对比:
- 优点:在重复纹理区域表现更好
- 缺点:实现更复杂,需要调节更多参数
与互信息(MI)方法对比:
- 优点:计算效率更高,不需要预先统计直方图
- 缺点:对辐射度变化的适应性不如MI
与深度学习方法的对比:
- 优点:不需要训练数据,计算资源需求低
- 缺点:在复杂场景下的准确性不如最新深度学习方
在实际项目中,我通常会根据具体需求选择方法。如果追求实时性且场景不太复杂,AD-Census是个很好的选择。如果需要处理非常复杂的场景且有足够的计算资源,可能会考虑深度学习方法。