16.2 偏见缓解技术：预处理、处理中与后处理方法
算法偏见指机器学习模型对特定群体（如基于性别、种族、年龄）产生系统性不公正结果的现象。其根源通常在于训练数据本身包含的历史或社会偏见，模型在训练过程中不加区分地学习并放大了这些模式[reference:0]。例如，用于评估罪犯再犯风险的COMPAS系统，被证明对非白人被告给出了显著更高的风险评分[reference:1]。为确保人工智能系统的公平、可靠与负责任，必须在机器学习流程中系统性实施偏见缓解。根据干预阶段的不同，主流技术可分为三类：在训练前修正数据的预处理、在训练过程中约束模型的处理中、以及在模型部署后调整其输出的后处理方法。
16.2.1 预处理方法：修正有偏的数据
预处理方法的核心思想是在数据进入模型训练之前，通过修复或调整训练数据集本身，从源头减少偏见。这类方法不修改学习算法，因而具有较高的通用性。其主要技术包括：
重新加权：通过为训练集中的每个样本分配不同的权重，来平衡不同群体（如受保护群体与非受保护群体）的分布。例如，可以降低在多数群体中过采样样本的权重，同时提高在少数群体中代表性不足样本的权重，使得模型在训练时不再偏向于多数群体的模式。其数学目标是使任何样本(x，y)(x， y)(x，y)的权重www满足：Pw(S=s，Y=y)=P(S=s)P(Y=y)P_{w}(S=s， Y=y) = P(S=s)P(Y=y)Pw(S=s，Y=y)=P(S=s)P(Y=y)，其中SSS为敏感属性，YYY为标签，从而实现敏感属性与标签的独立性。
重标记：直接修改部分训练样本的标签，以纠正数据中存在的标注偏见。例如，如果历史招聘数据中存在对女性求职者的系统性低估（即同等资历下女性获“通过”标签的概率更低），重标记算法可能会将一部分符合条件的女性样本的标签从“拒绝”改为“通过”，以构建一个更接近理想公平状态的数据集。
合成样本生成：通过生成合成数据来解决数据不平衡问题。常见技术如SMOTE，通过对少数群体样本在特征空间中进行插值来生成新样本。更先进的方法则利用生成对抗网络，学习少数群体的数据分布并生成与之相似的样本，从而在不改变原始数据真实性的前提下，增强数据集的代表性与平衡性。
预处理方法的优势在于其与模型无关，处理后的数据可用于训练任何标准算法。但其主要挑战在于，过于激进的数据修改可能会扭曲真实的数据分布，损害数据的真实性，并可能对模型的整体预测性能产生负面影响。
16.2.2 处理中方法：构建公平的模型
处理中方法将公平性约束直接融入模型训练过程，通过修改目标函数或学习算法来引导模型学习无偏的表示或决策规则。这是目前研究最活跃的领域，主要路径包括：
公平性约束正则化：在标准损失函数（如交叉熵损失）中增加一个公平性惩罚项，将训练转化为一个带约束的优化问题。目
