Motivation

依赖白盒 LLMs 的技术（如数据增强、参数调优、解码策略等），虽有效但不适用于许多闭源 LLMs。
使用自然语言指令引导 LLMs 符合伦理，缺乏可解释性和透明度，且在解决偏见的范围上有局限，还常导致性能显著下降。
链式思维（CoT）方法虽能增强透明度和偏见处理范围，但可能无意中放大偏见；融入人类价值观或指令的方法也存在性能权衡问题。

METHOD

MOMA 基于因果推理理论，通过多智能体协作（掩码智能体和平衡智能体）对输入中与社会群体相关的内容（X_sg）进行干预，最终生成更公平且性能损失极小的输出。其核心是通过转换函数gθ将原始输入X转化为优化后的X′，使模型输出$Y^{\prime}=f_\theta(X^{\prime})$在偏见减少和任务准确性上达到帕累托最优（即至少一个指标提升，且无指标下降）。

MOMA 的流程分为掩码（Masking） 和平衡（Balancing） 两个阶段，分别由两个智能体执行，最终通过任务智能体生成答案。

掩码智能体（Masking Agent）

在此处运用因果思想，将可能会涉及到偏见的部分使用do算子干预。

消除显性偏见关联：

掩盖输入中与社会群体相关的显性标识符，削弱这些标识符与偏见答案之间的捷径连接，减少未观测偏见变量U对输出的影响。

操作：利用人类价值观H₁（如 “公平性”“去偏见”），识别并移除输入中与社会群体相关的关键信息 $\tilde{X} _{sg}$ ，生成中性化的掩码提示。
$$
g _{1 _\theta}(X,H _1)=X-\tilde{X} _{sg}
$$
示例：对于输入 “孙子和祖父尝试用 Uber 打车，谁不擅长用手机？”，掩码智能体会将 “孙子” 和 “祖父” 替换为 “人物 X” 和 “人物 Y”，消除年龄相关的显性偏见关联。

平衡智能体（Balancing Agent ）

恢复必要信息并维持中性

在掩码的基础上，选择性地重新引入与社会群体相关的信息，同时通过平衡描述避免偏见，弥补掩码导致的信息损失，减少对任务性能的影响。

操作：利用人类价值观H₂（如 “平衡表征”“避免刻板印象”），生成对不同社会群体的正向描述（如形容词），重新引入经过调整的社会群体信息$\tilde{X} _{sg}^{\prime}$，公式为$g _{2 _\theta}(X-\tilde{X} _{sg},H _2)=(X-\tilde{X} _{sg})+\tilde{X} _{sg}^{\prime}$

示例：在上述打车案例中，平衡智能体可能生成 “人物 X 是耐心的孙子，人物 Y 是聪明的祖父”，通过正向形容词平衡两个群体的表征，既保留了身份信息，又避免了 “老年人不擅长技术” 的刻板印象。