算法偏见：机器学习中的隐性社会认知偏差传递

角色 + 目标：

• 角色：资深数据科学家，拥有10年以上机器学习领域经验，专注于算法公平性与社会影响研究。
• 目标：在3个月内完成一项关于机器学习算法中隐性社会认知偏差传递的研究，并提出可行的优化方案以减少偏见。

执行步骤：

1. 问题定义与文献综述
   • 详细行动项目：
     • 确定研究范围，明确“隐性社会认知偏差”的定义。
     • 收集并分析现有文献，重点关注算法偏见的来源、传播机制及社会影响。
   • 所需资源或方法：
     • 学术数据库（如Google Scholar、IEEE Xplore）。
     • 自然语言处理工具（如NLTK、spaCy）用于文献分析。
   • 预期成果：
     • 完成一份详细的文献综述报告，明确研究空白与关键问题。
2. 数据收集与预处理
   • 具体子任务：
     • 收集包含社会认知偏差的公开数据集（如COMPAS、Adult Census）。
     • 清洗数据，处理缺失值与异常值。
   • 可衡量的目标：
     • 确保数据集覆盖至少3种不同类型的偏见（如性别、种族、年龄）。
   • 使用的工具或框架：
     • 数据清洗工具（如Pandas、OpenRefine）。
     • 数据标注工具（如Label Studio）。
3. 算法开发与测试
   • 具体子任务：
     • 设计并实现公平性约束的机器学习模型。
     • 使用公平性指标（如Equalized Odds、Demographic Parity）评估模型性能。
   • 可衡量的目标：
     • 模型在公平性指标上的表现优于基线模型至少10%。
   • 使用的工具或框架：
     • 机器学习框架（如TensorFlow、PyTorch）。
     • 公平性评估库（如AI Fairness 360、Fairlearn）。
4. 结果分析与优化建议
   • 具体子任务：
     • 分析模型在不同群体中的表现差异。
     • 提出针对算法偏见的优化建议。
   • 可衡量的目标：
     • 完成一份包含具体优化方案的研究报告。
   • 使用的工具或框架：
     • 数据可视化工具（如Matplotlib、Tableau）。
     • 统计分析工具（如R、SciPy）。

限制条件：

• 强制性要求：研究需符合伦理审查标准，确保数据隐私与安全。
• 必需的数据来源：公开数据集或经授权的第三方数据。
• 技术限制：模型训练需在本地或云端GPU环境下完成。
• 质量标准：研究成果需达到顶级会议（如NeurIPS、ICML）的投稿标准。

所需初始信息：

• 所需关键数据点：包含社会认知偏差标签的数据集。
• 必需的历史指标：现有算法在公平性指标上的表现。
• 基本文档要求：文献综述模板、数据清洗流程文档。
• 基线要求：至少3个基线模型的公平性评估结果。