解决机器学习中的训练偏差

向任何人传授“公平”是一个值得称赞的目标。

作为人类，我们可能不一定就什么是公平达成一致。有时取决于上下文。教育孩子公平——无论是在家里还是在学校——是最基本的，但说起来容易做起来难。考虑到这一点，作为一个社会，我们如何将“公平”的细微差别传达给人工智能 (AI) 系统？

IBM Research 的一组研究人员正在解决这个难题。 IBM 正在为开发人员推出一个名为“AI Fairness 360”的工具包。作为这项工作的一部分，IBM 正在为企业提供一种新的“基于云的偏差检测和缓解服务”，企业可以使用该服务来测试和验证 AI 驱动系统的行为方式。

在接受 EE Times 的电话采访时，IBM Research 的研究员 Saska Mojsilovic 告诉我们，科学家和人工智能从业者过于关注人工智能的准确性。通常，人们问到的关于 AI 的第一个问题是“机器能打败人类吗？”

但是公平呢？她说，人工智能中的公平空白有可能在医疗保健或自动驾驶汽车等领域引发灾难性后果。

如果用于训练机器的数据集有偏差怎么办？如果人工智能无法解释它是如何做出决定的，我们如何验证它的“正确性”？ AI 能否揭示在 AI 处理过程中数据是否被某种方式操纵？ AI 能否向我们保证其数据从未受到攻击或泄露，包括在预处理和后处理期间？

简而言之，有没有内省人工智能这样的东西？简单的回答：不。

Mojsilovic 说，如果不对 AI 用户、开发者和从业者透明，AI 系统就无法获得社会的信任。

分解公平
一个更大的问题是如何教会机器什么是公平。 Mojsilovic 指出，“因为我们是科学家，所以我们做的第一件事就是分解‘公平’。我们需要解决它。”他们在 AI 实施中实践的指标、算法和偏见方面打破了公平性。

IBM 研究科学家 Kush Varshney 解释说，该团队研究了人工智能算法和人工智能决策中的偏见和公平性。 “对个人公平，对团体公平。我们研究了群体的不同属性——从性别到种族。还考虑了法律和监管问题。”最后，该团队最终测量了 30 个不同的指标，以寻找数据集、AI 模型和算法中的偏差。

这些发现被纳入 IBM 本周推出的 AI Fairness 360 工具箱。该公司将其描述为“一个全面的开源指标工具包，用于检查数据集和机器学习模型中是否存在不需要的偏差。”

在整个 AI 生命周期中减少偏见（来源：IBM）

尽管许多科学家已经在努力发现 AI 算法中的歧视，但 Mojsilovic 表示，IBM 的方法有所不同，它包含的算法不仅可以发现偏见，还包括一种消除偏见的工具。

在基本层面上，您必须问：计算机科学家 - 定义公平吗？这是通常分配给社会科学家的任务吗？意识到这种不一致，IBM 明确表示 Mojsilovic 和 Varshney 都不是在真空中工作。他们带来了许多学者和研究所。 Varshney 参加了由卡内基国际事务伦理委员会主办的 Uehiro-Carnegie-Oxford 伦理会议。 Mojsilovic 参加了加州伯克利分校由加州大学伯克利分校法学院赞助的人工智能研讨会。

算法是中立的吗？
社会科学家一直在指出人工智能偏见的问题。

威斯康星大学麦迪逊分校新闻与大众传播学院教授 Young Mie Kim 解释说：“人工智能歧视（或人工智能偏见）可能发生在它隐含或明确地强化现有的不平等社会秩序和偏见（例如，性别、种族、年龄、社会/经济地位等）。”示例范围从抽样错误（例如，由于抽样方法不当或困难而导致某些人口统计数据的代表性不足）到机器训练（建模）中的人为偏见。 Kim 认为，即使在设计或建模中的“战略决策”（例如政治广告算法）中也存在 AI 偏见。

在她最近题为“算法机会：数字广告和政治参与的不平等”的研究中，Kim 展示了如何在基于算法的决策中加强不平等。

技术社区可能会争辩说“算法是中立的”或可以“受过教育”（训练）。 Kim 指出，“这并不承认偏见会出现在算法开发的任何阶段。”