构建负责任和值得信赖的人工智能

FICO 的 Scott Zoldi

随着人工智能的使用变得更加普遍，数据科学家和组织仅仅“尽其所能”是不够的。 FICO 的人工智能专家 Scott Zoldi 解释说，随着人工智能倡导者的兴起，负责任的人工智能将成为人们的期望和标准。

近年来，数据和人工智能已被广泛应用于从医疗保健和零售到银行和保险的众多行业，以告知和塑造战略和服务。最近，人工智能在与冠状病毒的斗争中脱颖而出。

然而，越来越多的数字生成数据，加上对人工智能自动决策的需求，给企业和政府带来了新的挑战，越来越多地关注人工智能决策算法背后的推理。

随着人工智能使决策远离受决策影响的个人，决策可能会变得更加冷酷，甚至可能是粗心大意。组织引用数据和算法作为不受欢迎的决定的理由并不少见，当涉及到受人尊敬的领导者犯错时，这可能会引起关注。

一些例子包括：2016 年微软的种族主义和攻击性在线聊天机器人，亚马逊的人工智能招聘系统在 2018 年忽略了女性申请人，以及特斯拉汽车在 2019 年将卡车误认为悬挂的路牌后在 Autopilot 中坠毁。

除了可能做出错误决策之外，还有人工智能偏见的问题。因此，出台了新的法规来保护消费者权益并密切关注人工智能的发展。

负责任人工智能的支柱

组织现在需要实施强大的人工智能。为此，他们必须通过负责任的人工智能的三大支柱来加强和设定标准：可解释性、问责制和道德规范。有了这些，所有类型的组织都可以确信他们正在做出合理的数字决策。

可解释性 ：依赖 AI 决策系统的企业应确保其拥有一个算法结构，可以捕获决策变量之间的关系以做出业务决策。通过访问这些数据，企业可以解释模型做出决定的原因——例如将交易标记为欺诈的高风险。然后人类分析师可以使用这种解释来进一步调查模型的影响和准确性决定。

问责制 ：必须正确构建机器学习模型，并关注机器学习的局限性并仔细考虑所使用的算法。技术必须透明且合规。模型开发中的周到确保决策有意义，例如，随着风险的增加，分数会适当地适应。

除了可解释的 AI 之外，还有谦虚 AI 的概念——确保模型仅用于与训练数据类似的数据示例。如果情况并非如此，则该模型可能不可信，应降级到另一种算法。

道德 ：建立在可解释性和问责制的基础上，必须对道德模型进行测试并消除任何歧视。可解释的机器学习架构允许提取非线性关系，这些关系通常隐藏了大多数机器学习模型的内部工作原理。这些非线性关系需要进行测试，因为它们是基于训练模型的数据学习的，而这些数据往往隐含地充满了社会偏见。道德模型可确保明确测试和消除偏见和歧视。

强制执行负责任人工智能的力量

构建负责任的人工智能模型需要时间和艰苦的工作，细致的持续审查对于实施持续负责的人工智能至关重要。这种审查必须包括监管、审计和宣传。

法规对于制定算法使用的行为标准和法治很重要。然而，最终要么符合法规，要么不符合法规，证明符合法规需要审核。

证明遵守法规需要一个框架来创建可审计的模型和建模过程。这些审计材料包括模型开发过程、使用的算法、偏差检测测试以及合理决策和评分的使用演示。今天，模型开发过程审核以随意的方式进行。

正在引入新的基于区块链的模型开发审计系统，以强制执行和记录不可变的模型开发标准、测试方法和结果。此外，它们还用于记录整个模型开发周期中数据科学家和管理层批准的详细贡献。

展望未来，组织仅靠数据和人工智能“尽其所能”是不够的。随着 AI 倡导者的兴起以及 AI 系统错误结果造成的真正痛苦，负责任的 AI 将很快成为全球乃至全世界的期望和标准。

组织现在必须实施负责任的人工智能，并加强和制定人工智能可解释性、问责制和道德标准，以确保他们在做出数字决策时负责任地行事。

作者是 Scott Zoldi 博士，FICO 首席分析官 .

关于作者

Scott Zoldi 博士是 FICO 的首席分析官。在 FICO 期间，Scott 负责撰写 110 项已授权专利，其中 56 项已获得授权，54 项正在申请中。 Scott 积极参与新分析产品和大数据分析应用程序的开发，其中许多都利用了新的流分析创新，例如自适应分析、协作分析和自校准分析。 Scott 在两个董事会任职，圣地亚哥软件公司和网络卓越中心。斯科特获得了博士学位。杜克大学理论与计算物理学博士。