防错 AI 算法

机器视觉相机、未经校准的传感器或不可预测的阴影出现故障，可能会导致工业 AI 系统出现代价高昂且危险的错误。然而，研究人员正在开发防错算法以及可以采取的简单措施来降低出错概率。

人工智能已经远远超出了基本的感知器人工神经网络，但错误仍然是一个问题。图片由Pixabay提供

人工智能的工业应用

AI（人工智能）有许多工业应用，例如机器人平台、物料搬运、包装、机器管理、装配、检查和 BAS（楼宇自动化系统）。更具体的例子包括无人机和集群技术，用于分类、移动和运输物品或检测生产过程中的异常。

人工智能已成为依赖机器视觉、机械臂、遥感和过程控制的工业自动化的一个关键但经常被遗忘的方面。

然而，人工智能工具并不是一个简单的黑匣子，将数据作为输入提供并转换为准确的输出。有时输出是错误的，这令人担忧。

工业应用中的错误类型

计算机会按照他们的指示去做，因此人类是所有错误的根源。可能是设计错误，算法错误，工程错误，或者数据错误，但根本就有人在。

这也适用于人工智能，包括工业人工智能。工业人工智能中的错误可以归为两类之一：算法偏差和机器偏差。

算法偏差涉及可重复和系统性的错误。此类错误可以通过多种不同方式表现出来：算法逻辑中的固有错误、算法输出的意外使用或提供给 AI 系统的数据存在问题。

当使用有限的数据集训练系统时会出现机器偏差，导致错误输出。

控制 AI 错误的重要性

作为算法偏差的一个例子，考虑一个用于自动化质量控制系统的人工智能机器视觉系统。这种应用在很大程度上依赖于作为数据提供给 AI 的准确测量，以确定零件是否在公差范围内。如果向 AI 提供不准确的测量值，将导致错误的零件标签。

机器视觉 AI 背后的算法可以 100% 正确，但糟糕的数据意味着糟糕的输出。可接受的零件可能会被处理掉，而劣质零件可能会被发送给客户。这会导致不必要的成本和停机时间，因为问题的根源已被追踪。

FANUC 的 iRVision 3DL 使用激光和 AI 检查零件的表面状况。图片由 FANUC 提供

某些 AI 系统在特定环境或应用程序中使用前需要进行培训。在这种情况下，提供给系统的训练数据极其重要。例如，如果系统接受仅限于光照区域条件的训练，那么系统必须在没有光照的情况下执行时就会出现问题。

防错AI（训练AI）

由于人工智能和机器学习背后存在人为因素，因此无法防错。然而，有一些方法可以最大限度地减少 AI 系统中的错误。一个例子包括 CARRL（深度强化学习的认证对抗性鲁棒性），这是一种在麻省理工学院开发的深度学习算法，其目的是通过鼓励对数据的怀疑程度来帮助自主系统，例如数据中的噪声和混淆系统的对抗性努力。

卡内基梅隆大学也一直致力于深度学习模型的人工智能算法。这种方法称为 RATT（随机分配、训练和跟踪），使用未标记和嘈杂的训练数据来建立真实错误风险的上限。然后，该上限可以确定 AI 模型对新输入数据的适应程度。此外，普林斯顿大学的研究人员一直在寻找算法，当训练数据中存在错误时，这些算法将使 AI 系统能够有效学习。

开发中的标准也会影响防错工作。 NIST（美国国家标准与技术研究院）正在积极为 AI 标准做出贡献，其中包括重点评估 AI 技术的可信度。 NIST 还提出了一种降低 AI 系统偏差风险的方法。

正如在 2020 年题为“天才机器”的小组讨论中所揭示的那样，美国 CISA（网络安全和基础设施安全局）已经在研究审查人工智能算法和数据收集的标准。这项工作与 NIST 一起强调了问责制。

解决人工智能系统中的错误

虽然由于涉及人为因素，可能无法对您负责的 AI 系统进行防错，但肯定有办法将出错的可能性降到最低。

如果您怀疑错误来自您的 AI 系统，请不要自动责怪算法；相反，研究错误以寻找模式。例如，如果是自动拣货机器人出错，请查看分类错误的物品是否有任何共同点，或者机器人的环境（灯光、阴影等）是否有可能影响其性能的变化.系统的机器视觉部分中的相机镜头也可能存在问题，例如在自主移动机器人中发现的问题。

许多机器视觉相机都有内置的 AI 系统，例如 FLIR Firefly DL，但如果不保持清洁和正确配置，这些系统可能会产生错误。图片由 FLIR 提供

编程的一个硬性规则是错误的输入总是会导致错误的输出。最小化工业人工智能系统产生的错误的第一步是确保其数据尽可能准确，从传感器开始。应定期校准为人工智能系统提供输入数据的传感器。

AI 系统中允许用户设置数据可接受范围的工具应在仔细考虑可接受范围后实施：过于严格，AI 不会提供太多价值；太松了，它会产生太多的错误。请记住，这些值是可以调整的。

此外，正如前面提到的，保持任何相机清洁。虽然机器视觉系统被设计为在各种环境条件下都具有稳健性，但这并不意味着它们在视觉受到脏镜头影响时仍能表现良好。其他工业传感器也是如此，其精度会因结垢、暴露于腐蚀性环境、机械问题或老化而受到影响。

人工智能在工业领域被广泛应用于从过程控制到质量检查的方方面面。而且由于涉及人为因素，这些人工智能系统也容易出错。防错算法正在开发中，但这些方法还没有完全成熟，也没有在工业应用中进行广泛的测试。虽然 NIST 和 CISA 等组织正在努力制定防错标准，但它们仍处于开发阶段。但是，一些简单的措施可以降低您的 AI 系统出错的可能性。