多样化的数据和道德实践如何推动负责任的人工智能工程
Karen Panetta 的工程之旅使她发现了面部识别系统中的严重偏差，并倡导保护人类福利的透明技术。
作者：
- Esther Shittu，新闻撰稿人
- Shaun Sutner，高级新闻总监
发布日期：2025 年 7 月 1 日
Karen Panetta 攻读工程学位的道路始于她父亲的建议，即她的购物习惯需要通过强大的金融事业来维持。
在花了一些时间建造计算机和设计 CPU 后，这位 IEEE 院士兼塔夫茨大学研究生工程教育系主任寻求进入学术界。然而，她意识到工程领域存在一个大问题。
“他们说，‘我们聘请你作为女性导师’，然后当我上第一堂课时，发现没有女性，”帕内塔在 Informa TechTarget 的最新一集 Targeting AI 播客中回忆道。 “这就是我如何成为一名导师、支持者和冠军的原因，将包容性的受众带入工程领域。”
当她开始致力于解救人口贩卖中的儿童时，这种热情后来转移到了人工智能技术上。
帕内塔说：“我注意到所有经过面部识别训练的数据集都是直接获取的，双耳都显示出来。” “该数据库主要取自有色人种和犯罪数据库。所以这就像是，好吧，那里存在偏见。”
为此，帕内塔和她的团队创建了一个包含来自世界各地年龄在 3 岁到 78 岁之间的多元化数据库。这些图像中的人们处于不同的场景，要么戴着墨镜，要么戴着面具，要么有不同的头部旋转。
帕内塔说：“用非常原始的数据训练的人工智能在现实世界中是行不通的。” “现实世界不会自动转化为人工智能。”
帕内塔补充说，人工智能技术也需要符合道德，这意味着不能伤害人们或其生计。
“当我们谈论道德人工智能时，我们谈论的是我们如何收集它、人们的权利以及我们将如何使用它，”她说。
与此同时，负责任的人工智能能够解释人工智能系统为何做出这样的决定，她说。
Esther Shittu 是一位 Informa TechTarget 新闻撰稿人和播客主持人，内容涵盖人工智能软件和系统。 Shaun Sutner 是 Informa TechTarget 信息管理团队的高级新闻总监，负责推动人工智能、分析和数据管理技术以及大型科技和联邦监管的报道。他是一位拥有30多年新闻经验的资深记者。他们一起报道 Targeting AI 播客。
深入挖掘人工智能技术
-
11 个真实世界的代理 AI 示例和用例
作者：玛丽·普拉特
-
IBM 的企业 AI 定制和协作愿景
作者：Esther Shittu
-
Black Girls Code 首席执行官表示人工智能的多样性包括每个人
作者：Esther Shittu
-
Cerebras 如何与 Nvidia 竞争
作者：Esther Shittu
物联网技术