近年来，物理学家们越来越多地开发人工智能（AI）和机器学习（ML）技术，以增进我们对物理世界的理解。不过，人们也越来越担心这些系统中的偏见及其对整个社会的广泛影响。Physics World 的这篇文章，探讨了人工智能中的种族和性别偏见问题，以及物理学家们可以如何认识和解决这些问题。
2011年，在佐治亚理工学院攻读本科学位时，加纳裔美国计算机科学家乔伊·布奥兰维尼（Joy Buolamwini）发现，机器人无法陪她玩一把简单的躲猫猫游戏——因为机器无法识别她黑色的脸庞。2015年，麻省理工学院媒体实验室的硕士研究生布奥兰维尼参加了一个名为“Aspire Mirror”的科学艺术项目，在处理面部分析软件时也遇到了类似的问题：只有当她戴上白色面罩时，软件才能检测到她的脸。
这两件事只是巧合吗？好奇心驱使布奥兰维尼去探索这其中的奥秘。她将自己的照片上传到四个不同的面部识别系统中，但结果都不如人意：要么根本识别不出是一张人脸，要么就是性别不对。她把系统的这种偏见称为“编码凝视”（coded gaze）。随后，她决定对来自3个非洲国家和3个欧洲国家的1270名政客进行面部测试，他们有着不同的面部特征、肤色和性别。
这一测试成为了她的硕士论文项目：“性别阴影：商用性别分析中的交叉精度差异”（Gender Shades: Intersectional accuracy disparities in commercial gender classification）。布奥兰维尼发现，由微软、IBM和Megvii开发的三种商用面部识别技术，在识别面部深色皮肤的女性时都会出错，识错率约35%。
而在白人男性身上，它们的识别结果几乎完美（99%）。
物理学家越来越多地将人工智能和机器学习应用到不同领域，从医学物理到材料学等等。虽然他们可能认为自己的研究只会应用于物理学，但他们的发现也可以转化到社会层面。作为粒子物理学家，我们的主要目标是开发工具和算法，以助我们找到超越标准模型的物理学。但不幸的是，我们没有停下来思考，没有料到这些工具和算法将如何在技术中得到广泛应用，并在社会中每天被用来进一步压迫边缘化的个体。
更重要的是，物理学中缺乏多样性的现状，不仅会影响到已完成的工作，也会影响正在被创建的系统。“性别和种族的失衡问题，无疑是纠正人工智能中一些更广泛的偏见问题的障碍。”新泽西州普林斯顿大学的粒子物理和机器学习研究员萨凡纳·泰斯（Savannah Thais）表示。这就是为什么物理学家需要意识到他们现有的偏见，更重要的是，作为一个群体，他们需要扪心自问：自己到底应该做什么。
机器算法偏见中的许多问题在《偏见系统》（Discriminating Systems）这份报告中得到了解决。《偏见系统》是AI Now研究所2019年的一份重要报告，报告表明，不应将群体多样性和人工智能的偏见问题分开来考虑，因为它们是“同一问题的两个方面”。
泰斯表示，从多方来看，物理学中的多种声音是至关重要的。她目前正在为欧洲核子研究组织（CERN）的高光度大型强子对撞机开发基于机器学习的加速重建算法。“大部分物理研究人员没有与受到这些算法影响的其他种族、性别和群体的人群直接接触的经验。”埃斯基维尔认为，正因如此，被边缘化的科学家个体需要参与到算法的开发中来，以确保他们不会被偏见所淹没。
诺德表示，虽然物理学家可能已经开发出某种人工智能技术来解决纯粹的科学问题，但在现实世界中，它的应用却超出了他们的控制范围——人工智能的使用者可能会动机不纯。诺德指出，向美国执法机构和其他私人机构提供面部识别设备的Clearview AI等公司，正在搜集社交媒体数据，然后在未经用户明确同意的情况下向执法部门出售监控服务。他警告说，许多国家都在利用监视技术对民众进行广泛的压迫。
诺德、埃斯奎维尔和其他同事给粒子物理学界写了一封信，讨论了“计算研究的伦理意义和科学家的角色”，强调了无论是作为个人、还是在各机构和基金会任职的物理学家们，都应该关心他们正在构建和实施的算法。泰斯还敦促物理学家们积极参与到人工智能伦理的治理中来。
在2019年的报告中，AI Now研究所还建议对人工智能偏见领域的研究应不止于技术修正。“我们不仅需要改变算法或系统，还需要改变行业制度和社会结构，”兰金解释说。她认为，要想监管、消除或尽量减少人工智能算法中的偏见和歧视，就必须采取“大规模的集体行动”，让自然科学界以外的人参与进来也会对此有所裨益。