如今，人工智能已成为人类的得力帮手，能够在众多生活场景给出十分高效且准确的预测与判断。但人工智能也不是万无一失，如果人工智能“犯错”了，背后的问题是出在哪里？如何提高人工智能决策的可靠性？或许其中的关键，就在于人们对于AI“黑匣子”的理解。视觉识别领域的一则案例，就引发了业界对于AI“犯错”背后如何归因的思考。
2020年，美国杜克大学的研究者提出一种名为PULSE的超分辨率新型算法，经过运算与处理，能够将低分辨率、模糊的照片转换成清晰且细节逼真的图像。按照原论文描述，PULSE能够在几秒钟的时间内，将16×16像素的低分辨率小图放大64倍。而有网友试用了PULSE之后，发现美国前总统奥巴马的照片经过去码处理，生成的是一张白人的面孔。
而后又有许多人进行了相似的测试，结果无一例外——输入低清的少数族裔人脸图像，PULSE所生成的都是具备极强白人特征的人脸照片，这件事很快引起轩然大波。人工智能领域的标杆性人物Yann LeCun认为PULSE生成的结果之所以更偏向于白人，是因为神经网络是在Flickr-Faces-HQ（FFHQ，人脸图像数据集）进行训练的，而其中大部分的图像素材都是白人照片。
而AI艺术家Mario Klingemann则认为，应该归因于PULSE在选择像素的逻辑上出现了偏差，而不全是训练数据的问题，他自己就可以利用StyleGAN将相同的低分辨率奥巴马的照片生成非白人特征的图像。尽管距离这一风波已经过去一段时间，但究竟是数据库，亦或是算法本身出现问题依然无法定论。类似的情况还发生在医疗领域。
华盛顿州雷蒙德市微软研究院的高级研究员Rich Caruana博士曾以其研究的肺炎人工智能模型为例，来说明在因素较为复杂的医疗场景之下，人工智能在可靠性与可解释性方面可能存在的风险。该肺炎模型基于当时纳入研究的临床医生输入的数据，早期的迭代算法对测试数据有非常好的准确性，但在给出判断时，肺炎模型判定：哮喘患者死于肺炎的可能性低于无哮喘患者。这一结论令研究人员费解，因为它与实际情况是不符的。
Rich Caruana博士经过反复确认，发现人工智能无法将训练数据以外的因素考虑在内，Caruana说，哮喘患者往往更加重视肺功能问题，通过及早察觉肺功能的异常，哮喘患者可能会更早更快地被收住入院或重症监护室，得到及时的救治和护理。而这一层逻辑，是无法被人工智能吸收到训练集中的，因此它给出了和实际情况不符的结论，为场景中的相关者埋下风险隐患。
人工智能能够根据机器学习模型给出预测、决策，但当人类无法准确地理解人工智能的逻辑与输出，机器也无法准确地把人类的输出转化为输入，这种“输入与输出”之间不可观察的空间，就是我们所说的人工智能“黑匣子”。如何破解人工智能“黑匣子”的秘密？目前研发人员是如何提升人工智能决策的可靠性？人机协同是否是人工智能发展的必由之路？
本次活动，便试图通过阐释公众、政策法规和AI技术研究与开发者对AI可解释性的理解和需求上的不同，分享AI的可解释性、稳定性和鲁棒性、可回溯可验证三个方面的技术研究和解决方案，共同探讨实现AI可解释可靠的道路。8月15日（周日）10:00-12:30由未来论坛首度发起的科技与人文结合的课题AI伦理与治理系列即将开启04期热门话题AI决策的可靠性和可解释性。
关于未来论坛，成立于2015年，是由科学家、企业家、投资人群体共同发起创立的科学公益组织。自成立以来，未来论坛秉承使命“科学改变未来”，全面推动产学研资对接融合和科学传播事业发展，迄今已凝聚了数百位全球杰出科学家、卓越的商界和产业领袖、青年创新精英，是中国唯一商学跨界的科学公益平台。
AI伦理与治理系列旨在促进社会对人工智能伦理的关注和思考，联动学术界、科技企业以及相关专家学者，共同分析和定义科技伦理和治理挑战，为人工智能技术伦理和治理模式提供前瞻性的思考和对策，促进行业及学术界为解决相关问题付诸于行动。
作为未来论坛首个为预测和思考前沿科技如何影响未来社会发展的课题，提倡将研究者、开发者和决策者聚集在一起，为确定社会在获得新兴技术所带来的利益，同时负责任地管理其风险所必需的治理模式和最佳实践。
AI伦理与治理系列策划委员会（按姓氏拼音排列）包括崔鹏，未来论坛青创联盟成员，清华大学计算机系长聘副教授，博士生导师；郭锐，未来论坛青年理事，中国人民大学法学院副教授，未来法治研究院社会责任和治理研究中心主任；方方，未来论坛理事，水木投资集团合伙人；漆远，未来论坛青年理事，蚂蚁集团副总裁、首席AI科学家，达摩院金融智能实验室负责人；夏华夏，美团首席科学家，副总裁，智慧交通平台负责人。