欧盟委员会近日发布《人工智能白皮书》，计划制定一套人工智能的新法规，以保护公民免受滥用人工智能技术的伤害。同时，欧盟表示新法规将侧重于透明度和监督，以区别该地区与美国和中国的做法。欧美委员会将目前AI发展的现状比作「蛮荒的西部」，并表示将重点关注「高风险」案例。
如今，人脸识别已经成为一些执法机关追踪嫌犯时最强有力的武器；还有些医疗机构正通过分析人的脸部特征，来诊断某些罕见遗传疾病……但它对公民隐私权构成的威胁，也前所未有。相较指纹等其他生物特征，人脸识别的最大不同就在于，它能远距离发生作用，而无需直接接触。这意味着，政府、公司等机构和个人可能未经当事人同意、甚至完全不知情的情况下读取并搜集其数据，进而非法使用。
事实上，人脸不仅仅能表明身份，让人觉得美或丑，还泄露许多其他信息。有研究表明，通过大数据和算法，有相当大概率能通过人脸特征来测算一个人的智力水平、性取向，甚至政治倾向……因此，一旦这种技术被不恰当地使用，就有可能产生严重后果。
例如，保险公司或可更精确判定一个人的健康状况，从而制定出包赚不赔的保单价格；雇主可能会雇佣或拒绝一些特定的雇员，以满足其偏见；一些政府则可能更加主动有效地对某些特定人群进行追踪、监控甚至迫害；在人种多元的国家，脸部特征数据的运算结果还可能造成对某些族群人士的不公正认知……
还有人认为，人脸识别会反过来影响人们的现实交往和信任关系。如果都知道自己的脸部特征会对自己将在社会上遭遇怎样的对待产生重大影响时，人们就会被训练成「表演大师」。长此以往，整个社会将陷入巨大的信任危机之中。再比如，近几年来，基于AI技术的Deepfake视频在网络上有泛滥之势，该技术能够生成逼真的假视频或音频片段，很多时候足以乱真。
这些逼真的视频让人们发出「技术无所不能」的赞叹，同时，也引发了更多的人对技术滥用和不可控的担忧，甚至是恐惧。Deepfake的出现实现了「以假乱真」的合成技术与恶搞娱乐和公益相比，Deepfake更多地显示了技术的「阴暗獠牙」。利用Deepfake伪造的演讲视频已经对马来西亚和加蓬的政治丑闻产生影响。
根据欧盟发布的白皮书内容，在未来的五年中，欧盟委员会将专注于数字化的三个关键目标：为人民服务的技术；公平竞争的经济；开放、民主和可持续的社会，白皮书还提出一系列人工智能研发和监管的政策措施，并提出建立「可信赖的人工智能框架」。近年来，欧洲一直在寻求在技术政策方面强调公平和伦理。
欧洲内部市场和服务专员蒂森·布雷顿表示，新法规将与《一般数据保护条例》相媲美。这部影响深远的数据隐私法于2018年生效，也被称为史上最严数据保护法，对侵犯网民隐私的违法企业，罚金最高可达2000万欧元（约合1.5亿元人民币）或者其全球营业额的4%，以高者为准。法规出台不久，Facebook和谷歌等美国企业也都成为GDPR法案下的第一批被告。
根据新规，欧盟将建议禁止在公共场所使用面部识别技术，并且提到这些系统的运行将需要人的监督和审计。作为建议的一部分，欧盟还希望成员国任命相关部门监督人工智能政策规则的执行情况。当然，这些规定吓坏了硅谷的公司。即使GDPR这样的法规只针对欧洲，也往往具有全球影响。
谷歌CEO Pichai近日在布鲁塞尔举行的Bruegel智库组织的一次会议上说：「我认为政府和监管法规应尽早解决此问题，并出台管理的框架规定，这是很重要的。」「现在这样做可能会立竿见影，但也可能要等待一段时间才能见效，届时我们才能真正考虑如何使用它。使用这种技术取决于政府制定的路线。」Pichai表示，监管机构在起草规则时应谨慎行事。
相比之下，微软总裁Brad Smith对此表达了两点不同的观点，他认为，面部识别技术在某些情况下是可以造福社会的，比如非政府组织可以使用它来寻找失踪的孩子。Smith说：「我真的不愿意讨论让人们禁用某项技术，人脸识别技术可以让久别的家人团聚。」他还说，如果能有一个合理的选择，让我们能用「手术刀」，而不是「切肉刀」来解决这个问题，那就不要一刀切都禁了。
Facebook首席执行官马克·扎克伯格近日还专门到访布鲁塞尔与Vestager会晤并讨论拟议的法规。扎克伯格在《金融时报》周末发表的观点文章中再次呼吁加强对AI和其他技术的监管，以帮助建立公众信任。「我们需要更多的监督和问责，」扎克伯格写道。「人们需要感觉到，全球技术平台是对某人的回应，因此监管应该让企业在犯错时承担责任。」
白皮书标志着一个新进程的开始，这一进程可能引导针对人工智能系统及其企业的新立法。独立研究员斯蒂芬妮·黑尔博士认为，委员会应暂停使用面部识别技术多年，以便就如何或是否可以合乎道德地使用这类系统征询专家的意见。而实际上，一些英国警察已经在公共场合使用面部识别系统。
英国警方使用人脸识别摄像头监控威尔士足球比赛的人群时，一些球迷捂着脸抗议。这项技术存在争议的一个迹象是，甚至一个邻近警察局的负责人也表示反对这项技术。南威尔士警方在卡迪夫体育场外部署了装有人脸识别的货车，作为长期试验的一部分。在这个试验项目中，警方实时扫描球迷，并拘留因过去行为不端而被列入黑名单的任何人。
英国拥有世界上最高密度的监控摄像头之一，几十年来，英国安全部门一直在公共场所使用摄像头，但是在2001年9月11日之后，英国还遭遇了国内恐怖袭击。伦敦大学学院的迈克尔·维尔表示，这份白皮书是一个「错失发展机会的计划」。「它过于专注于孤立的系统，而没有考虑周围的环境、商业模式、它的用途，以及推动人工智能的经济和政治体系。」
Veale博士补充说，包括GDPR在内的现有法律为防止滥用面部识别提供了保护，但是他认为，与其制定新的法律，不如把重点放在执行这些法律上。他个人已经向监管机构提交了针对科技公司的「几起」投诉，但他还没有被告知任何由此导致的行动。
在美国，一些政界人士对人脸识别软件的准确性和越来越多的使用也表示担忧。一些人脸识别技术错误地识别了女性和有色人种，公民自由和隐私团体对如何收集这些项目的数据表示担忧。但与欧盟的谨慎作风不同，美国白宫在2020年1月7日提出10条人工智能监管原则，要求避免联邦机构对人工智能应用的过度干预，强调监管的灵活性。
熟悉此事的官员告诉《国防一号》，美国国防部也将很快制定一套详细的规则，以管理如何开发和使用人工智能。2019年10月，美国国防创新委员会发布了一份规则草案，名为「关于人工智能的道德使用的建议」。五角大楼联合人工智能中心发言人阿罗·亚伯拉罕森中校说：「国防部已经进入采用人工智能原则的最后阶段，这些原则将在美国军方全面实施。」