多国医学专家警告:AI将威胁数百万⼈健康,应暂停开发

来源: BMJ Global Health

发布日期: 2023-05-10 12:15:04

多国医学专家警告,AI可能对人类健康和生存构成威胁,呼吁暂停开发通用人工智能(AGI),直到建立有效的监管机制。专家指出,AI在医疗领域的应用可能带来负面影响,如数据隐私问题、加剧社会不平等,以及大规模失业对精神健康的冲击。此外,AI还可能通过影响健康的社会决定因素,对全球数百万人的健康造成危害。

多国医⽣和公共卫⽣专家呼吁,应停⽌开发通⽤⼈⼯智能(AGI),直到对其进⾏监管为⽌。AI有潜⼒通过改善疾病诊断、找到更好的治疗⽅法和扩⼤医疗保健覆盖范围等⽅式,彻底改变医疗保健。但是,来⾃⻢来⻄亚、英国、美国、澳⼤利亚、哥斯达黎加的医疗专业⼈员在科学期刊BMJ Global Health上发⽂表示,AI也可能产⽣负⾯健康影响。

在他们看来,与医学和医疗保健相关的⻛险包括“AI错误可能导致患者受伤、数据隐私和安全问题,以及将AI⽤于加剧社会和健康不平等的⽅式”。他们举例说,使⽤基于AI的脉搏⾎氧仪会⾼估⽪肤较⿊的患者的⾎氧⽔平,导致他们的低氧⾎症得不到充分治疗。但他们还警告说,AI还会对⼈类健康甚⾄⼈类⽣存产⽣更⼴泛的全球威胁。

AI可能通过影响健康的社会决定因素危害数百万⼈的健康,如对⼈的控制和操纵,使⽤致命的⾃主武器,以及⼤规模失业对精神健康的影响。他们声称,“当与快速改进的深度伪造(deep fakes)技术相结合时,基于AI的信息系统可能会进⼀步破坏⺠主,破坏信任,推动社会分裂和冲突,并引发公共卫⽣影响。”与⼴泛部署AI技术相伴随的⼯作丧失也带来了威胁,估计在未来⼗年内失业⼈数将达到数千万⼈。

他们表示:“虽然结束重复、危险和不愉快的⼯作将带来许多好处,但我们已经知道失业与不良健康结果和⾏为密切相关。”“此外,我们不知道社会将如何在⼼理和情感上对⼀个没有⼯作或⼯作不再必要的世界做出反应,我们也没有更多地考虑打破失业与健康问题之间联系所需的政策和策略,”他们说道。他们认为,⾃我改进的AGI可能构成的威胁将是⽆处不在的。“我们现在正在努⼒创建⽐我们更聪明、更强⼤的机器。

这些机器应⽤这种智能和⼒量的可能性,⽆论是有意还是⽆意地,或者对⼈类造成伤害,都是现实存在的问题,且必须加以考虑。”随着AI研究与发展的指数级增⻓,避免严重甚⾄可能导致灭绝性的危害的机会正在逐渐减少。他们警告说:“需要有效监管AI的开发和使⽤,以避免危害。在建⽴这种监管机制之前,应该暂停⾃我改进的AGI的进⼀步开发。

”另外,在英国,⼀个由健康专家、独⽴事实核查⼈员和医疗慈善机构组成的联盟,呼吁政府修改即将出台的⽹络安全法案,采取⾏动打击健康虚假信息。“我们保护医疗保健系统未来的⼀个关键途径是,确保互联⽹公司在如何识别其平台上出现的有害健康错误信息⽅⾯制定明确的政策,并采取⼀致的处理⽅法,”该团体在致英国科技、创新和科技国务⼤⾂Chloe Smith的公开信中写道。

“这将为⽤户提供更多的保护,改善信息环境,并增强对公共机构的信任。”该信件由英国⼼脏基⾦会、皇家全科医师学院和Full Fact等机构签署,并呼吁英国政府在该法案中增加⼀个新的具有法律约束⼒的职责,这将要求最⼤的社交⽹络在其服务条款中增加新的规则,管理其对基于健康的虚假信息的审查⽅式。

Full Fact的⾸席执⾏官Will Moy表示:“如果没有这⼀修正案,在涉及有害健康虚假信息时,⽹络安全法案将毫⽆⽤处。”

UUID: bf8fa44d-51e2-46a9-83b4-872b0ea126e7

原始文件名: /home/andie/dev/tudou/annot/AI语料库-20240917-V2/AI语料库/学术头条公众号-pdf2txt/学术头条2023年/学术头条_2023-05-10_多国医学专家警告:AI将威胁数百万人健康,应暂停开发.txt

是否为广告: 否

处理费用: 0.0041 元