Excel可以有多坑?害英国漏报近1.6万新冠病例,专家表示高中生都知道更好的工具

作者: 科研圈

来源: 科研圈

发布日期: 2020-10-12

英国卫生部因Excel行数限制,漏报近1.6万新冠病例,数据专家质疑为何使用Excel进行大数据处理。

继遗传学家被Excel逼到给基因改名之后,又一个项目被Excel“坑”惨了。近日,英国卫生部发现因为Excel行数限制,大约16000个新冠肺炎病例未能及时纳入统计。但数据专家吐槽:为什么要用Excel?

近日,英国新冠肺炎确诊病例数量暴增16000例。这并非是因为哪里出现了疫情暴发,而是因为一个失误:Excel行数爆表了。由于英国卫生部使用了过时的Excel文件格式,统计数量很快超过了行数上限,当地时间9月28日到10月5日的新增病例没有被列入统计。公共卫生专家担心,统计延迟会影响接触者追踪,对疫情防控造成不利影响。而数据统计专家们纷纷表示,对于这样的项目根本不该使用Excel。

据BBC、《卫报》报道,英国新冠病毒检测的流程是由商业公司雇用实验室进行检测,检测结果以csv格式发送给卫生部,卫生部用程序将数据输入Excel表格,随后这些表格被发送到多个政府部门共享的系统。并且,他们使用的还是一种古早文件格式:xls。实验室提交的csv格式是文本形式的表格,数字之间用逗号分割,理论上可以有无限行。而在xls文件中,一个模板最多有65,536行。

在进行文件格式转换的时候,超出行数的部分会被系统直接删除。每个病例的检测结果要占好几行,那么一个模板大约能容纳1400个病例的数据。

事件曝光后,许多人批评英国卫生部居然使用了如此过时的文件:xls诞生于1987年。2007年发布的xlsx文件格式能够容纳1,048,576行,是xls格式的16倍。所以,如果使用更新版本的文件,冲破行数上限的问题就能来得晚一些,但那也只是时间问题。

谢菲尔德大学搜索和分析教授Paul Clough也在the Conversation发文评论了这一事件。他指出,虽然Excel很受欢迎,经常被用于数据分析,但它并不适合处理数据量太大的情况,或比较复杂的分析任务。Clough肯定了英国政府和公共卫生工作者这段时间的辛勤工作,但是,“这样的错误是可以避免的。我们生活在一个大数据的世界,人工智能和机器学习正在影响我们生活的方方面面。

我们有智能工厂、智能城市,我们有自动驾驶汽车和自动机器,它们展现了人的智能。然而,英国卫生部还在用Microsoft Excel作为处理大量敏感信息的媒介。这就是问题。”他写道。

剑桥大学计算机实验室通信系统教授Jon Crowcroft则更加直白地指出,连一个修过计算机课的高中生都知道,有更好的替代选择。他在接受BBC采访时评论:“Excel的作用是让小公司的人糊弄少量的数据,看看大致情况……如果你要完成一个更加严肃的任务,就该去找一个专用工具,有十几个这样的专用工具。但你不会用xls。没人用xls。”

英国卫生大臣Matt Hancock说,这个问题在于卫生部使用了一个“遗留系统”,他们两个月前已经决定替换掉这个系统。但BBC报道指出,卫生部应该没有预见这个问题,否则他们就该意识到,在新系统升级完成之前他们就会撞上Excel的统计极限。还有人要求Hancock公布其他的数据处理图表,以便发现其中潜在的缺陷。

据BBC报道,目前新的系统还未就位。英国卫生部的解决办法是将统计数据拆分,列入多个Excel表格,确保每个表格不会再出现行数溢出的情况。知情者承认,目前的老古董系统需要尽快被替换成Excel之外的专业工具。谢菲尔德大学的Clough教授评论:“这是个很糟糕的补救工作,没有根本上解决问题——问题是缺乏一个稳固的数据管理系统。”

由于Excel的广泛流行,被它“坑”过的项目实在数不胜数。就在两个月前,国际人类基因命名委员会(Human Gene Nomenclature Committee,HGNC)修改了27个人类基因的命名,因为Excel会将一些基因名称误读为日期格式,并直接修改成默认格式。一个更惨烈的案例发生在2013年:摩根大通交易员Excel操作失误,公司直接损失20亿美元,累计损失达60亿美元。

UUID: f05fbaf7-09d9-49df-bf98-e490929e5670

原始文件名: /home/andie/dev/tudou/annot/AI语料库-20240917-V2/AI语料库/把科学带回家公众号-pdf2txt/2019-2020/2020-10-12_Excel可以有多坑?害英国漏报近1.6万新冠病例,专家表示高中生都知道更好的工具.txt

是否为广告: 否

处理费用: 0.0048 元