最容易被ChatGPT抢饭碗的科学家,竟然真的是数学家?

作者: 杜若云

来源: 科研圈

发布日期: 2023-04-07 07:02:33

OpenAI发布了第一批可接入ChatGPT的插件,这些插件使得ChatGPT的功能更加强大,尤其是在接入Wolfram插件后,ChatGPT的计算能力显著提高。研究显示,数学家的职业暴露程度达到了100%,意味着ChatGPT可能会极大地影响数学家的工作方式,但同时也可能提高他们的工作效率。此外,随着AI技术的进步,隐私问题也变得越来越重要,如何确保用户隐私安全成为AI公司的重要任务。

北京时间3月23日,OpenAI发布了第一批可接入ChatGPT的插件。这些插件由11个第三方提供,同时OpenAI官方也提供了两个官方插件Browsing和Code Interpreter。

根据OpenAI官网的介绍,第三方的插件可以用来查询航班,订机票(Expedia,KAYAK),对比商品价格,购物(Klarna Shopping,Shop,Instacart),检索实时消息(FliscalNote),进行数学计算(Wolfram),学习语言(Speak)等等。在这些插件的加持下,ChatGPT终于可以走出2021年之前的世界,与当下“联网”了。

第三方的插件使得ChatGPT更加强大。作为大型语言模型(LLM)神经网络,ChatGPT强大的生成文本材料能力有目共睹,但它并不能去做复杂的计算推理工作,也无法系统地产出正确的数据。但在接入计算功能强大的Wolfram插件后,ChatGPT不仅可以做这些事情,在计算层面上“胡言乱语”的习惯也可以被改正。

通过简单的检查我们发现,在没有接入Wolfram插件时,ChatGPT给出了一个“看起来过程很完美”但是结果完全错误的回答,但是在接入Wolfram插件后的回答是完全正确的。那么,这个插件是如何避免ChatGPT“胡说”的?解决方法听起来很简单:ChatGPT会通过插件将问题发送给WolfrmAlpha进行计算,然后根据返回的结果来“决定”回答什么。

对于与现实世界有关的问题,ChatGPT也可以靠这种方法给自己打上“补丁”。比如向无插件版ChatGPT提问土耳其的畜牧数量有多少时,它“郑重其事”地引用了土耳其统计局(Turkish Statistical Institute),并“编造”了一个看似合理的数据。

当使用接入Wolfram插件的ChatGPT时,这个回答和WolframAlpha中给出的答案完全相同,这也从侧面验证了该插件的工作原理。

目前,Wolfram和ChatGPT的联动,仅限于ChatGPT将用户用自然语言询问的问题通过插件发送给WolframAlpha。

由于WolfrmAlpha的构建初衷就是处理各种“混乱”的类人自然语言并给出答案,因此它可以处理来自ChatGPT的用户询问,并通过插件返回答案。因此目前的Wolfram插件对于ChatGPT是一个简单版本,未来也许可以通过训练使ChatGPT“搞懂”更复杂强大的Wolfram语言,这对于ChatGPT的计算能力提高更为关键,对科研职业的作用也更为明显。

根据OpenAI最近发表在预印本网站arXiv.org上的研究论文,我们可以看到不同职业对于GPT的“暴露”程度。这里的“暴露”是指将完成任务的时间减少至少一半,即当“暴露”程度达到100%,GPT能至少帮你将完成任务的时间减少一半。不同职业的“暴露”程度有所不同,最令人惊讶的是,数学家的暴露程度超越了很多看似技术含量不太高的工作,达到了100%。

从论文发表的时间来看,这些数据是GPT-4发布后和ChatGPT插件发布前的数据,但从插件的作用和机制来看,插件的引入或许导致这些职业的“暴露”程度更高,同时会减少用户检查ChatGPT是否在“胡说八道”的时间。但这并不意味数学家将被取代,他们可以将大量繁琐的计算和代码工作交给ChatGPT来完成。这将大大提高科学家的工作效率,让他们有时间思考并进行原创性工作。

目前来看,这些职业是否会被AI取代,取决于后者的未来发展,但这毫无疑问会深刻改变我们的生活生产方式。OpenAI公共政策主管Anna Makanju表示:“这项技术将深刻改变我们的生活方式。我们现在仍有时间来指导其发展轨迹、限制滥用并确保最广泛有益的结果。”

除了职业安全问题,我们还需要关心一下自己的隐私。

担心“聪明”的ChatGPT“窃取”用户隐私是一个AI诞生起就如形随形的问题,而第三方插件的引入使得这个问题更加复杂——我们难以保证这些插件不会利用ChatGPT获得用户隐私来牟利。3月20日,ChatGPT出了一个几乎引发全网骚动的bug,一些用户可以在自己的聊天页面里看到他人的聊天记录。OpenAI不得不将ChatGPT强制下线修复,这令大批打工人叫苦不迭。

更糟糕的是,ChatGPT下线的几个小时里,一部分活跃用户的姓名、电子邮件地址、支付地址、信用卡号的最后四位和信用卡到期时间也被泄露,尽管OpenAI官方认为泄露的数据量很少,但如何采取措施确保用户隐私安全将成为所有AI公司的首要任务。

UUID: 69554cac-a726-4b33-aca6-52cb83c2626b

原始文件名: /home/andie/dev/tudou/annot/AI语料库-20240917-V2/AI语料库/科学大院公众号-pdf2txt/2023年/科学大院_2023-04-07「转」_最容易被ChatGPT抢饭碗的科学家,竟然真的是数学家???.txt

是否为广告: 否

处理费用: 0.0065 元