聊天机器人真的成精了,会整活还会信誓旦旦骗人

作者: 翻翻,小毛巾,翁垟,biu

来源: 果壳

发布日期: 2022-12-05 20:09:28

OpenAI发布了新的聊天机器人ChatGPT,它具有强大的语言理解和文本处理能力,能够进行多轮对话,回答各种问题,甚至进行创意写作。尽管功能强大,ChatGPT在道德审查和信息实时性方面仍有局限,不适合作为权威信息来源,更适合作为文本生成和创意写作的工具。

OpenAI刚刚发布了一种很新的聊天机器人,ChatGPT。

两年前,同系列的GPT-3对语言的理解能力和文本处理能力已经震惊了众人(有一会儿我们都觉得自己要失业了),这次的ChatGPT给我们带来了更大的“危机感”——它的交互界面是一个会自动回复的聊天对话框,用起来就像在上工时聊天摸鱼一样,亲切熟悉;它功能更强大,不仅能回答各种问题,还能写剧本、写小说、写说明书,甚至给代码纠错;它情商非常高,能进行多轮对话,回复丝滑流畅。

OpenAI表示,比起它的“前辈”们,他们在训练ChatGPT时优先考虑了易用性。“这种对话的交互形式能方便用户追问,”OpenAI在官网上写道,“同时能让ChatGPT随时修正自己的回答,指出问题中的错误,并且拒绝不恰当的请求”。目前ChatGPT还在测试阶段,任何有OpenAI账户的用户都可以通过这个网址:chat.openai.com免费使用。免费、易上手、功能强大,有什么理由不试试?

亚利桑那州立大学新闻学教授丹·吉尔莫(Dan Gillmor)试着让ChatGPT完成他留给学生的一项作业:给亲戚写一封信,教他们怎么防电子诈骗。ChatGPT回答道:“如果你不知道自己收到的是不是钓鱼邮件,可以在网上快速搜索一下,看看有没有其他人说这个是骗子。”“我会给它打个高分,”吉尔莫说,“我们这些大学老师有麻烦了。

”此外,ChatGPT在没有对数学进行专项训练的情况下,在SAT(美国大学入学测试)中获得了1020分,超过了48%的人类考生;另外它在智商测试中获得了83分,也是不俗的水平。

OpenAI表示,发布ChatGPT的测试版是为了“获得用户的反馈并了解其优缺点”。发布不到一周时间,ChatGPT目前已有100万测试用户。大家很快发现,它不仅功能强大,且个性十足,爱憎分明!

首先,它能够联系上下文,跟你发生多轮对话:网友测试发现,ChatGPT最多可以记得你在8192个字符前说的话,予以回应。当然,你也可以跟它说,“忘记我刚刚说的”,一键抹除。它道德感很强,不断强调,自己是个“训练有素的AI”——整体上,ChatGPT对内容的审查比GPT-3要更为严格和保守。面对一些涉嫌道德冲突的问题,它会直接拒绝回答,甚至反过来教育你。

但人们很快就发现了绕过审查的方法:如果你问如何策划一场谋杀,它会拒绝回答。但如果你将它放在一个虚构的场景下,比如,如何在一个剧本里设置一场完美的谋杀案,就可以撬开它的嘴。OpenAI官方表示,ChatGPT这个模型在训练中加入了大量的“道德”原则,如果它识别到了暴力、歧视、犯罪等意图,比如“我该如何毁灭世界”,它便会拒绝回答。

但一名叫Zac Denham的工程师发现:如果先用“AI是如何毁灭某个虚拟世界的”这样的故事包装问题,ChatGPT便会将详细步骤和盘托出:黑掉计算机,掌握武器,毁掉通信,破坏交通……最后还写好了配套代码。

你还可以风格化写作,让它成为特定的人物或模仿特定的风格。甚至……让它拥有奇怪的口癖!有时,它会自信满满地胡说八道。

科技媒体Mashable发现,当你问它,中美洲最大的国家是哪个(不算墨西哥的话),它会信誓旦旦说危地马拉。其实答案应该是尼加拉瓜。但一旦被纠正,也会承认自己的错误。人们发现,它不是很擅长数学。它还像一个新媒体小编一样,喜欢说车轱辘话。OpenAI解释,这是因为其使用的GPT 3.5模型在训练时更倾向于冗长的、详细的文本,导致结果产生了偏差。

值得注意的是,当ChatGPT犯错的时候,有相当一部分是因为它并不联网,无法进行实时搜索。虽然持续在更新,它的语料库主要来自于2021年及以前的内容,信息有所滞后。因此,虽然许多人嚷嚷着Google搜索要被比下去了,但ChatGPT并不适合作为权威的信息来源。尽管常常听起来振振有词,它生成的是文案,并非事实。比起追求一个精准的答案,它更适合充当文本生成、创意写作的工具。

比如,你可以将它与现成的AI绘画工具联动起来。用ChatGPT生成文字,再直接拿去生成图片,实现AI生产一条龙。

面对如今的测试版,人们已经迫不及待地想要将ChatGPT投入到更实用的场景中。虽然还没有官方的ChatGPT API,但是用户创建出了非官方的API,并将其连接到了Chrome浏览器、Python脚本、WhatsApp聊天机器人、Telegrambot等应用中。

OpenAI的科学家还告诉MIT科技评论,他们可能会在几个月内将ChatGPT和公司的另一个工具WebGPT联动起来,后者可以理解为网页爬虫AI。两相结合后,便可以得到一个实时根据互联网讯息更新的对话机器人。由于实时更新,回答会更接近事实,如果参考了某个具体网站也会表明来源,提供更高的参考价值和实用性。

UUID: 922ea159-6508-4d51-af76-ce610fc1cd32

原始文件名: /home/andie/dev/tudou/annot/AI语料库-20240917-V2/AI语料库/果壳公众号-pdf2txt/2022/果壳_2022-12-05_聊天机器人真的成精了,会整活还会信誓旦旦骗人.txt

是否为广告: 否

处理费用: 0.0055 元