OpenAI首席科学家:人类会选择成为AI的一部分吗?

作者: Will Douglas Heaven

来源: 学术头条

发布日期: 2023-11-06 08:25:01

OpenAI首席科学家Ilya Sutskever对AI、AGI、超级智能等有着独到的思考,他认为ChatGPT可能是有意识的,人类可能会选择与机器融合,并强调了超级对齐的重要性。

OpenAI首席科学家Ilya Sutskever对人工智能(AI)、通用人工智能(AGI)、超级智能(Super Intelligence)等有着独到的思考。他认为,ChatGPT可能是有意识的,世界需要清醒地认识到OpenAI和其他公司正在竞相创造的技术的真正力量。他还认为,总有⼀天⼈类会选择与机器融合。

Ilya Sutskever现在的⾸要任务不是制造下⼀个GPT或DALL-E,⽽是研究如何阻⽌超级智能体的失控。他认为,我们可以利用AGI做很多了不起的事情,例如,实现医疗自动化,使医疗成本降低⼀千倍,医疗效果提高⼀千倍,治愈很多疾病,以及真正解决全球变暖问题。

Ilya Sutskever说,超级对齐(superalignment)是不可避免的下⼀步,也是⼀个尚未解决的问题。他认为,像他这样的核心机器学习研究人员还没有投入足够的精力来解决这个问题。但是,更重要的是,不管是谁构建的超级智能体,都不能失控。超级对齐工作需要研究机构进行广泛的改革。不过,对于希望设计的保障措施,Ilya心中已经有了一个范例:一台能像父母看待孩子那样看待人的机器。

Ilya Sutskever认为,一旦你克服了失控AI带来的挑战,然后呢?在一个拥有更智能AI的世界里,人类还有生存空间吗?他说,有一种可能性就是,以今天的标准来看可能很疯狂,但以未来的标准来看就不那么疯狂了,那就是许多⼈会选择成为AI的一部分。这可能是人类试图跟上时代的方式。一开始,只有最大胆、最有冒险精神的人才会尝试这样做。也许其他人会跟进,或者不会。

UUID: 14c7986a-13e8-492b-973a-721c4840f9e2

原始文件名: /home/andie/dev/tudou/annot/AI语料库-20240917-V2/AI语料库/学术头条公众号-pdf2txt/学术头条2023年/学术头条_2023-11-06_人会选择成为AI的一部分吗?OpenAI首席科学家:这或是人类试图跟上时代的方式.txt

是否为广告: 否

处理费用: 0.0092 元