中国人工智能奠基者张钹:现在的人工智能技术不安全、不可靠、不可信

作者: 张钹

来源: 凤凰网科技

发布日期: 2023-07-08 12:18:14

张钹院士通过ChatGPT的案例,指出了当前人工智能技术的不安全、不可靠、不可信问题,强调了人工智能治理的必要性,并提出只有深入理解人工智能的内部工作原理,才能找到其发展的关键。

中国人工智能领域泰斗级专家张钹,早在40多年前就开始投身人工智能领域研究,发表了中国第一篇人工智能领域的学术论文、获得中国在人工智能领域的第一个国际重要奖项、领衔成立国内首个智能机器人实验室、培养了本土第一位人工智能领域博士毕业生,组建中国第一个人工智能国家重点实验室……这些“第一”树立了中国人工智能发展的一个个里程碑,推动中国在此领域大踏步前进。

作为中国人工智能主要奠基者和发展推动者,40多年来,张钹矢志不渝致力于中国人工智能领域的创新,发表或共同发表了数百篇学术论文,出版系列专著。他获得了诸多奖项,其中包括ICL欧洲人工智能奖、国家自然科学三等奖、国家科技进步三等奖、国家教委科技进步一、二等奖、电子工业部科技进步一等奖以及国防科工委科技进步一等奖。

一年前,中国科学院院士、清华大学人工智能研究院名誉院长张钹询问了还处于实验室阶段的ChatGPT一个简单的问题:清华大学校歌歌词是什么?ChatGPT没有回答正确,反而开始胡说八道,张钹当场指正并输入了正确的校歌歌词。但退出后再度进入,ChatGPT的答案依旧是错的,此后张钹数度询问,ChatGPT依旧无法给出清华大学校歌的正确回答。

他通过这个案例,指出了ChatGPT三个不可避免的缺点,他认为,这些情况说明ChatGPT的输出往往不会符合我们道德、伦理、政治的要求。所以ChatGPT出现以后,人工智能的治理不可避免。

他在2023世界人工智能大会上表示,只有彻底把以ChatGPT为代表的大模型与生成式人工智能的内部工作原理搞清楚,才能找到人工智能发展的“金钥匙”。

UUID: af304541-376d-4e60-84ee-246622b22cd4

原始文件名: /home/andie/dev/tudou/annot/AI语料库-20240917-V2/AI语料库/学术头条公众号-pdf2txt/学术头条2023年/学术头条_2023-07-08「转」_中国人工智能奠基者张钹:现在的人工智能技术不安全、不可靠、不可信.txt

是否为广告: 否

处理费用: 0.0075 元