与其畏惧人工智能,不如自我约束

作者: 赵广立, 黄辛

来源: 中国科学报

发布日期: 2019-09-20

李德毅院士在2019世界人工智能大会上强调,人工智能是人类智能的体外延伸,应视为工具而非威胁。他指出,人类应自我约束伦理道德和行为规范,而非担忧人工智能带来的潜在风险。

中国工程院院士、中国人工智能协会理事长李德毅在2019世界人工智能大会“科学前沿”主论坛上表示,人工智能就是人类智能的体外延伸,可以脱离意识而存在,应该将其看作一种工具。不是正在崛起的人工智能会给人类带来威胁,智能时代要约束的是人类的伦理道德和行为规范。

李德毅认为,意识和智能相互之间有很多典型案例,现在计算智能、围棋智能、聊天智能、驾驶认知智能都做得很好,甚至可以超过人,这说明人工智能可以成为脱离意识而存在的智能。他给出了自己的观点:“人工智能就是人类智能的体外延伸,它可以脱离意识而存在。作为机器人的造物主,人类不需要机器具有意识。为什么一定要机器具有意识呢,他是我们的工具多好?

只要能够按照人类需要,给我们开车、给我们做数学题、给我们人类服务不就可以了吗?我觉得人类会足够聪明,人类完全可以控制不让机器具有意识。” 李德毅在主题演讲中表示,人类的进化史就是一部制造或使用工具拓展人类能力的发展史,无论是从古代的斧头还是现在的原子弹都是动力工具,动力工具是人类体能的体外延伸,而人工智能是人类智能的体外延伸,都没有意识。

人类所担心的人工智能最大的冲击,是地球上突然有一种超越人类的新物种,这些未来的生命是人类的朋友还是人类的天敌?目前定论尚早,这种观点有点想太多太早了。他进一步解释说:“退一步讲,即使将来我们制造了能够区别物理边界的机器感知,还要有另外两个条件才能和人类对抗,那就是他们有自己的语言和文字了吗,他们有共同价值观了吗?目前看来也不可能。

即便满足了这些条件,其时间长度至少需要几百年甚至更长,而人类进化都用了几百万年。因此不是正在崛起的人工智能会给人类带来威胁,而是智能时代要约束人类的伦理道德和行为规范,关注生命科学中的伦理道德。

” 在李德毅看来,人类文明的传承、人类命运共同体的理性、人类智能的创造,形成了不可低估的人类对机器人的控制力,历史已经一而再、再而三地证明,人类一次次战胜恶势力后自己变得更加强大,人工智能时代可以使人类获得更加优雅、更加尊严、更加智慧的生活。

UUID: 1ff35b17-9989-4593-ae16-20a2fcabd6f9

原始文件名: /home/andie/dev/tudou/annot/AI语料库-20240917-V2/AI语料库/中国科学报公众号-pdf2txt/2019-2020/中国科学报_2019-09-20_李德毅:与其畏惧人工智能,不如自我约束.txt

是否为广告: 否

处理费用: 0.0024 元