近日,郭毅可院士在第三届上海人工智能大会发表主旨演讲。演讲题目为:人工智能的热望与冷思考。从伦理道德领域解释了对人工智能的冷静思考。
郭毅可,欧洲科学院院士、英国皇家工程院院士、香港浸会大学副校长。1985年本科毕业于清华大学计算机系,1986年硕士毕业于清华大学计算机系,1993年博士毕业于伦敦大学帝国理工学院计算机系。
伦敦大学帝国理工学院计算机系计算机科学教授,上海生物信息技术研究中心客座教授、首席科学家,帝国理工学院并行计算中心技术总监,伦敦E-Science研究中心首席科学家,英国InforSense有限公司董事会主席兼首席执行官。是国际知名的数据科学研究先驱,领导开发数据分析和机器学习的创新科技。他近年集中研究数据科学和数据挖掘在生命科学、医疗保健、环境科学和创意设计等方面的应用。
大家都知道这几年人工智能的发展,大家都抱有很大的希望,在这个希望中间我们也看到人工智能的发展刚刚开始,有许多重要的问题需要研究,从这个意义上来说,我们需要用冷静的头脑思考它的发展方向,来考虑一些根本性的问题。
人工智能的发展要素包括:高质量的数据资源、大数据;处理数据非常好的学习算法;支撑算法的算力。我们怎么样获得这些大数据?这需要有一个很好的基础架构,也就是需要有一个很好的数据生态环境,数据资产化技术,也就是今天发展很快的区块链技术。
如何把人工智能利用到实际过程当中去,用到生活中?这中间需要一个非常重要的能力——交互能力。在人和机器在一起的时候,我们的形式变化,也是支撑人工智能发展的一个重要的因素。如果我们不重视这个因素的话,那么人工智能的发展也不可能健康,也很难取得进步。
人工智能的发展方向包括:机器学习的内涵;从认知学角度看机器学习;机器学习的表达形式;机器行为;机器学习应用的伦理思考。
人工智能研究的重要问题包括:如何向机器表达对的目的,也是未来的重要问题。未来的人工智能,我们不求让机器做的多,而是要求机器做的对。做的多应该是相对容易的,但是要机器做的对,就不是那么容易了,我们这里面考虑的是什么是对,这个行为原则,如何向机器表达对的目的,告诉你怎么做什么事情,怎么告诉是准确,怎么样告诉是有效,怎么样告诉是真正的能够表达的清晰一点,这又是一个问题。
如何判断机器做的对不对,假定说我已经表达的很清楚了,以前的结果和现在的结果有一个验证。还有一种理解机器做的对的缘由,机器行为的解释和验证,这些都是需要论证的。
人工智能的今天和明天,人机共生世界,在人机共生的社会中,人和机器的互相交流是最重要的,人要理解机器的行为,机器要理解人的意图。对机器行为的解释,理解和验证,以及机器行为的伦理性是人工智能研究的核心课题。
学习的可解释性是一个方向,还有一个方向就是向机器表达,作为对机器行为的解释和验证,以及机器行为的伦理是核心的问题,在没有解决这些问题之前,或者说这些问题没有被深入理解之前,我们奢谈人工智能将来什么样,人工智能会不会导致机器统治人类来为时过早。
我们不要神话它:它是实实在在的算法。我们不要害怕它:它是不可避免的未来。我们不要轻视它:它会改变我们的社会。我们不要忽悠它:它不是靠钱可以堆出来的。我们要以我们东方文明特有的包容来研究和应用它,把它作为我们社会新的存在,想如何和它共处。