机器学习的前世今生:一段波澜壮阔的历史

来源: DataCastle

发布日期: 2016-10-26 09:25:32

机器学习的发展历程从20世纪50年代的基础奠定,到60年代的停滞,再到70年代末的复兴,90年代的成型,直至21世纪的蓬勃发展,展现了其在人工智能领域的重要性。其起源与哲学问题的探索密切相关,融合了多学科的知识,经历了多次技术革新与理论突破。

AlphaGo的胜利,无人驾驶的成功,模式识别的突破性进展,人工智能的飞速发展一次又一次地挑动着我们的神经。作为人工智能的核心,机器学习也在人工智能的大步发展中备受瞩目,光辉无限。

如今,机器学习的应用已遍及人工智能的各个分支,如专家系统、自动推理、自然语言理解、模式识别、计算机视觉、智能机器人等领域。但也许我们不曾想到的事机器学习乃至人工智能的起源,是对人本身的意识、自我、心灵等哲学问题的探索。而在发展的过程中,更是融合了统计学、神经科学、信息论、控制论、计算复杂性理论等学科的知识。

总的来说,机器学习的发展是整个人工智能发展史上颇为重要的一个分支。其中故事一波三折,令人惊讶叹服,颇为荡气回肠。

基础奠定的热烈时期

20世纪50年代初到60年代中叶,Hebb于1949年基于神经心理学的学习机制开启机器学习的第一步。此后被称为Hebb学习规则。Hebb学习规则是一个无监督学习规则,这种学习的结果是使网络能够提取训练集的统计特性,从而把输入信息按照它们的相似性程度划分为若干类。这一点与人类观察和认识世界的过程非常吻合,人类观察和认识世界在相当程度上就是在根据事物的统计特征进行分类。

1950年,阿兰·图灵创造了图灵测试来判定计算机是否智能。图灵测试认为,如果一台机器能够与人类展开对话而不能被辨别出其机器身份,那么称这台机器具有智能。这一简化使得图灵能够令人信服地说明“思考的机器”是可能的。2014年6月8日,一台计算机成功让人类相信它是一个13岁的男孩,成为有史以来首台通过图灵测试的计算机。

1952年,IBM科学家亚瑟·塞缪尔开发了一个跳棋程序。该程序能够通过观察当前位置,并学习一个隐含的模型,从而为后续动作提供更好的指导。塞缪尔发现,伴随着该游戏程序运行时间的增加,其可以实现越来越好的后续指导。

1957年,罗森·布拉特基于神经感知科学背景提出了第二模型,非常的类似于今天的机器学习模型。这在当时是一个非常令人兴奋的发现,它比Hebb的想法更适用。基于这个模型,罗森·布拉特设计出了第一个计算机神经网络——感知机。3年后,维德罗首次使用Delta学习规则用于感知器的训练步骤。这种方法后来被称为最小二乘方法。

1967年,最近邻算法出现,由此计算机可以进行简单的模式识别。kNN算法的核心思想是如果一个样本在特征空间中的k个最相邻的样本中的大多数属于某一个类别,则该样本也属于这个类别,并具有这个类别上样本的特性。

停滞不前的冷静时期

20世纪60年代中叶到70年代末,从60年代中到70年代末,机器学习的发展步伐几乎处于停滞状态。虽然这个时期温斯顿的结构学习系统和海斯·罗思等的基于逻辑的归纳学习系统取得较大的进展,但只能学习单一概念,而且未能投入实际应用。此外,神经网络学习机因理论缺陷未能达到预期效果而转入低潮。

重拾希望的复兴时期

20世纪70年代末到80年代中叶,从70年代末开始,人们从学习单个概念扩展到学习多个概念,探索不同的学习策略和各种学习方法。1980年,在美国的卡内基梅隆大学召开了第一届机器学习国际研讨会,标志着机器学习研究已在全世界兴起。

现代机器学习的成型时期

20世纪90年初到21世纪初,1990年,Schapire最先构造出一种多项式级的算法,对该问题做了肯定的证明,这就是最初的Boosting算法。1995年,Freund和Schapire改进了Boosting算法,提出了AdaBoost算法,该算法效率和Freund于1991年提出的Boosting算法几乎相同,但不需要任何关于弱学习器的先验知识。

大放光芒的蓬勃发展时期

21世纪初至今,在机器学习发展分为两个部分,浅层学习和深度学习。浅层学习起源上世纪20年代人工神经网络的反向传播算法的发明,使得基于统计的机器学习算法大行其道。神经网络研究领域领军者Hinton在2006年提出了神经网络Deep Learning算法,使神经网络的能力大大提高,向支持向量机发出挑战。

总结

人工智能机器学习是诞生于20世纪中叶的一门年轻的学科,它对人类的生产、生活方式产生了重大的影响,也引发了激烈的哲学争论。但总的来说,机器学习的发展与其他一般事物的发展并无太大区别,同样可以用哲学的发展的眼光来看待。机器学习的发展并不是一帆风顺的,也经历了螺旋式上升的过程,成就与坎坷并存。

UUID: 318932df-3032-4c33-bc2a-b26d580ba72b

原始文件名: /home/andie/dev/tudou/annot/AI语料库-20240917-V2/AI语料库/中科院物理所公众号-pdf2txt/2016/中科院物理所_2016-10-26_机器学习的前世今生:一段波澜壮阔的历史.txt

是否为广告: 否

处理费用: 0.0123 元