文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

你所不知道的机器学习五大学派

2024-11-29 22:10

关注

1.符号学派

符号学派(Symbolism),又称为符号主义,强调利用符号进行逻辑推理和表示知识。该学派认为学习是一种逆向演绎的过程,通过已有的知识和规则,从哲学、心理学和逻辑学中寻求洞见。

赫伯特·西蒙(Herbert Simon):符号学派的创始人之一,他与艾伦·纽韦尔(Allen Newell)共同提出了通用问题求解器(GPS)的概念。

艾伦·纽厄尔(Allen Newell):符号学派的创始人之一,他与赫伯特·西蒙(Herbert Simon)共同提出了通用问题求解器(GPS)的概念。

约翰·麦卡锡(John McCarthy):约翰·麦卡锡是人工智能领域的先驱之一,也是符号学派的代表人物。他在1956年提出了“人工智能”这一术语,并开发了LISP编程语言,LISP成为符号主义研究的重要工具。麦卡锡的工作主要集中在逻辑推理和知识表示上,他认为计算机可以通过符号来模拟人类的思维过程。

马文·李·闵斯基(Marvin Lee Minsky):麻省理工学院人工智能实验室的创始人之一,他提出了框架理论,并对人工智能领域做出了重大贡献。

符号学派的主算法是逆向演绎(Inductive Logic Programming, ILP)。逆向演绎通过从具体例子中抽取一般规则,利用逻辑推理来发现知识。

2.联结学派

联结学派(Connectionism),又称为连接主义,灵感来源于神经科学和物理学,强调对大脑进行逆向分析,模拟神经网络的结构和功能。该学派认为,智能是通过大量简单单元(神经元)之间的连接和相互作用产生的。

扬·勒坤(Yann LeCun):他开发了卷积神经网络,并成功应用于计算机视觉任务,如手写数字识别。勒坤的工作极大地推动了深度学习在实际应用中的发展。

杰弗里·辛顿(Geoffrey Hinton):深度学习的先驱,他提出了卷积神经网络(CNN)和深度信念网络(DBN)等重要架构。

约书亚·本吉奥(Yoshua Bengio):深度学习的先驱,他提出了长短期记忆(LSTM)网络等重要架构。

大卫·鲁梅尔哈特(David Rumelhart):心理学家,并行分布式处理(PDP)模型的创始人之一,他提出了反向传播算法。

弗兰克·罗森布拉特(Frank Rosenblatt):心理学家,感知机的发明者,他提出了感知机学习算法。

联结学派的主算法是反向传播(Backpropagation)。反向传播是一种通过计算损失函数的梯度来更新神经网络权重的算法,极大地提高了训练深层神经网络的效率。

3.进化学派

进化学派(Evolutionary Computation)受遗传学和进化生物学的启发,通过模拟生物进化过程来进行学习和优化。该学派的核心思想是利用选择、交叉和变异等遗传操作,在计算机上模拟生物进化过程,以寻找问题的最优解。

约翰·霍兰德(John Holland)

约翰·霍兰德是进化计算领域的先驱,他在20世纪60年代提出了遗传算法(Genetic Algorithm)。霍兰德的工作奠定了进化计算的基础,他提出的遗传算法利用自然选择和遗传操作来解决复杂的优化问题。

大卫·戈德伯格(David E.Goldberg)

大卫·戈德伯格在遗传算法的研究和应用方面做出了重要贡献。他的著作《遗传算法》详细介绍了遗传算法的理论和应用,使这一领域得到了广泛关注和发展。

进化学派的主算法是遗传编程(Genetic Programming, GP)。遗传编程是一种利用进化计算技术自动生成计算机程序的算法,通过模拟生物进化过程,逐步优化程序以解决特定问题。

4.贝叶斯学派

贝叶斯学派(Bayesianism)以统计学为基础,认为学习是一种概率推理的过程。该学派利用贝叶斯定理,通过更新先验概率分布来进行学习和推断。

托马斯·贝叶斯(Thomas Bayes)

托马斯·贝叶斯是一位英国数学家,他提出的贝叶斯定理成为贝叶斯推理的基础。尽管贝叶斯本人没有直接参与机器学习研究,但他的工作对贝叶斯学派的形成和发展具有重要意义。

朱迪亚·珀尔(Judea Pearl)

朱迪亚·珀尔在贝叶斯网络和因果推理方面做出了卓越贡献。他的发展了贝叶斯网络这一重要工具,使得复杂系统中的概率推理变得更加高效和直观。珀尔的工作在人工智能和统计学领域都有深远影响。

贝叶斯学派的主算法是贝叶斯推理(Bayesian Inference)。贝叶斯推理通过计算后验概率来进行预测和决策,在处理不确定性和复杂系统中具有显著优势。

5.类推学派

类推学派(Analogism)通过对相似性判断的外推来进行学习,受心理学和数学最优化的影响。该学派强调从已知实例中进行类比推理,以发现新知识和解决问题。

弗拉基米尔·瓦普尼克(Vladimir Vapnik)

弗拉基米尔·瓦普尼克是类推学派的重要代表人物之一,他与阿列克谢·柴尔文科(Alexey Chervonenkis)共同提出了支持向量机(Support Vector Machine, SVM)。支持向量机是一种基于统计学习理论的监督学习方法,广泛应用于分类和回归问题。

汤姆·迈克尔·米切尔(Tom Michael Mitchell)

汤姆·迈克尔·米切尔在机器学习领域有广泛贡献,他的著作《机器学习》是该领域的重要教材。科瓦斯基在类推学习和归纳逻辑编程方面的研究,为类推学派的发展提供了重要理论支持。

类推学派的主算法是支持向量机(Support Vector Machine, SVM)。支持向量机通过构建一个超平面来最大化不同类别之间的间隔,从而实现分类任务。在高维数据空间中,SVM表现出色,特别适用于复杂模式识别问题。

6.机器学习五大学派的比较

学派

代表人物

主要思想

主要算法

应用领域

符号学派

赫伯特·西蒙、艾伦·纽厄尔、约翰·麦卡锡、马文·李·闵斯基

学习是一种符号操纵的过程

逆向演绎

知识表示、自然语言处理

联结学派

扬·勒坤、杰弗里·辛顿、约书亚·本吉奥、大卫·鲁梅尔哈特、弗兰克·罗森布拉特

学习是一种模拟大脑神经网络的过程

反向传播

图像识别、语音识别、自然语言处理

进化学派

约翰·霍兰德、大卫·戈德伯格

学习是一种模拟生物进化的过程

遗传算法、进化策略

机器人控制、优化问题求解

贝叶斯学派

托马斯·贝叶斯、朱迪亚·珀尔

学习是一种概率推理的过程

贝叶斯定理

垃圾邮件过滤、医学诊断、信息检索

类推学派

弗拉基米尔·瓦普尼克、汤姆·迈克尔·米切尔

学习是一种通过对相似性判断的外推来进行的过程

基于类推的学习算法

推荐系统、案例推理、机器翻译

7.总结

机器学习的五大学派各具特色,从不同角度和理论基础出发,解决各种复杂的学习问题。符号学派强调逻辑推理和知识表示,联结学派模拟神经网络的结构和功能,进化学派利用生物进化过程进行优化,贝叶斯学派通过概率推理处理不确定性,类推学派则通过相似性判断进行类比推理。每个学派都有其代表人物和主要算法,他们的贡献共同推动了机器学习领域的发展和进步。

尽管这五大学派在理论和方法上各有差异,但它们并非相互排斥,而是可以互补和融合。在实际应用中,研究者常常结合多种方法,以应对复杂多变的问题。随着技术的发展和跨学科研究的深入,机器学习将继续在人工智能的各个方面发挥重要作用,带来更多创新和突破。

来源:兰花豆说网络安全内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯