机器学习算法导论（摘自赵卫东《机器学习》）

最新推荐文章于 2025-03-05 22:46:08 发布

Jackson95

最新推荐文章于 2025-03-05 22:46:08 发布

阅读量2.2k

点赞数

CC 4.0 BY-SA版权

本文链接：https://blog.csdn.net/terminator_for_ever/article/details/105096249

本文介绍了机器学习的三大类别：监督学习（如逻辑回归、决策树）、无监督学习（如聚类、关联分析）和强化学习。监督学习涉及分类和数字预测，无监督学习包括聚类和关联分析，而强化学习则依赖于环境反馈。机器学习任务包括回归、分类、聚类和关联分析，深度学习作为重要的分支，适用于多种场景。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

一、算法分类

机器学习算法是一类从数据中自动分析获得规律，并利用规律对未知数据进行预测的方法，可以分成下面几种类别：监督学习、无监督学习、强化学习。

（1）监督学习是从有标记的训练数据中学习一个模型，然后根据这个模型对未知样本进行预测。其中，模型的输入是某一样本的特征，函数的输出是这一样本对应的标签。常见的监督学习算法包括回归分析和统计分类。监督学习包括分类和数字预测两大类，前者包括逻辑回归、决策树、KNN、随机森林、支持向量机、朴素贝叶斯等，后者包括线性回归、KNN、Gradient Boosting和AdaBoost等。

（2）无监督学习又称非监督式学习，它的输入样本并不需要标记，而是自动从样本中学习特征实现预测。常见的无监督学习算法有聚类和关联分析等，在人工神经网络中，自组织映射（SOM）和适应性共振理论（ART）是最常用的无监督学习。

（3）强化学习是通过观察来学习做成什么样的动作。每个动作都会对环境有所影响，学习对象根据观察到的周围环境的反馈来做出判断。强化学习强调如何基于环境而行动，以取得最大化的预期利益。其灵感来源于心理学中的行为主义理论，即有机体如何在环境给予的奖励或惩罚的刺激下，逐步形成对刺激的预期，产生能获得最大利益的行为习惯。

二、任务分类

根据机器学习的任务分类，可以分为回归、分类、聚类三大常见机器学习任务。某些机器学习算法可能同时属于不同的分类，如深度学习算法可能存在于监督学习，也可能用于强化学习，在实践过程中可依据实际需要进行选择。

（1）分类算法：主要的分类算法包括决策树、支持向量机（Support Vector Machine，SVM）、最近邻（K-Nearest Neighbor，KNN）算法、贝叶斯网络（Bayes Network）和神经网络等。

（2）聚类算法：聚类方法可以基于层次的聚类（Hierarchical Method）、基于划分的聚类（Partition Method，PAM）、基于密度的聚类、基于约束的聚类、基于网络的聚类等。聚类应用领域广泛、可以用于发现不同的企业客户群体特征