机器学习期末复习

### 机器学习期末考试复习重点和总结 #### 复习目标 机器学习课程的期末考试通常会覆盖理论基础、算法实现以及实际应用等多个方面。根据已有的参考资料[^1][^2]，以下是针对机器学习期末考试的重点内容梳理。 --- #### 考试范围概述 考试主要分为两大部分： 1. **课后习题及线上作业**（占总分80%）。这部分题目来源于教材中的练习题以及在线平台的学习通作业。考生应重点关注这些资源并熟练掌握解答方法。 2. **课本内容的理解**（占总分20%）。此部分内容不局限于课后习题，需深入理解核心概念及其应用场景。 成绩构成如下： - 期末考试占比70%； - 平时成绩占比30%，其中学习通作业占20%，考勤占10%。 考试时间为6月10日（第15周周四）下午5-6节课，考场位于计算机学院环安楼8-410教室[^2]。 --- #### 各章节复习要点 ##### 第1章 绪论 - 掌握机器学习的基本定义与分类（监督学习、无监督学习、强化学习等）。 - 理解常见术语：特征、标签、训练集、测试集等的概念。 - 学习不同场景下如何选择适合的算法[^1]。 ##### 第2章 模型评估与选择 - 熟悉常用的性能度量指标，如准确率、召回率、F1分数、ROC曲线等。 - 掌握交叉验证的方法及其作用。 - 明确偏差-方差权衡的意义，并能分析其对模型的影响[^1]。 ##### 第3章 线性模型 - 深入了解线性回归与逻辑回归的工作原理及适用条件。 - 记住损失函数的形式（均方误差MSE、交叉熵Loss等），并学会推导梯度下降法更新参数的过程。 - 对正则化技术有清晰认识，包括L1正则化（Lasso）、L2正则化（Ridge）的作用及区别[^1]。 ##### 第4章 决策树 - 理解ID3、C4.5、CART三种经典决策树算法的区别与联系。 - 掌握信息增益、信息增益比、基尼指数等分裂准则计算公式。 - 关于过拟合问题，熟悉预剪枝和后剪枝两种策略的具体操作步骤[^3]。 ##### 第6章 支持向量机(SVM) - 清楚SVM的核心思想——最大化间隔原则。 - 熟练运用核技巧解决非线性可分情况下的分类任务。 - 牢记软间隔的支持向量机优化目标形式及其约束条件[^1]。 ##### 第7章 贝叶斯分类器 - 掌握朴素贝叶斯假设前提即属性之间相互独立这一重要特性。 - 能够灵活转换概率表达式利用贝叶斯定理完成预测工作。 - 注意平滑处理拉普拉斯修正的应用场合以避免零概率现象发生[^1]。 ##### 第8章 集成学习 - 理解Bagging, Boosting两大类集成框架的思想差异。 - 具体记住随机森林(Random Forest)，Adaboost等相关算法细节描述。 - 结合实例说明为什么集成方法往往可以获得更好的泛化能力[^1]。 --- #### 实践建议 除了理论知识外，还需要通过编程实践加深印象。推荐使用Python语言配合Scikit-Learn库来实现上述提到的各种算法。例如： ```python from sklearn.model_selection import train_test_split from sklearn.linear_model import LogisticRegression from sklearn.metrics import accuracy_score # 加载数据集 X, y = load_data() # 划分训练集与测试集 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2) # 初始化逻辑回归模型 model = LogisticRegression() # 训练模型 model.fit(X_train, y_train) # 测试模型 y_pred = model.predict(X_test) # 输出准确率 print(f'Accuracy: {accuracy_score(y_test, y_pred)}') ``` 以上代码片段展示了如何快速搭建一个简单的逻辑回归实验环境[^1]。 ---