西瓜书笔记 吴恩达参考 1-13

一、为什么要学习神经网络 神经网络实际上是一个相对古老的算法，并且后来沉寂了一段时间，不过到了现在，它又成为许多机器学习问题的首选技术。我们已经有线性回归和逻辑回归算法了，为什么还要研究神经网络？ 我们首先来看几个机器学习问题作为例子，这几个问题的解决，都依赖于研究复杂的非线性分类器考虑这个监督学习分类的问题。 我们已经有了对应的训练集，如果利用逻辑回归算法来解决这个问题。 首先需要构造一个包含很多非线性项的，逻辑回归函数这里g仍是s型函数 (即f(x)=1/(1+e^-x) ) 。我们能让函数包含很多像这

一、基本运算 1、基本计算 1+1、1-1、1*1、1/1、2^3、1 == 2、1 ~= 2（不等于）、1 && 0、1 || 0、xor(1，0) [0:0.01:0.98] //取从0到0.98的所有值，精度0.01 2、矩阵和向量 定义矩阵： A = [1 2；3 4；5 6] 索引第三行第二列：A(3,2) 给矩阵A增广一列：A = [A ,[1 ;2 ;3 ] ] 把A中的所有元素组成一个列向量：A( : ) 定义行/列向量：a=[1 2 3] / a = [1 ;2 ;3

西瓜书笔记第一章、模型评估与选择 第一章、模型评估与选择 经验误差与过拟合 训练误差：经验误差， 泛化误差：测试误差， 过拟合和欠拟合：过拟合通常变现为学习能力过强，对于训练数据集具有很好的表现，而对于测试数据集变现却不好。欠拟合反之。 评估方法 留出法：即从样本中留出一部分作为测试集。 交叉验证法：将样本划分为k个互斥集合，每次用k-1个集合作为训练数据，剩余的作为测试数据。 自助法：每次随机...

点击有惊喜 在刚刚过完的7天年假里，大数据文摘和184位小伙伴一起学习了吴恩达《Deep Learning Specialization》和李飞飞《CS231n：Convolutional Neural Networks for Visual Recognition》部分课程，点击这里查看第一期打卡精彩笔记。 经过一周短暂的休整和总结，第二期课程打卡学习活动开启啦！

关于机器学习的一些推荐 文章目录关于机器学习的一些推荐前言书籍1.西瓜书2.南瓜书3.统计学习方法4.机器学习实战课程1.吴恩达机器学习2.李宏毅机器学习 前言 工欲善其事，必先利其器。 想要学习“机器学习”，手里没点学习资料是不行的。这里给出一些机器学习领域较为经典和著名的书籍和课程的推荐，看好书、听好课，才能更好地进步。 当然，机器学习也是一门实践性很强的学科，看完视频和书籍，学习基础知识之后，千万要记得上机写写代码。切记，一定要动手实践。 书籍 1.西瓜书 西瓜书由南京大学周志华教授所写，是机器学习

深度学习多分类，OvR,OvO,OvA,MvM,ECOC,softmax

聚类

目录决策树ID3C4.5CART(classfication and regression tree, 分类与回归树) 决策树 决策树的三个重点：特征选择、构造决策树、决策树的修剪 三种决策树：ID3、C4.5、CART ID3 特征选择的方法是 信息增益 信息增益越大表示使用这个特征来划分所获得的纯度提升越大 缺点： ID3 没有剪枝策略，容易过拟合； 信息增益准则对可取值数目较多的特征有所偏好，类似“编号”的特征其信息增益接近于 1； 只能用于处理离散分布的特征； 没有考虑缺失值。 C4.

目录仍在更新中。 第一章 绪论 1.1 引言 1.2 基本术语

1. 写在前面 寒假在家的时间想重新阅读周志华老师的《机器学习》， 第一是找工作需要，第二是内在驱动，自己也确实想学习关于算法的一些底层知识了， 吴军老师在《数学之美》里面说: “技术分为道和术两种， 具体的做事方法是术， 做事的原理和原则是道， 追求术的人一辈子工作很辛苦，而只有掌握了事情的本质和精髓才能在工作中游刃有余”， 西瓜书我觉得应该就是道的层面去总结机器学习， 虽然我感觉这本书对初学者不是很友好 ，因为我第一次读这本书的时候是上一年比这早些时候， 那时候给我的体会是完全不知所云或者是停留在皮毛根

文章目录0. 前言1. 拉格朗日乘子法2. SVM参数求解方法3. 软间隔4. 核方法5. 支持向量回归 如果这篇文章对你有一点小小的帮助，请给个关注，点个赞喔，我会非常开心的~ 0. 前言 在样本空间中，划分超平面可通过线性方程wTx+b=0w^Tx+b=0wTx+b=0决定。 严格的说，对超平面设置上界和下界，如下图所示（图源：机器学习）： 并满足： {wTxi+b⩾+1, y...

机器学习使计算机能够从数据中学习，并做出预测或决策。核心概念：数据（Data）：机器学习的基础，用于训练模型的原始信息。模型（Model）：从数据中学习得到的算法或规则，用于预测新数据的结果。学习算法（Learning Algorithm）：用于从数据中提取信息并构建模型的计算过程。工作流程：数据收集：收集用于训练模型的数据。数据预处理：清洗和转换数据，使其适合用于训练。选择模型：根据问题的性质选择合适的机器学习算法。训练模型：使用学习算法从数据中学习，构建模型。评估模型。

文章目录0. 前言1. 半监督SVM2. 半监督k-means2.1. 约束k-means2.2. 约束种子k-means3. 协同训练算法 如果这篇文章对你有一点小小的帮助，请给个关注，点个赞喔，我会非常开心的~ 0. 前言 半监督学习中部分样本有标记，部分样本无标记。 半监督学习可分为两种： 纯半监督学习：希望学得的模型适用于未观察到的数据 直推学习：希望对数据集中未标记的样本进行预测 ...

这个系列博客是记录参加datawhale组织的机器学习自学打卡，主要对周志华老师的西瓜书进行学习自行整理的笔记，笔记中有错误或者不足之处，希望各位大佬多多指教！ 第一章 绪论 1.1 基本术语 数据集、样本\示例 属性和属性值 属性：表示事务或对象某方面的性质的事项，又称为特征(feature)。属性的取值称为属性值 属性空间（样本空间、输入空间）：由样本的属性的所有可能取值构成的一个集合 特征向量 ：对于来自同一总体中的每一样本点，其各个属性都有特定的取值，由该取值构成的一个向量可以用来表示样本.

西瓜书核心知识点简记，根据理解和学习，希望用通俗的语言记录下来，与君共享！