机器学习相关的数学公式-截取他人PPT内容加自己理解

矩阵乘法：

注意乘法没有交换律： 不存在 AB=BA 

说明：E是单位矩阵，即对角线元素全为1，其它元素全为0.

求逆矩阵很复杂，且不会用到，不用管

偏导数是沿某一个自变量正方向，函数的变化率；方向函数是沿某个任意方向正方向，函数的变化率

p的计算：联想到勾股定律， r² = x² + y²     

梯度是一个向量，向量中每个元素，是沿每个自变量方向的偏导数。

按下图理解：

u(u1,u2) 就是一个向量，u1可以理解为沿x方向的偏导数，u2是沿y方向的偏导数，u1和u2构成的三角形斜边，其方向即是向量u的方向，其长度表示向量u的长度。

该斜边的长度肯定是超过u1和u2的，可以理解为变化最快的方向导数，即为梯度。

凸函数可能找到极小值； 凹函数可能找到极大值

说明：P(AB)    AB同时发生的概率；  P(A)  A发生的概率

           P(B|A)    A发生的情况下，B发生的概率

全概率公式：

           P(A)=P(A|B1)P(B1)+P(A|B2)P(B2)+...+P(A|Bn)P(Bn)

                  =P(AB1)+P(AB2)+...+P(ABn)

          即知道每一项B发生的概率，以及每一项B发生时，A发生的概率； 请A总的发生概率

贝叶斯公式：

          知道每一项B发生的概率，以及每一项B发生时，A发生的概率；

          计算当A发生的情况下，某一项B发生的概率