【概率论】期中复习笔记（中）：随机向量及其概率分布、随机变量的数字特征

第三章 随机向量及其概率分布

1. 二维随机向量及其概率分布

$n$维随机变量/$n$维随机向量：设$X_1,X_2,\cdots ,X_n$是定义在样本空间$\Omega$上的$n$个随机变量，则$(X_1,X_2,\cdots ,X_n)$称为$n$维随机变量或$n$维随机向量

二维随机变量的分布函数：设$(X,Y)$是二维随机向量，对于任意$x,y\in \mathbb{R}$，二元函数 F ( x , y ) = P { X ≤ x , Y ≤ y } F(x,y)=P\{X\le x,Y\le y\} F(x,y)=P{X≤x,Y≤y}称为二维随机变量$(X,Y)$的分布函数，或$X$与$Y$的联合分布函数。$F(x,y)$是事件 { X ≤ x } \{X\le x\} {X≤x}与 { Y ≤ y } \{Y\le y\} {Y≤y}同时发生的概率

P { x 1 < X ≤ x 2 , y 1 < Y ≤ y 2 } = F ( x 2 , y 2 ) − F ( x 2 , y 1 ) − F ( x 1 , y 2 ) + F ( x 1 , y 1 ) P\{x_1<X\le x_2,y_1<Y\le y_2\}=F(x_2,y_2)-F(x_2,y_1)-F(x_1,y_2)+F(x_1,y_1) P{x1​<X≤x2​,y1​<Y≤y2​}=F(x2​,y2​)−F(x2​,y1​)−F(x1​,y2​)+F(x1​,y1​)

分布函数$F(x,y)$的性质：
(1) $F(x,y)$对每个变量是单调增函数
(2) $F(x,y)$对每个变量是右连续的，即$F(x+0,y)=F(x,y)$，$F(x,y+0)=F(x,y)$
(3) $F(-\infty ,y)=F(x,-\infty )=F(-\infty ,-\infty )=0$，$F(+\infty ,+\infty )=1$
(4) $\forall (x_1,y_1),(x_2,y_2)\in {\mathbb{R}}^2$，若$x_1\le x_2,y_1\le y_2$，则$F(x_2,y_2)-F(x_2,y_1)-F(x_1,y_2)+F(x_1,y_1)\ge 0$

边缘分布函数：单个变量的分布函数
分量$X$的分布函数 F X ( x ) = P { X ≤ x } = lim ⁡ y → + ∞ P { X ≤ x , Y ≤ y } = lim ⁡ y → + ∞ F ( x , y ) = F ( x , + ∞ ) F_X(x)=P\{X\le x\}=\lim\limits_{y\to+\infty}P\{X\le x,Y\le y\}=\lim\limits_{y\to+\infty}F(x,y)=F(x,+\infty) FX​(x)=P{X≤x}=y→+∞lim​P{X≤x,Y≤y}=y→+∞lim​F(x,y)=F(x,+∞)，即$F_X(x)=F(x,+\infty )$，称为二维随机变量$(X,Y)$关于$Y$的边缘分布函数
分量$Y$的分布函数$F_Y(y)=F(+\infty ,y)$

$F_X(x),F_Y(y)$由分布函数$F(x,y)$唯一确定，但反过来不一定成立（只有在独立的时候才成立）

二维离散型随机向量$(X,Y)$的分布律： P { X = x i , Y = y i } = p i j ( i , j = 1 , 2 , ⋯   ) P\{X=x_i,Y=y_i\}=p_{ij}(i,j=1,2,\cdots) P{X=xi​,Y=yi​}=pij​(i,j=1,2,⋯)，满足性质：(1) $p_{ij}\ge 0$，(2) $\sum _{i=1}^{\infty }\sum _{j=1}^{\infty }{p}_{ij}=1$
边缘分布律： p i ⋅ = P { X = x i } = ∑ j = 1 ∞ p i j ( i = 1 , 2 , ⋯   ) p_{i\cdot}=P\{X=x_i\}=\sum\limits_{j=1}^\infty p_{ij}(i=1,2,\cdots) pi⋅​=P{X=xi​}=j=1∑∞​pij​(i=1,2,⋯)， p ⋅ j = P { Y = y j } = ∑ i = 1 ∞ ( j = 1 , 2 , ⋯   ) p_{\cdot j}=P\{Y=y_j\}=\sum\limits_{i=1}^\infty(j=1,2,\cdots) p⋅j​=P{Y=yj​}=i=1∑∞​(j=1,2,⋯)

二维连续性随机向量$(X,Y)$及其分布律：存在非负可积函数$f(x,y)(x\in \mathbb{R},y\in \mathbb{R})$，使得$\forall$区域$A\subset {\mathbb{R}}^2$，都有$P\{(X,Y)\in A\}=\underset{A}{\iint }f(x,y)\text{d}x\text{d}y$，则称$(X,Y)$为二维连续型随机向量，称$f(x,y)$为$(X,Y)$的概率密度
概率密度的性质：(1) $\forall x,y\in \mathbb{R},f(x,y)\ge 0$；(2) ${\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }f(x)\text{d}x\text{d}y=1$；(3) 若$f(x,y)$在点$(x,y)$的某邻域内连续，则$\frac{{\partial }^{2}F(x,y)}{\partial x\partial y}=f(x,y)$

二维连续性随机向量$(X,Y)$的分布函数为$F(x,y)={\int }_{-\infty }^x{\int }_{-\infty }^{y}f(u,v)\text{d}u\text{d}v$
此时，$X,Y$分别为一维连续型随机变量，关于它们的边缘概率密度分别为$f_X(x)={\int }_{-\infty }^{+\infty }f(x,y)\text{d}y$，$f_Y(y)={\int }_{-\infty }^{+\infty }f(x,y)\text{d}x$

常见的几种二维连续型随机变量及其分布律：
(1) 二维正态分布$N({\mu }_1,{\mu }_2;{\sigma }_1^2,{\sigma }_2^2;\rho )$：若二维随机向量$(X,Y)$的概率密度为$$f(x,y)=\frac{1}{2\pi {\sigma }_1{\sigma }_2\sqrt{1-{\rho }^2}}{e}^{-\frac{1}{2(1-{\rho }^2)}\left[\frac{(x-{\mu }_1{)}^2}{{\sigma }_1^2}-2\rho \frac{(x-{\mu }_1)(y-{\mu }_2)}{{\sigma }_1{\sigma }_2}+\frac{(y-{\mu }_2{)}^2}{{\sigma }_2^2}\right]},x,y\in \mathbb{R}$$其中${\sigma }_1>0,{\sigma }_2>0,-1<\rho <1$，则$(X,Y)\text{~}N({\mu }_1,{\mu }_2;{\sigma }_1^2,{\sigma }_2^2;\rho )$
且$X\text{~}N({\mu }_1,{\sigma }_1^2)$，$Y\text{~}N({\mu }_2,{\sigma }_2^2)$，与$\rho$无关

(2) 二维均匀分布：若二维随机向量$(X,Y)$的概率密度为$$f(x,y)=\{\begin{array}{ll}\frac{1}{A},& (x,y)\in G\\ 0,& \text{其他}\end{array}$$则称$(X,Y)$在$G$上服从二维均匀分布，其中$A(A>0)$为有界区域$G$的面积

2. 条件分布

二维离散型随机向量

设二维离散型随机向量$(X,Y)$的分布律为 p i j = P { X = x i , Y = y j } ( i , j = 1 , 2 , ⋯   ) p_{ij}=P\{X=x_i,Y=y_j\}(i,j=1,2,\cdots) pij​=P{X=xi​,Y=yj​}(i,j=1,2,⋯)

若$(X,Y)$关于$Y$的边缘分布律 p ⋅ j = P { Y = y j } > 0 p_{\cdot j}=P\{Y=y_j\}>0 p⋅j​=P{Y=yj​}>0，称 P { X = x i ∣ Y = y j } = p i j p ⋅ j = p i j ∑ k = 1 ∞ p k j ( i = 1 , 2 , ⋯   ) P\{X=x_i|Y=y_j\}=\frac{p_{ij}}{p_{\cdot j}}=\frac{p_{ij}}{\sum\limits_{k=1}^\infty p_{kj}}(i=1,2,\cdots) P{X=xi​∣Y=yj​}=p⋅j​pij​​=k=1∑∞​pkj​pij​​(i=1,2,⋯)为在$Y=y_j$条件下$X$的条件分布律

若$(X,Y)$关于$X$的边缘分布律 p i ⋅ = P { X = x i } > 0 p_{i\cdot}=P\{X=x_i\}>0 pi⋅​=P{X=xi​}>0，称 P { Y = y j ∣ X = x i } = p i j p i ⋅ = p i j ∑ k = 1 ∞ p i k ( j = 1 , 2 , ⋯   ) P\{Y=y_j|X=x_i\}=\frac{p_{ij}}{p_{i\cdot}}=\frac{p_{ij}}{\sum\limits_{k=1}^\infty p_{ik}}(j=1,2,\cdots) P{Y=yj​∣X=xi​}=pi⋅​pij​​=k=1∑∞​pik​pij​​(j=1,2,⋯)为在$X=x_i$条件下$Y$的条件分布律

二维连续型随机向量

设二维连续型随机向量$(X,Y)$的概率密度为$f(x,y)$，关于$X,Y$的边缘概率密度分别为$f_X(x),f_Y(y)$

若对于固定的$y$，$f_Y(y)>0$，称$f_{X|Y}(x|y)=\frac{f(x,y)}{f_Y(y)}$为在$Y=y$条件下$X$的条件概率密度，称$F_{X|Y}(x|y)={\int }_{-\infty }^x{f}_{X|Y}(u|y)\text{d}u$为在$Y=y$条件下$X$的条件分布函数

若对于固定的$x$，$f_X(x)>0$，称$f_{Y|X}(y|x)=\frac{f(x,y)}{f_X(x)}$为在$X=x$条件下$Y$的条件概率密度，称$F_{Y|X}(y|x)={\int }_{-\infty }^y{f}_{Y|X}(v|x)\text{d}v$为在$X=x$条件下$Y$的条件分布函数

一个重要的关系式

$f(x,y)=f_X(x)f_{Y|X}(y|x)=f_Y(y)f_{X|Y}(x|y)$

注意：不是$F(x,y)=F_X(x)F_{Y|X}(y|x)$

3. 随机变量的相互独立性

设二维随机向量$(X,Y)$的分布函数与边缘分布函数分别为$F(x,y),F_X(x),F_Y(y)$

$X$与$Y$相互独立$⟺\forall x,y\in \mathbb{R},F(x,y)=F_X(x)F_Y(y)$

• 若$(X,Y)$为二维离散型随机向量，则$X$与$Y$相互独立$⟺\forall i,j=1,2,\cdots ,p_{ij}=p_{i\cdot }{p}_{j\cdot }$
• 若$(X,Y)$为二维连续型随机向量，则$X$与$Y$相互独立$⟺f(x,y)=f_X(x)f_Y(y)$几乎处处成立（即不成立的点组成的集合面积为$0$）（事实上，若在点$(x,y)$处$f(x,y),f_X(x),f_Y(y)$都连续，则该关系式在这一点成立）

若$(X,Y)\text{~}N({\mu }_1,{\mu }_2;{\sigma }_1^2,{\sigma }_2^2;\rho )$，则$X$与$Y$相互独立$⟺\rho =0$

$n$个随机变量相互独立：设$n$维随机向量$(X_1,X_2,\cdots ,X_n)$的分布函数为 F ( x 1 , x 2 , ⋯   , x n ) = P { X 1 ≤ x 1 , X 2 ≤ x 2 , ⋯   , X n ≤ x n } F(x_1,x_2,\cdots,x_n)=P\{X_1\le x_1,X_2\le x_2,\cdots,X_n\le x_n\} F(x1​,x2​,⋯,xn​)=P{X1​≤x1​,X2​≤x2​,⋯,Xn​≤xn​}，若$\forall x_1,x_2,\cdots ,x_n\in \mathbb{R}$，都有$F(x_1,x_2,\cdots ,x_n)=F_{X_1}(x_1)F_{X_2}(x_2)\cdots F_{X_n}(x_n)$，则称随机变量$X_1,X_2,\cdots ,X_n$是相互独立的。

设$(X_1,X_2,\cdots ,X_m)\text{~}{F}_1(x_1,x_2,\cdots ,x_m)$，$(Y_1,Y_2,\cdots ,Y_n)\text{~}{F}_2(y_1,y_2,\cdots ,y_n)$，$(X_1,X_2,\cdots ,X_m,Y_1,Y_2,\cdots ,Y_n)\text{~}F(x_1,x_2,\cdots ,x_m,y_1,y_2,\cdots ,y_n)$，若$\forall x_1,x_2,\cdots ,x_m,y_1,y_2,\cdots ,y_n\in \mathbb{R}$，$F_1(x_1,x_2,\cdots ,x_m)F_2(y_1,y_2,\cdots ,y_n)=F(x_1,x_2,\cdots ,x_m,y_1,y_2,\cdots ,y_n)$，则称$(X_1,X_2,\cdots ,X_m)$和$(Y_1,Y_2,\cdots ,Y_n)$是相互独立的。

两个有关独立性的重要定理：

① 设$(X_1,X_2,\cdots ,X_m)$和$(Y_1,Y_2,\cdots ,Y_n)$相互独立，若$h(x_1,x_2,\cdots ,x_m)$，$g(y_1,y_2,\cdots ,y_n)$是连续函数，则$h(x_1,x_2,\cdots ,x_m)$和$g(y_1,y_2,\cdots ,y_n)$也是相互独立的。

② 若随机变量$X_1,X_2,\cdots ,X_n$相互独立，把它们分为不相交的$k$组，每组中的所有变量由一个连续函数复合而生成一个新的随机变量，则这$k$个随机变量相互独立。

4. 随机向量的函数及其概率分布

二维离散型随机变量函数的分布

若$(X,Y)$是二维离散型随机向量，其分布律为 p i j = P { X = x i , Y = y j } ( i , j = 1 , 2 , ⋯   ) p_{ij}=P\{X=x_i,Y=y_j\}(i,j=1,2,\cdots) pij​=P{X=xi​,Y=yj​}(i,j=1,2,⋯)，则$Z=X+Y$的分布律为 P { Z = z k } = ∑ j P { X = z k − y j , Y = y j } P\{Z=z_k\}=\sum\limits_j P\{X=z_k-y_j,Y=y_j\} P{Z=zk​}=j∑​P{X=zk​−yj​,Y=yj​}

$X\text{~}P({\lambda }_1),Y\text{~}P({\lambda }_2)$且$X,Y$相互独立$⟹Z=X+Y\text{~}P({\lambda }_1+{\lambda }_2)$

二维连续型随机变量函数的分布

设$(X,Y)$为二维连续型随机变量，$f(x,y)$是其概率函数，又$Z=g(X,Y)$是$X$与$Y$的函数，且$Z$是连续型随机变量，则 F Z ( z ) = P { Z ≤ z } = P { g ( X , Y ) ≤ z } = ∬ g ( x , y ) ≤ z f ( x , y ) d x d y F_Z(z)=P\{Z\le z\}=P\{g(X,Y)\le z\}=\iint\limits_{g(x,y)\le z}f(x,y)\text{d}x\text{d}y FZ​(z)=P{Z≤z}=P{g(X,Y)≤z}=g(x,y)≤z∬​f(x,y)dxdy，再对$z$求导即得概率密度函数$f_Z(z)$。

$X\text{~}N(0,{\sigma }^2),Y\text{~}N(0,{\sigma }^2)⟹Z=\sqrt{X^2+Y^2}$服从瑞利分布：$f_Z(z)=\{\begin{array}{ll}\frac{z}{{\sigma }^2}{e}^{-\frac{z^2}{2{\sigma }^2}},& z>0\\ 0,& \text{其他}\end{array}$

几个重要函数的密度公式（设$X,Y$为连续型随机变量，有概率密度函数$f(x,y)$）：

①随机变量和的概率密度公式：$Z=X+Y⟹f_Z(z)={\int }_{-\infty }^{+\infty }f(x,z-x)\text{d}x={\int }_{-\infty }^{+\infty }f(z-y,y)\text{d}y$
当$X,Y$独立时可以拆开写：$Z=X+Y⟹f_Z(z)={\int }_{-\infty }^{+\infty }{f}_X(x)f_Y(z-x)\text{d}x={\int }_{-\infty }^{+\infty }{f}_X(z-y)f_Y(y)\text{d}y$，该式称为独立变量之和的密度卷积公式

$n$个独立的正态随机变量的线性组合仍然是正态随机变量：若$X_i\text{~}N({\mu }_i,{\sigma }_i^2),i=1,2,\cdots ,n$，则$\sum _{i=1}^n{a}_i{X}_i\text{~}N\left(\sum _{i=1}^n{a}_i{\mu }_i,\sum _{i=1}^n{a}_i^2{\sigma }_i^2\right)$（称为正态分布的可加性）

②随机变量商的概率密度公式：$Z=\frac{X}{Y}⟹f_Z(z)={\int }_{-\infty }^{+\infty }|y|f(yz,y)\text{d}y$
当$X,Y$独立时可以拆开写：$Z=\frac{X}{Y}⟹f_Z(z)={\int }_{-\infty }^{+\infty }|y|f_X(yz)f_Y(y)\text{d}y$

③随机变量取最大值与最小值的分布：

对于二维随机向量$(X,Y)$，令$M=\max (X,Y)$，$N=\min (X,Y)$，则$$F_M(z)=F(z,z)$$$$F_N(z)=-[F(z,z)-F_X(z)-F_Y(z)]=F_X(z)+F_Y(z)-F(z,z)$$

若$X$与$Y$相互独立，则有$$F_M(z)=F_X(z)F_Y(z)$$$$F_N(z)=1-[1-F_X(z)][1-F_Y(z)]$$

设$X_1,X_2,\cdots ,X_n$是$n$个相互独立的随机变量，$X_i\text{~}{F}_{X_i}(x_i)$，设$M=\max (X_1,X_2,\cdots ,X_n)$，$N=\min (X_1,X_2,\cdots ,X_n)$，则$$F_M(z)=F_{X_1}(z)F_{X_2}(z)\cdots F_{X_n}(z)$$$$F_N(z)=1-[1-F_{X_1}(z)][1-F_{X_2}(z)]\cdots [1-F_{X_n}(z)]$$特别地，当$X_1,X_2,\cdots ,X_n$是$n$个独立同分布的随机变量时，有$$F_M(z)=[F_{X_1}(z){]}^n{F}_N(z)=1-[1-F_{X_1}(z){]}^n$$若二者可导，则可得$M$和$N$的概率密度为$$f_M(z)=n[F_{X_1}(z){]}^{n-1}f(x_1)f_N(z)=n[1-F_{X_1}(z){]}^{n-1}{f}_{X_1}(z)$$

第四章 随机变量的数字特征

1. 数学期望

数学期望的定义

若$X$是离散型随机变量，其分布律为 P { X = x k } = p k ( k = 1 , 2 , ⋯   ) P\{X=x_k\}=p_k(k=1,2,\cdots) P{X=xk​}=pk​(k=1,2,⋯)，若级数$\sum _{k=1}^{\infty }{x}_k{p}_k$绝对收敛，则称$\sum _{k=1}^{\infty }{x}_k{p}_k$为随机变量$X$的数学期望，记作$E(X)$。

若$X$是连续型随机变量，其概率密度为$f(x)$，若积分${\int }_{-\infty }^{+\infty }xf(x)\text{d}x$绝对收敛，则称${\int }_{-\infty }^{+\infty }xf(x)\text{d}x$为$X$的数学期望，记作$E(X)$。

随机变量的函数的数学期望

设$g(x)$是连续函数：
(1) 若$X$的分布律为 P { X = x k } = p k ( k = 1 , 2 , ⋯   ) P\{X=x_k\}=p_k(k=1,2,\cdots) P{X=xk​}=pk​(k=1,2,⋯)，且$\sum _{k=1}^{\infty }g(x_k)p_k$绝对收敛，则$E[g(X)]=\sum _{k=1}^{\infty }g(x_k)p_k$；
(2) 若$X$的概率密度为$f(x)$，且${\int }_{-\infty }^{+\infty }g(x)f(x)\text{d}x$绝对收敛，则$E[g(X)]={\int }_{-\infty }^{+\infty }g(x)f(x)\text{d}x$。

设$g(x,y)$是二元连续函数：
(1) 若$(X,Y)$的分布律为 P { X = x i , Y = y j } = P i j ( i , j = 1 , 2 , ⋯   ) P\{X=x_i,Y=y_j\}=P_{ij}(i,j=1,2,\cdots) P{X=xi​,Y=yj​}=Pij​(i,j=1,2,⋯)，且$\sum _{j=1}^{\infty }\sum _{i=1}^{\infty }g(x_i,y_j)p_{ij}$绝对收敛，则$E[g(X,Y)]=\sum _{j=1}^{\infty }\sum _{i=1}^{\infty }g(x_i,y_j)p_{ij}$；
(2) 若$(X,Y)$的概率密度为$f(x,y)$，且${\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }g(x,y)f(x,y)\text{d}x\text{d}y$绝对收敛，则$E[g(X,Y)]={\int }_{-\infty }^{+\infty }{\int }_{-\infty }^{+\infty }g(x,y)f(x,y)\text{d}x\text{d}y$。

数学期望的性质

(1) $E(C)=C$（$C$为常数）
(2) $E(CX)=CE(X)$
(3) $E(X+Y)=E(X)+E(Y)$（不论是否独立都成立）
(4) 若$X$与$Y$相互独立，则$E(XY)=E(X)E(Y)$

2. 方差

方差与标准差的定义

方差：对随机变量$X$，若$E\{[X-E(X){]}^2\}$存在，则称$E\{[X-E(X){]}^2\}$为$X$的方差，记作$\text{Var}(X)$或$D(X)$
标准差：称$\sigma (X)=\sqrt{D(X)}$为$X$的标准差，其量纲与$X$相同

方差的等价公式：$D(X)=E(X^2)-[E(X){]}^2$

方差的性质

(1) $D(a)=0$（$a$为常数）
(2) $D(aX)=a^{2}D(X)$
(3) 若$X$与$Y$相互独立（可以改为$X$与$Y$不相关），则$D(X\pm Y)=D(X)\pm D(Y)$
(4) D ( X ) = 0    ⟺    P { X = E ( X ) } = 1 D(X)=0\iff P\{X=E(X)\}=1 D(X)=0⟺P{X=E(X)}=1

常见随机变量的数学期望和方差

3. 协方差、相关系数和矩

协方差与相关系数

对于二维随机向量$(X,Y)$：
称$\text{Cov}(X,Y)=E\{[X-E(X)][Y-E(Y)]\}$为$X$与$Y$的协方差（前提是该数学期望存在）。
$$\text{Cov}(X,X)=D(X)$$$$\text{Cov}(X,Y)=E(XY)-E(X)E(Y)$$协方差的性质：设$X_1,X_2,X,Y$为随机变量，$a,b$为常数，则
(1) $\text{Cov}(a,X)=0$
(2) $\text{Cov}(X,Y)=\text{Cov}(Y,X)$
(3) $\text{Cov}(aX,bY)=ab\text{Cov}(X,Y)$
(4) $\text{Cov}(X_1+X_2,Y)=\text{Cov}(X_1,Y)+\text{Cov}(X_2,Y)$
(5) 若$X$与$Y$相互独立，则$\text{Cov}(X,Y)=0$（反之不一定成立）
(6) 若$E(X^2)$，$E(Y^2)$存在， 则$[E(XY){]}^2\le E(X^2)E(Y^2)$；特别地，有柯西-施瓦茨不等式：$[\text{Cov}(X,Y){]}^2\le D(X)D(Y)$
方差和/差的公式：$$D(X\pm Y)=D(X)+D(Y)\pm 2\text{Cov}(X,Y)$$相关系数：若$D(X)>0$，$D(Y)>0$，则称$\rho (X,Y)=\frac{\text{Cov}(X,Y)}{\sqrt{D(X)}\sqrt{D(Y)}}=\frac{\text{Cov}(X,Y)}{\sigma (X)\sigma (Y)}$为$X$与$Y$的相关系数

相关系数的性质：
(1) 若$X$与$Y$相互独立，则$\rho (X,Y)=0$；
(2) $-1\le \rho (X,Y)\le 1$；
(3) $|\rho (X,Y)=1|⟺\exists$常数$a,b$，使得 P { a + b X } = 1 P\{a+bX\}=1 P{a+bX}=1

$\rho (X,Y)$是反映随机变量$X$和$Y$之间线性相关程度的量

若$\rho (X,Y)=0$，则称$X$与$Y$不相关

二维正态分布$N({\mu }_1,{\mu }_2;{\sigma }_1^2,{\sigma }_2^2;\rho )$的第五个参数$\rho$恰好是$X$与$Y$的相关系数

矩

设$X,Y$为随机变量且下面提到的期望都存在，$k>0$，$l>0$：
(1) $X$的$k$阶原点矩：${\alpha }_k=E(X^k)$（$E(X)$为$1$阶原点矩）
(2) $X$的$k$阶中心矩：${\mu }_k=E[(X-E(X){)}^k]$（$D(X)$为二阶中心矩，$D(X)={\mu }_2={\alpha }_2-{\alpha }_1^2$）
(3) $X,Y$的$k+l$阶混合原点矩：${\alpha }_{kl}=E(X^k{Y}^l)$
(4) $X,Y$的$k+l$阶混合中心矩：${\mu }_{kl}=E[(X-E(X){)}^k(Y-E(Y){)}^l]$

$X$与$Y$的协方差$\text{Cov}(X,Y)={\mu }_{11}$，相关系数$\rho (X,Y)=\frac{{\mu }_{11}}{\sqrt{{\mu }_{20}}\sqrt{{\mu }_{02}}}$

4. 协方差矩阵

设$n$维随机向量$(X_1,X_2,\cdots ,X_n)$的二阶混合中心矩$v_{ij}=\text{Cov}(X_i,X_j)(i,j=1,2,\cdots ,n)$都存在（即各变量之间的协方差都存在），则称矩阵$\mathbf{V}=\left(\begin{array}{cccc}{v}_{11}& v_{12}& \cdots & v_{1n}\\ v_{21}& v_{22}& \cdots & v_{2n}\\ ⋮& ⋮& & ⋮\\ v_{n1}& v_{n2}& \cdots & v_{nn}\end{array}\right)$为$n$维随机向量$(X_1,X_2,\cdots ,X_n)$的协方差矩阵。

$\mathbf{V}$是对称矩阵，且$\mathbf{V}$主对角元上的元素$v_{ii}=D(X_i)$。

$n$维正态分布：
设$\mathbf{V}$为$n$阶正定对称阵，$\mathbf{\mu }=({\mu }_1,{\mu }_2,\cdots ,{\mu }_n)$为$n$维已知向量。记$\mathbf{x}=(x_1,x_2,\cdots ,x_n)\in {\mathbb{R}}^n$。若$n$维随机向量$\mathbf{X}=(X_1,X_2,\cdots ,X_n)$的概率密度为$$f(\mathbf{x})=\frac{1}{(2\pi {)}^{\frac{n}{2}}|\mathbf{V}{|}^{\frac{1}{2}}}\exp \left\{-\frac{1}{2}(\mathbf{x}-\mathbf{\mu }){\mathbf{V}}^{-1}(\mathbf{x}-\mathbf{\mu }{)}^T\right\}$$则称$\mathbf{X}$服从$n$维正态分布，记作$\mathbf{X}=(X_1,X_2,\cdots ,X_n)\text{~}N(\mathbf{\mu },\mathbf{V})$。

$n$维正态分布的基本性质：
设$\mathbf{X}=(X_1,X_2,\cdots ,X_n)\text{~}N(\mathbf{\mu },\mathbf{V})$，则：
(1) ${\mu }_i=E(X_i)(i=1,2,\cdots ,n)$
(2) $\mathbf{V}=(v_{ij}{)}_{n\times n}$是$\mathbf{X}$的协方差矩阵，且$D(X_i)=v_{ii}$，$\text{Cov}(X_i,X_j)=v_{ij}(i,j=1,2,\cdots ,n)$
(3) $X_i\text{~}N({\mu }_i,v_{ii})$
(4) $X_1,X_2,\cdots ,X_n$相互独立$⟺X_1,X_2,\cdots ,X_n$两两互不相关$⟺\mathbf{V}=\text{diag}(v_{11},v_{22},\cdots ,v_{nn})$
(5) 若$X_1,X_2,\cdots ,X_n$相互独立，且各$X_i\text{~}N({\mu }_i,{\sigma }_i^2)$，则$(X_1,X_2,\cdots ,X_n)\text{~}N(\mathbf{\mu },\mathbf{V})$，其中$\mathbf{\mu }=({\mu }_1,{\mu }_2,\cdots ,{\mu }_n)$，$\mathbf{V}=\text{diag}({\sigma }_1^2,{\sigma }_2^2,\cdots ,{\sigma }_n^2)$
(6) $(X_1,X_2,\cdots ,X_n)\text{~}N(\mathbf{\mu },\mathbf{V})⟺X_1,X_2,\cdots ,X_n$的任一非零线性组合$l_1{X}_1+l_2{X}_2+\cdots +l_n{X}_n$服从一维正态分布
(7)（正态随机向量的线性变换不变性） 若$(X_1,X_2,\cdots ,X_n)\text{~}N(\mathbf{\mu },\mathbf{V})$，则$\mathbf{Y}=\mathbf{AX}$服从$m$维正态分布，其中$\mathbf{A}$为$n\times m$常数矩阵