伪逆介绍以及在信道估计与均衡中的应用

本文链接：https://blog.csdn.net/qq_58860480/article/details/145223014

伪逆的定义
- 在矩阵运算中，对于一个矩阵 $A_{m\times n}$ ，如果它是方阵且可逆，那么它的逆矩阵 $A^{-1}$ 满足 $AA^{-1}=A^{-1}A = I$ ，其中 $I$ 是单位矩阵。但是当 $A$ 不是方阵（ $m\neq n$ ）或者是方阵但不可逆时，就引入了伪逆的概念。
- 矩阵 $A$ 的伪逆（也称为摩尔 - 彭罗斯伪逆），记为 $A^{+}$ ，它满足以下四个条件：
  - $AA^{+}A = A$ 。
  - $A^{+}AA^{+}=A^{+}$ 。
  - $AA^{+})^T = AA^{+}$ 。
  - $A^{+}A)^T = A^{+}A$ 。
- 伪逆的计算方法有多种。当 $A$ 的列满秩（ $r ank (A) = n$ 且 $m\geq n$ ）时， $A^{+}=(A^TA)^{-1}A^T$ ；当 $A$ 的行满秩（ $r ank (A) = m$ 且 $m\leq n$ ）时， $A^{+}=A^T(AA^T)^{-1}$ 。对于一般的矩阵 $A$ ，可以通过奇异值分解（SVD）来计算伪逆，若 $U\Sigma V^T$ ，其中 $U$ 和 $V$ 是正交矩阵， $\Sigma$ 是对角矩阵，那么 $A^{+}=V\Sigma^{+}U^T$ ，这里 $\Sigma^{+}$ 是将 $\Sigma$ 中非零对角元素取倒数后得到的矩阵。
应用场景和例子
- 线性方程组求解：
  - 考虑线性方程组 $A x = b$ ，其中 $A$ 是系数矩阵， $x$ 是未知数向量， $b$ 是常数向量。当 $A$ 是方阵且可逆时，解为 $x = A^{-1}b$ 。但如果 $A$ 不是方阵或者不可逆，就可以用伪逆来求一个“最优解”。
  - 例如，设 $A=\begin{bmatrix}1&2\\3&6\end{bmatrix}$ ， $b=\begin{bmatrix}4\\12\end{bmatrix}$ 。
  - 首先求 $A$ 的秩，对 $A$ 进行初等行变换可得 $\begin{bmatrix}1&2\\0&0\end{bmatrix}$ ，所以 $r ank (A) = 1$ ， $A$ 不可逆。
  - 计算 $A$ 的伪逆，先进行奇异值分解。计算 $A^TA=\begin{bmatrix}1&3\\2&6\end{bmatrix}\begin{bmatrix}1&2\\3&6\end{bmatrix}=\begin{bmatrix}10&20\\20&40\end{bmatrix}$ 。
  - 求 $A^TA$ 的特征值，设 $\lambda$ 为特征值，解方程 $\det(A^TA-\lambda I)=0$ ，即 $\begin{vmatrix}10 - \lambda&20\\20&40-\lambda\end{vmatrix}=0$ ，展开可得 $(10-\lambda)(40 - \lambda)-400 = 0$ ，解得 $\lambda_1 = 50$ ， $\lambda_2 = 0$ 。
  - 对应的特征向量分别为 $v_1=\begin{bmatrix}2\\1\end{bmatrix}$ 和 $v_2=\begin{bmatrix}-1\\2\end{bmatrix}$ （归一化后），则 $V=\begin{bmatrix}\frac{2}{\sqrt{5}}&\frac{-1}{\sqrt{5}}\\\frac{1}{\sqrt{5}}&\frac{2}{\sqrt{5}}\end{bmatrix}$ 。
  - 对于 $AA^T$ ，计算可得 $AA^T=\begin{bmatrix}1&2\\3&6\end{bmatrix}\begin{bmatrix}1&3\\2&6\end{bmatrix}=\begin{bmatrix}5&15\\15&45\end{bmatrix}$ ，其特征值为 $\lambda_1 = 50$ ， $\lambda_2 = 0$ ，对应的特征向量（归一化后） $u_1=\begin{bmatrix}\frac{1}{\sqrt{10}}\\\frac{3}{\sqrt{10}}\end{bmatrix}$ 和 $u_2=\begin{bmatrix}-\frac{3}{\sqrt{10}}\\\frac{1}{\sqrt{10}}\end{bmatrix}$ ，则 $U=\begin{bmatrix}\frac{1}{\sqrt{10}}&\frac{-3}{\sqrt{10}}\\\frac{3}{\sqrt{10}}&\frac{1}{\sqrt{10}}\end{bmatrix}$ 。
  - $\Sigma=\begin{bmatrix}\sqrt{50}&0\\0&0\end{bmatrix}$ ，则 $\Sigma^{+}=\begin{bmatrix}\frac{1}{\sqrt{50}}&0\\0&0\end{bmatrix}$ 。
  - 根据 $A^{+}=V\Sigma^{+}U^T$ ，计算可得 $A^{+}=\begin{bmatrix}\frac{1}{5}&\frac{1}{10}\\ \frac{1}{10}&\frac{1}{20}\end{bmatrix}$ 。
  - 那么方程 $A x = b$ 的一个“最优解”为 $A^{+}b=\begin{bmatrix}\frac{1}{5}&\frac{1}{10}\\ \frac{1}{10}&\frac{1}{20}\end{bmatrix}\begin{bmatrix}4\\12\end{bmatrix}=\begin{bmatrix}\frac{4}{5}+\frac{12}{10}\\\frac{4}{10}+\frac{12}{20}\end{bmatrix}=\begin{bmatrix}2\\1\end{bmatrix}$ 。这个解在最小二乘意义下是最优的，即 $\left\lVert Ax - b\right\rVert_2$ 达到最小。
信道估计与均衡中的应用 ：在通信系统中，信号经过信道传输后会发生失真。例如在一个多输入多输出（MIMO）通信系统中，设发送信号向量为 $x\in\mathbb{C}^{n\times1}$ ，信道矩阵为 $H\in\mathbb{C}^{m\times n}$ ，接收信号向量为 $y\in\mathbb{C}^{m\times1}$ ，它们之间的关系可以表示为 $y = H x + n$ ，其中 $n$ 是噪声向量。为了恢复发送信号 $x$ ，需要进行信道估计和均衡。在最小二乘意义下，我们可以通过求伪逆来得到一个估计的均衡器。假设我们已经对信道矩阵 $H$ 进行了估计（通过训练序列等方法），当 $m\geq n$ 且 $H$ 列满秩时， $H$ 的伪逆 $H^{+}=(H^H H)^{-1}H^H$ （ $H^H$ 是 $H$ 的共轭转置）。

对接收信号 $y$ 进行均衡得到发送信号的估计 $\hat{x}$ ， $\hat{x}=H^{+}y=(H^H H)^{-1}H^H y$ 。这样可以在一定程度上减轻信道对信号的影响，提高信号恢复的准确性。 - 例如，考虑一个简单的 $2\times1$ MIMO系统（两个接收天线，一个发送天线），信道矩阵 $H=\begin{bmatrix}h_{11}&h_{12}\\h_{21}&h_{22}\end{bmatrix}$ ，发送信号 $x$ 是一个复数标量，接收信号 $y=\begin{bmatrix}y_1\\y_2\end{bmatrix}$ ，且 $y = H x + n$ ，其中 $n=\begin{bmatrix}n_1\\n_2\end{bmatrix}$ 是噪声向量。 - 假设我们已经估计出信道矩阵 $H$ ，计算其伪逆 $H^{+}=(H^H H)^{-1}H^H$ 。这里 $H^H=\begin{bmatrix}\overline{h_{11}}&\overline{h_{21}}\\\overline{h_{12}}&\overline{h_{22}}\end{bmatrix}$ ， $H^H H = |h_{11}|^2+|h_{12}|^2 + |h_{21}|^2+|h_{22}|^2$ （假设为非零值，即 $H$ 列满秩）。
那么 $H^{+}=\frac{1}{H^H H}\begin{bmatrix}\overline{h_{11}}&\overline{h_{21}}\\\overline{h_{12}}&\overline{h_{22}}\end{bmatrix}$ ，接收信号 $y$ 经过均衡后得到发送信号的估计 $\hat{x}=H^{+}y=\frac{1}{H^H H}\begin{bmatrix}\overline{h_{11}}&\overline{h_{21}}\\\overline{h_{12}}&\overline{h_{22}}\end{bmatrix}\begin{bmatrix}y_1\\y_2\end{bmatrix}$ 。

信号检测中的应用 - 在码分多址（CDMA）通信系统中，多个用户的信号在同一频段同时传输。设共有 $K$ 个用户，每个用户的扩频码序列为 $s_k$ （ $1,2,\cdots,K$ ），长度为 $N$ ，接收信号 $r$ 可以表示为 $r=\sum_{k = 1}^{K}A_k s_k + n$ ，其中 $A_k$ 是第 $k$ 个用户的信号幅度， $n$ 是噪声。 - 可以将这个问题构建为一个矩阵形式，设 $S=\begin{bmatrix}s_1^T\\s_2^T\\\cdots\\s_K^T\end{bmatrix}$ 是一个 $K\times N$ 的矩阵，其行向量是各个用户的扩频码序列， $A=\begin{bmatrix}A_1\\A_2\\\cdots\\A_K\end{bmatrix}$ 是信号幅度向量，接收信号 $r\in\mathbb{C}^{N\times1}$ 。则 $r = S A + n$

为了检测各个用户的信号幅度 $A$ ，可以使用伪逆。当 $S$ 行满秩（ $K\leq N$ 且秩为 $K$ ）时， $S$ 的伪逆 $S^{+}=S^T(SS^T)^{-1}$ 。 - 对信号幅度的估计 $\hat{A}=S^{+}r=S^T(SS^T)^{-1}r$ 。通过这种方式，可以在多个用户信号混合的情况下，尝试分离并检测出各个用户的信号幅度，从而实现信号检测的功能。例如，在一个简单的 $2$ 用户CDMA系统中， $s_1=\begin{bmatrix}1& - 1\end{bmatrix}^T$ ， $s_2=\begin{bmatrix}1&1\end{bmatrix}^T$ ， $S=\begin{bmatrix}1& - 1\\1&1\end{bmatrix}$ ，接收信号 $r=\begin{bmatrix}r_1\\r_2\end{bmatrix}$ ，可以按照上述步骤计算伪逆并估计用户信号幅度。