python k-svd去噪

### K-SVD重构算法的Python实现 #### 环境准备 为了顺利运行K-SVD重构算法，需安装必要的Python包。主要依赖于`numpy`用于数值运算以及`scipy`提供科学计算功能。 ```bash pip install numpy scipy matplotlib ``` #### 数据初始化与预处理 在执行K-SVD之前，通常先加载并标准化待处理的数据集。这里以图像去噪为例说明： ```python import numpy as np from skimage import data, img_as_float from skimage.util import random_noise from sklearn.preprocessing import normalize def prepare_data(image_path=None): """Prepare noisy image.""" if not image_path: # Use default test image from scikit-image library. original = img_as_float(data.camera()) else: raise NotImplementedError("Custom image loading is not implemented.") sigma = 0.155 noisy_image = random_noise(original, var=sigma**2) return original, noisy_image ``` #### 构建字典学习模型 定义函数来创建初始字典D，并通过迭代更新字典和稀疏表示X直到收敛为止。 ```python from scipy.sparse.linalg import lsqr class KSVD(object): def __init__(self, n_components, max_iter=10, tol=1e-6, transform_n_nonzero_coefs=None): self.n_components = n_components self.max_iter = max_iter self.tol = tol self.transform_n_nonzero_coefs = transform_n_nonzero_coefs def _update_dict(self, phi, Y, Z): for i in range(self.n_components): index_set = (Z[:,i]!=0).nonzero()[0] if len(index_set)==0: continue psi_i = phi[index_set,:].T @ Y[index_set,:] / \ ((phi[index_set,i])**2).sum() r = Y - Z@psi_i.reshape(-1,1) u,s,vh=np.linalg.svd(r.T@r)[::-1][:3] phi[:,i]=u[:,0]; psi_i=vectors[0]/s[0] return phi def fit_transform(self, X): m,n=X.shape; p=self.n_components; D_init = np.random.randn(n,p); D=D_init.copy(); sparse_code = np.zeros((m,p)) for iteration in range(self.max_iter): prev_D = D.copy() # Sparse coding step using OMP or any other method for j in range(m): residual = X[j]-sparse_code[j]@(D.T) idx = abs(D.T@residual).argmax() sparse_code[j,idx]+=np.sign(residual[idx])*(abs(D.T@residual)).max() D = self._update_dict(D,X,sparse_code) change_rate=(prev_D-D)**2/(prev_D**2+1e-9).mean(axis=0) if all(change_rate<self.tol): break return D, sparse_code ``` 此部分实现了基本框架下的KSVD类[^2][^3]。 #### 应用实例：图像去噪效果展示 最后一步是应用上述训练好的字典对含噪声图片进行恢复操作。 ```python if __name__ == "__main__": orig_img, noised_img = prepare_data() ks = KSVD(256,max_iter=5,tol=1E-4,) dictionary,_ = ks.fit_transform(noised_img.flatten().reshape((-1,1))) reconstructed_signal = ... # Complete this line with reconstruction logic based on the learned dictionary and coefficients. fig, axes = plt.subplots(ncols=3, figsize=(8, 3), sharex=True, sharey=True) ax = axes.ravel() ax[0].imshow(orig_img, cmap='gray') ax[0].set_title('Original Image') ax[1].imshow(noised_img, cmap='gray') ax[1].set_title('Noisy Image') ax[2].imshow(reconstructed_signal.reshape(orig_img.shape),cmap='gray') ax[2].set_title('Reconstructed Image') plt.tight_layout() plt.show() ``` 这段代码展示了如何使用自定义的KSVD对象去除图像中的随机噪声。

### K-SVD 算法概述 K-SVD 是一种用于设计超完备字典的方法，旨在通过稀疏表示技术将数据转换为更紧凑的形式[^4]。其核心目标是在给定一组信号的情况下，构建一个能够有效表达这些信号的字典，并使信号在该字典下的表示尽可能稀疏。 #### 基本原理 K-SVD 的主要过程可以分为两个阶段：稀疏编码和字典更新。 1. **稀疏编码**: 给定初始字典 \( \mathbf{D} \)，对于每组输入信号 \( \mathbf{Y} \)，求解对应的稀疏系数矩阵 \( \mathbf{\alpha} \)。这一步通常采用贪婪算法（如 OMP 或 Basis Pursuit）完成。 2. **字典更新**: 更新字典中的每一列及其对应的部分稀疏系数，使得重建误差最小化。这一部分涉及剥离当前字典项的影响并重新拟合新的原子[^3]。 以下是基于 Python 实现的一个简单版本： ```python import numpy as np from scipy.sparse.linalg import lsqr def ksvd(Y, num_atoms, max_iter=10, tol=1e-6): """ Perform K-SVD dictionary learning on input data. Parameters: Y : Input signal matrix of shape (n_features, n_samples). num_atoms : Number of atoms/dictionary elements to learn. max_iter : Maximum number of iterations for the algorithm. tol : Tolerance for stopping criterion based on reconstruction error. Returns: Dictionary D and sparse coefficient matrix X. """ # Initialize dictionary randomly or with SVD components m, n = Y.shape D = np.random.randn(m, num_atoms) D /= np.sqrt(np.sum(D**2, axis=0)) X = np.zeros((num_atoms, n)) E_prev = float('inf') for _ in range(max_iter): # Sparse coding step using least squares approximation for i in range(n): residual = Y[:, [i]] idx_nonzero = [] while True: atom_idx = np.argmax(np.abs(residual.T @ D)) # Greedy selection if atom_idx not in idx_nonzero: idx_nonzero.append(atom_idx) # Update coefficients via Least Squares subdict = D[:, idx_nonzero] coeffs = lsqr(subdict, Y[:, i])[0] X[idx_nonzero, i] = coeffs reconstructed_signal = subdict @ coeffs.reshape(-1, 1) residual -= reconstructed_signal.flatten() if len(idx_nonzero) >= min(num_atoms, int(0.8 * m)): break # Dictionary update step for j in range(num_atoms): indices_j = np.nonzero(X[j, :] != 0)[0] if len(indices_j) == 0: continue Ej = Y - D @ X + D[:, [j]] @ X[[j], :] Wj = X[j, indices_j].reshape(len(indices_j), 1).T U, Sigma, VT = np.linalg.svd(Ej[:, indices_j]) D[:, [j]] = U[:, 0].reshape(-1, 1) X[j, indices_j] = Sigma[0] * VT[0, :] # Check convergence by comparing errors R = Y - D.dot(X) E_curr = np.mean(R**2) if abs(E_prev - E_curr) < tol: break E_prev = E_curr return D, X ``` 上述代码实现了完整的 K-SVD 流程，其中包含了初始化、稀疏编码以及迭代更新三个重要环节[^2]。 --- ### 应用场景 K-SVD 广泛应用于图像处理领域，特别是在去噪、压缩感知等方面表现优异。例如，在图像去噪任务中，可以通过学习局部补丁上的字典来恢复原始清晰图像。具体流程如下： 1. 提取图像的小块区域作为训练样本； 2. 使用 K-SVD 学习适合这些小块的字典； 3. 对测试集应用相同的字典进行稀疏重构以去除噪声。 此外，K-SVD 还可用于音频信号分析、视频背景建模等领域。 ---