移动最小二乘法（Moving Least Squares, MLS）的推导

移动最小二乘法（Moving Least Squares, MLS）的推导

移动最小二乘法（MLS）是一种用于平滑、重建和拟合离散点云数据的算法。其核心思想是使用加权的局部最小二乘拟合，将全局最小二乘拟合推广到局部区域，并通过移动窗口动态调整拟合位置。以下是详细的推导过程。

目标问题

给定一组离散点云 $\{(x_i,y_i){\}}_{i=1}^N$，希望在点云附近通过多项式拟合一个平滑函数 $f(x)$，使得拟合尽可能接近数据点，同时具有一定的平滑性。

拟合函数形式假设为：
$$f(x)=\sum _{j=0}^m{a}_j{\varphi }_j(x)$$
其中：

• ${\varphi }_j(x)$ 是基函数，例如 { 1 , x , x 2 , … , x m } \{1, x, x^2, \dots, x^m\} { 1,x,x2,…,xm}。
• $a_j$ 是需要求解的系数。

加权局部拟合

1. 局部权重定义
   为了强调拟合的局部性，定义一个加权函数 $w(x-x_i)$，用来衡量点 $x_i$ 对拟合中心 $x$ 的贡献。通常选择的权重函数具有以下性质：

• $w(x-x_i)\ge 0$。

• $w(x-x_i)$ 随 $|x-x_i|$ 增大而减小。

• 常用的权重函数包括高斯函数：
  $$w(x-x_i)=\exp \left(-\frac{(x-x_i{)}^2}{h^2}\right)$$
  其中 $h$ 是带宽参数，控制影响范围。

2. 局部最小二乘目标函数
   对每个拟合中心 $x$，拟合的目标是最小化加权误差平方和：

$$E(a_0,a_1,\dots ,a_m)=\sum _{i=1}^{N}w(x-x_i){\left(y_i-\sum _{j=0}^m{a}_j{\varphi }_j(x_i)\right)}^2$$

求解过程

1. 展开目标函数

将拟合函数代入目标函数，得到：
$$E(a_0,a_1,\dots ,a_m)=\sum _{i=1}^{N}w(x-x_i){\left(y_i-{\mathbf{a}}^{\top }\mathbf{\varphi }(x_i)\right)}^2$$
其中：

• $\mathbf{a}=[a_0,a_1,\dots ,a_m{]}^{\top }$ 是系数向量。
• $\mathbf{\varphi }(x_i)=[{\varphi }_0(x_i),{\varphi }_1(x_i),\dots ,{\varphi }_m(x_i){]}^{\top }$ 是基函数向量。

2. 矩阵形式

将加权误差平方和用矩阵表示：
$$E(\mathbf{a})={\left(\mathbf{y}-\mathbf{\Phi a}\right)}^{\top }\mathbf{W}\left(\mathbf{y}-\mathbf{\Phi a}\right)$$
其中：

• $\mathbf{y}=[y_1,y_2,\dots ,y_N{]}^{\top }$ 是数据点的输出值向量。

• $\mathbf{\Phi }$ 是设计矩阵：
  Φ = [ ϕ 0 ( x 1 ) ϕ 1 ( x 1 ) ⋯ ϕ m ( x 1 ) ϕ 0 ( x 2 ) ϕ 1 ( x 2 ) ⋯ ϕ m