【复旦邱锡鹏教授《神经网络与深度学习公开课》笔记】卷积

卷积经常用在信号处理中，用于计算信号的延迟累积。假设一个信号发射器每个时刻$t$产生一个信号$x_t$，其信息的衰减率为$w_k$，即在$k-1$个时间步长后，信息为原来的$w_k$倍，时刻$t$收到的信号$y_t$为当前时刻产生的信息$x_t$和以前时刻延迟信息$w_{t-1}{x}_{t-1}+\cdots +w_1{x}_1$的叠加。假设$w_1=1,w_2=\frac{1}{2},w_3=\frac{1}{4}$也就是
x1y1=x1x2y2=x2+12x1x3y3=x3+12x2+14x1⋮⋮ \begin{aligned} &x_1&y_1=x_1\\ &x_2&y_2=x_2+\frac{1}{2}x_1\\ &x_3&y_3=x_3+\frac{1}{2}x_2+\frac{1}{4}x_1\\ &\vdots&\vdots \end{aligned} ​x1​x2​x3​⋮​y1​=x1​y2​=x2​+21​x1​y3​=x3​+21​x