应用性能分析与加速指南

### 应用性能分析与加速指南 在开发应用程序时，我们常常会遇到应用运行缓慢的问题。这时，我们首先需要找出代码中哪些部分占用了大量的处理时间，这些部分被称为瓶颈。下面将介绍如何对应用进行性能分析和加速。 #### 1. 应用性能分析 当应用运行缓慢时，我们可以通过性能分析（Profiling）来找出代码中的瓶颈。`pyinstrument` 是一个不错的性能分析工具，它可以在不修改应用代码的情况下对应用进行分析。以下是使用 `pyinstrument` 对应用进行分析的步骤： 1. 执行以下命令对应用进行性能分析： ```bash $ pyinstrument -o profile.html -r html main.py ``` 这里，`-o` 选项指定了性能分析报告的输出文件为 `profile.html`，`-r` 选项指定报告以 HTML 格式呈现。应用终止后，会生成性能分析报告，我们可以在浏览器中打开该报告查看。 2. 如果省略 `-o` 和 `-r` 选项，报告将显示在控制台中。 分析报告通常会显示代码中哪些部分花费了大量时间。例如，在某个对象检测和跟踪应用中，脚本本身和跟踪部分（尤其是 `iou` 函数）会占用大量时间。为了加速跟踪，可以考虑用更高效的函数替换 `iou` 函数。 #### 2. 使用 Numba 加速代码 Numba 是一个使用低级虚拟机（LLVM）编译器基础设施优化纯 Python 代码的编译器。它可以将数学计算密集的 Python 代码高效地编译成类似于 C、C++ 和 Fortran 的性能。以下是使用 Numba 加速代码的详细步骤： ##### 2.1 准备工作 我们将使用 IPython 交互式解释器来处理代码。可以通过以下方式使用： - 直接在控制台使用解释器。 - 使用 Jupyter Notebook 或 JupyterLab。 - 如果使用 Atom 编辑器，可以考虑安装 Hydrogen 插件，它可以在编辑器中实现交互式编码环境。 导入 NumPy 和 Numba： ```python import numpy as np import numba ``` 这里使用的是 Numba 0.49 版本，在后续使用中，可能需要根据该版本对代码进行修改。 ##### 2.2 隔离要加速的代码 我们要加速的代码主要包括计算两个框的交并比（IOU）的函数和计算 IOU 矩阵的函数。以下是具体代码： ```python # 计算两个框的 IOU def iou(a: np.ndarray, b: np.ndarray) -> float: a_tl, a_br = a[:4].reshape((2, 2)) b_tl, b_br = b[:4].reshape((2, 2)) int_tl = np.maximum(a_tl, b_tl) int_br = np.minimum(a_br, b_br) int_area = np.product(np.maximum(0., int_br - int_tl)) a_area = np.product(a_br - a_tl) b_area = np.product(b_br - b_tl) return int_area / (a_area + b_area - int_area) # 计算 IOU 矩阵 def calc_iou_matrix(detections, trackers): iou_matrix = np.zeros((len(detections), len(trackers)), dtype=np.float32) for d, det in enumerate(detections): for t, trk in enumerate(trackers): iou_matrix[d, t] = iou(det, trk) return iou_matrix ``` 为了测试性能，我们定义两组随机边界框： ```python A = np.random.rand(100, 4) B = np.random.rand(100, 4) ``` 然后使用 `%timeit` 魔法命令来估计计算 IOU 矩阵所需的时间： ```python %timeit calc_iou_matrix(A, B) ``` 输出结果可能如下： ```plaintext 307 ms ± 3.15 ms per loop (mean ± std. dev. of 7 runs, 1 loop each) ``` 可以看到，计算该矩阵大约需要三分之一秒。如果场景中有 100 个对象，并且要在 1 秒内处理多帧，应用将出现巨大的瓶颈。 ##### 2.3 CPU 加速 Numba 的核心特性之一是 `@numba.jit` 装饰器，它可以标记函数以便 Numba 编译器进行优化。以下是一个使用 `@numba.jit` 装饰器的示例： ```python @numba.jit(nopython=True) def product(a): result = 1 for i in range(len(a)): result *= a[i] return result ``` 这个函数可以看作是 `np.product` 的自定义实现。`nopython=True` 表示当函数无法完全编译成机器代码时，会抛出异常。 我们可以使用相同的装饰器来加速 `iou` 函数： ```python @numba.jit(nopython=True) def iou(a: np.ndarray, b: np.ndarray) -> float: a_tl, a_br = a[0:2], a[2:4] b_tl, b_br = b[0:2], b[2:4] int_tl = np.maximum(a_tl, b_tl) int_br = np.minimum(a_br, b_br) int_area = product(np.maximum(0., int_br - int_tl)) a_area = product(a_br - a_tl) b_area = product(b_br - b_tl) return int_area / (a_area + b_area - int_area) ``` 再次测试 `calc_iou_matrix` 函数的性能： ```python %timeit calc_iou_matrix(A, B) ``` 输出结果可能如下： ```plaintext 14.5 ms ± 24.5 µs per loop (mean ± std. dev. of 7 runs, 1 loop each) ``` 可以看到，已经有了大约 20 倍的加速。 接下来，我们对 `calc_iou_matrix` 函数进行编译： ```python @numba.jit(nopython=True) def calc_iou_matrix(detections, trackers): iou_matrix = np.zeros((len(detections), len(trackers)), dtype=np.float32) for d in range(len(detections)): det = detections[d] for t in range(len(trackers)): trk = trackers[t] iou_matrix[d, t] = iou(det, trk) return iou_matrix ``` 再次测试性能： ```python %timeit calc_iou_matrix(A, B) ``` 输出结果可能如下： ```plaintext 7.08 ms ± 31 µs per loop (mean ± std. dev. of 7 runs, 1 loop each) ``` 这个版本比上一个版本快了约两倍。 ##### 2.4 其他装饰器 - **`@numba.vectorize` 装饰器**：可以将处理标量参数的函数转换为可以作为 NumPy ufuncs 类使用的函数。例如： ```python @numba.vectorize def custom_operation(a, b): if b == 0: return 0 return a * b if a > b else a / b ``` 这个函数可以对 NumPy 数组进行操作，例如： ```python cus ```