动态规划基础与经典问题

动态规划的优化与高级应用-CSDN博客

一、动态规划的基本概念与特点

动态规划（Dynamic Programming, DP）是一种通过分解问题并记录子问题的解，从而优化求解过程的算法思想。它特别适合解决具有 重叠子问题 和 最优子结构 特性的复杂问题。

1. 重叠子问题

重叠子问题 指的是一个问题可以被分解为多个子问题，且这些子问题会重复出现。以斐波那契数列为例：

F(n)=F(n−1)+F(n−2)F(n) = F(n-1) + F(n-2)F(n)=F(n−1)+F(n−2)

如果使用递归方式求解，每次求解 F(n)F(n)F(n) 都会重复计算 F(n−1)F(n-1)F(n−1) 和 F(n−2)F(n-2)F(n−2) 等子问题。动态规划通过保存已经计算过的子问题结果，避免了重复计算。

2. 最优子结构

最优子结构 意味着问题的最优解可以通过其子问题的最优解推导得出。例如，在最短路径问题中，从 A 点到 C 点的最短路径可以通过 A 到 B 的最短路径和 B 到 C 的最短路径推导出来。

3. 动态规划与分治法的区别

动态规划与分治法都是通过分解问题来解决复杂问题，但二者有所不同。分治法适用于独立子问题，而动态规划则用于处理子问题重叠的情况。分治法不保存子问题的解，而动态规划通过表格或记忆化技术来保存这些解，从而避免重复计算。

二、动态规划的基本步骤

解决动态规划问题通常包括以下步骤：

1. 定义状态：用一个变量（或多个变量）来表示问题的子状态。状态定义决定了如何通过子问题来构建整体问题的解。
2. 状态转移方程：找到从一个状态到另一个状态的递推关系。状态转移方程是动态规划的核心，决定了问题如何从子状态递推到最终状态。
3. 初始条件与边界条件：定义基础的状态。通常是问题的最小规模解。
4. 计算顺序：决定是使用自底向上的迭代法还是自顶向下的递归法（结合记忆化）。
5. 返回结果：通过状态转移得到目标状态的值，即问题的最优解。

三、动态规划的经典问题

1. 斐波那契数列问题

斐波那契数列问题是动态规划的入门问题。其递归定义为：

F(n)=F(n−1)+F(n−2),F(0)=0,F(1)=1F(n) = F(n-1) + F(n-2), \quad F(0) = 0, F(1) = 1F(n)=F(n−1)+F(n−2),F(0)=0,F(1)=1

通过动态规划，我们可以避免重复计算已经求解的子问题。

动态规划实现：

def fibonacci(n):
    if n <= 1:
        return n
    dp = [0] * (n+1)
    dp[1] = 1
    for i in range(2, n+1):
        dp[i] = dp[i-1] + dp[i-2]
    return dp[n]

通过使用一个数组 dp 保存已经计算的结果，这个算法的时间复杂度为 O(n)，空间复杂度也为 O(n)。

2. 0-1 背包问题

0-1 背包问题是另一个经典的动态规划问题。问题描述为：给定 n 件物品，每件物品都有一个重量和一个价值，选择某些物品装入容量为 W的背包，要求总价值最大。

状态定义：设 dp[i][w] 表示前 i 件物品在背包容量为 www 的情况下可以获得的最大价值。

状态转移方程：

代码实现：

def knapsack(wt, val, W):
    n = len(wt)
    dp = [[0 for _ in range(W + 1)] for _ in range(n + 1)]
    for i in range(1, n + 1):
        for w in range(1, W + 1):
            if wt[i - 1] <= w:
                dp[i][w] = max(dp[i - 1][w], dp[i - 1][w - wt[i - 1]] + val[i - 1])
            else:
                dp[i][w] = dp[i - 1][w]
    return dp[n][W]

在该问题中，动态规划通过保存中间结果，避免了暴力搜索中的指数级时间复杂度。

3. 最长公共子序列问题（LCS）

最长公共子序列问题要求找出两个字符串的最长公共子序列。设 A 和 B 是两个字符串，定义状态 dp[i][j] 为 A[0:i] 为 B[0:j] 的最长公共子序列长度。

状态转移方程：

代码实现：

def lcs(A, B):
    m, n = len(A), len(B)
    dp = [[0] * (n + 1) for _ in range(m + 1)]
    for i in range(1, m + 1):
        for j in range(1, n + 1):
            if A[i - 1] == B[j - 1]:
                dp[i][j] = dp[i - 1][j - 1] + 1
            else:
                dp[i][j] = max(dp[i - 1][j], dp[i][j - 1])
    return dp[m][n]

最长公共子序列问题的时间复杂度为 O(m×n)，其中 m 和 n 是两个字符串的长度。

四、动态规划的局限性

虽然动态规划可以有效解决许多问题，但其缺点也很明显：空间复杂度往往较高，尤其是在处理多维状态时，需要大量存储空间。此外，动态规划的状态定义和状态转移方程的设计往往较为复杂，要求对问题有深入的理解。

五、小结

动态规划是一种强大的算法思想，通过保存中间结果，解决了许多递归问题中的重复计算问题。本文介绍了动态规划的基本概念、步骤和三个经典问题，帮助读者理解如何从递归转向动态规划。下一篇文章将深入探讨如何通过优化策略降低动态规划的空间复杂度，以及动态规划在更复杂问题中的应用。动态规划的魅力在于它不仅仅是一种算法技巧，更是一种问题求解的思维方式。