之前介绍过Sarsa算法,其是一种TD算法,目的是为了学习动作价值函数。Q-learning也是一种TD算法,目的是为了学习最优动作价值函数Q*,其实训练DQN的算法就是Q-learning。
Sarsa算法和Q-learning算法的区别:
两者的TD target略有不同。
Q-learning的TD target:
求最大化:
求完最大化后,可以消掉,得到下面的等式:
之前介绍过Sarsa算法,其是一种TD算法,目的是为了学习动作价值函数。Q-learning也是一种TD算法,目的是为了学习最优动作价值函数Q*,其实训练DQN的算法就是Q-learning。
两者的TD target略有不同。
求最大化:
求完最大化后,可以消掉,得到下面的等式: