分类 准确的线搜法:迭代次数确定。如二分法,插值法,黄金分割法,etc.非准确的线搜法:在一阶优化中用得较多,用于确定学习率(步长)。 二分法 如下图,反复交替确定上下界,终止条件是最终经过kkk次迭代后的上下界之间的距离小于预设的比较小的值:(12)k(˙xU−xL)⩽ϵ(\frac{1}{2})^k \dot (x_U-x_L) \leqslant \epsilon(21)k(˙xU−xL)⩽ϵ。黄金分割法与二分法差不多,不再是折中取点,而是以0.618取点。