跬步千里

网剧《天才基本法》中一个问题的思考与拓展

考虑一个求多元函数f(x)\mathbb{f}(\pmb{x})f(xxx)求最小值的问题，当我们无法求出精确结果时，需要使用一些算法求出它的数值解，本文主要探讨基于梯度的优化算法中比较常见的三种算法：梯度下降法、牛顿法和拟牛顿法。1.梯度下降法在说梯度下降法之前，概念首先说说梯度的概念：梯度是相对一个向量求导的导数，它的定义为▽xf(x)=(∂f∂x1,⋯ ,∂f...

广义线性模型[generalize dlinear model]是线性模型的扩展，通过联结函数建立响应变量的数学期望值与线性组合的预测变量之间的关系。其特点是不强行改变数据的自然度量，数据可以具有非线性和非恒定方差结构。是线性模型在研究响应值的非正态分布以及非线性模型简洁直接的线性转化时的一种发展。.