06 Deep learning神经网络编程基础 激活函数 --吴恩达

逻辑回归是一种用于二分类任务的统计方法，通过Sigmoid函数将线性回归结果映射为概率值（0-1）。核心公式为ŷ=σ(wᵀx+b)，其中Sigmoid函数具有可导、输出概率化等特性，便于梯度计算。虽然名称含"回归"，但实际解决分类问题。其Python实现简单，广泛应用于概率预测，但存在梯度消失等局限，在深层网络中逐渐被ReLU替代。典型应用包括神经网络激活和强化学习动作选择。

摘要：本文系统梳理了深度学习中的损失函数原理与应用，重点分析了逻辑回归的交叉熵损失。通过数学推导展示了从概率表达式到损失函数的转化过程（$J(w,b)=-\frac{1}{m}\sum[y^{(i)}\log\hat{y}^{(i)}+(1-y^{(i)})\log(1-\hat{y}^{(i)})]$），并给出梯度计算公式和Python实现代码。文章还阐明了损失函数的凸性、概率解释等关键特性，以及多分类场景下的softmax扩展。实验部分通过特征矩阵示例（X=[[2,3],[1,4],[5,2]]）演示了

只有一种情况可以使用线性激活函数，就是当预测房价，最高可以无穷大，那么在输出层可以使用线性激活函数，并且隐藏层必须是非线性的激活函数。单层神经网络设为0.01应该还可以，如果是深层的需要尝试其他的constant。对于你的项目，事实上很难预测哪种选择最有效，最好是实际上跑一跑。向量化的经验法则：如果一层有不同的节点，就将他们纵向堆叠起来。正向传播一步迭代的向量化实现，同时处理m个训练样本。28.多样本向量化 29向量化实现的解释 都是线代。这个视频将学会向量化计算m个训练数据的梯度。

吴恩达deeplearning课程笔记和课后习题详解

吴恩达Coursera-深度学习deeplearning 提炼笔记–神经网络基础 声明 本文为学习吴恩达老师所做的笔记，电脑搭载的环境为opencv-python3.7+pycharm+keras+tensorflow-gpu+cudn+cudnn，在课程中需要用到的文件会以链接形式给出，文中有代码。 Softmax函数 1.为什么学softmax函数 softmax函数的作用是将输入的数值映射到...

DL.ai笔记:第四课 卷积神经网络 第一周 卷积神经网络 1.1计算机视觉 当图片尺寸变大后，如1000X1000X3的输入， 如果用全连接网络，第一层隐藏层1000个神经单元，参数量为三百万，参数量会大大增加，不仅无法解决过拟合问题，并且内存也无法满足。 1.2边缘检测示例 用卷积运算实现垂直边缘检测，看数字矩阵下方的图，左边的红色圈出来的边缘通过卷积运算后明显的被识别出来了（右边红...

用一个 2 × 3的矩阵和一个 1 × 3 的矩阵相加，其泛化形式是 𝑚 × 𝑛 的矩阵和 1 × 𝑛的矩阵相加。这是一个不同食物(每 100g)中不同营养成分的卡路里含量表格，表格为 3 行 4 列，列表示不同的食物种类，从左至右依次为苹果，牛肉，鸡蛋，土豆。首先，按列求和，计算每种食物中（100g）三种营养成分总和，然后分别用不用营养成分的卡路里数量除以总和，计算百分比。axis 用来指明将要进行的运算是沿着哪个轴执行，在 numpy 中，0 轴是垂直的，也就是列，而 1 轴是水平的，也就是行。

具体问题是小虎使用conda install scikit-learn一直在solving environment。解决方法如下。

如图 一般是由于launch.json文件没有配置好的缘故。在右下角的ADD configuration如选第二个登录： 看到program这一栏，这一栏很重要，一般是选择你CMakelist,编译出来的可执行文件 看我CMakelist, 我生成的可执行文件是test_,所以路径可以这样输入： 我在之前cmake的时候已经有了test_这个文件了 然后就可以运...

简单分享小虎这段时间以来学到的jupyter notebook操作技巧。

最简单的对齐Shift + Alt + F。给选中的代码前面加空格，用Tab，可以通过设置spaces来选择空格多少。

在windows或ubuntu直接 pip install opencv-python 然后它会下载最新版本的opencv，配置到anaconda上面。 安装了一个4.10： 其他什么下载一个包然后自己pip安装我试过不行，一直出现 ImportError: No module named 'cv2'，见 https://blog.csdn.net/Guiabbey/arti...

本来已经把GUI给做好了，下载一个pyqt5-tools准备用里面的qt designer优化界面时，环境有一些改变，导致这个问题。解决办法是用conda prompt打开，或删除环境重新配置，具体步骤如下。

python画图用的是matplotlib库，而且，保存一般也用这个库的函数savefig。将图片保存为jpg,pdf等均可。附简单例子让你体验。

首要可能（我的问题解决方案）： 因为opencv-python安装的时候使用了: pip install opencv-python 所以如果你使用编译器为python3,自然无法读取,可以试试 pip3 install opencv-python 或 pip3 install opencv-python --user 给py3配上opencv-python环境。matplot...

比较常用xlsxwriter来将数据保存到xlsx里面。附官方代码，加些许修改就能用。