深度学习常见面试题（2024.8.30笔记）

原创 于 2024-08-30 23:23:04 发布 · 3k 阅读 · 13 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习 #笔记 #人工智能

1.激活函数的作用

        单纯的神经网络只能够处理线性数据，而激活函数所起到的作用就是在神经网络中加入了非线性因素，使得神经网络可以拟合各种曲线，进而能够对非线性的数据进行处理，用来解决线性模型表达能力不足的问题，进一步提高神经网络的拟合能力，能够适应更多不同场景的应用。

2.如何解决过拟合？

导致过拟合的原因有训练数据量少，模型过于复杂。常见解决方法有：

  • 增加训练数据量
  • Batch Normalization
  • Dropout
  • Early Stopping
  • L1/L2正则化
3.常见的正则化方法

正则化的本质是针对某一问题加以先验限制条件或约束以达到某种目的的一种手段。

常见的正则化方法有L1正则化和L2正则化，它们是在损失函数中添加一个正则项。

  • L1正则项是指权值向量中各个元素的平均值之和。
  • L2正则项是指权值向量中各个元素的平方和然后再求平方根。
4.批量归一化的作用

        神经网络的训练过程本质上就是学习数据分布，如果训练数据与测试数据分布不同将大大降低网络的泛化能力，因此需要在训练开始前对所有的输入数据进行归一化处理。

        在训练过程中进入网络结构的一般都是一个m

最低0.47元/天 解锁文章

200万优质内容无限畅学
小米移动软件校招面试真题汇总及其解答
AI天才研究院
10-23 997
第1章：小米公司简介与招聘概况 1.1 小米公司简介 1.1.1 小米公司的使命与愿景 小米公司成立于2010年，其使命是“让每个人都能享受科技的乐趣”，愿景是“成为世界级的创新科技企业”。这一使命和愿景体现了小米对于科技普及和创新的执着
深度学习面试问题
LiangManqi0320的博客
05-20 1821
Sigmoid函数在z很大或z很小的时候，梯度都接近于0，这样，误差经过每一层传递都会不断衰减，当网络层数很深时，梯度就会不停衰减，甚至消失，使得整个网络很难训练。一种简单有效的解决方法是使用导数比较大的激活函数，比如ReLUAlexNet：使用GPU进行并行训练，采用ReLU作为非线性激活函数，使用Dropout防止过拟合，使用数据增强提高模型准确率，使用局部响应归一化以增强模型的泛化能力。Inception网络：一个卷积层包含多个不同大小的卷积操作，成为Inception模块。
2024年深度学习、计算机视觉与大模型面试题综述，六大专题数百道题目
AIGC | 智能洞察，创造未来
12-26 925
本项目涵盖了大模型(LLMs)专题、计算机视觉与感知算法专题、深度学习基础与框架专题、自动驾驶、智慧医疗等行业垂域专题、手撕项目代码专题、优异开源资源推荐专题共计6大专题模块。我们将持续整理汇总2024年度最新的面试题并详细解析这些题目，希望能成为大家斩获offer路上一份有效的辅助资料。
面试宝典之深度学习面试题(上)
小詹学python的博客
04-10 1425
点击上方“小詹学Python”，“星标”或"置顶"关键时刻，第一时间送达本文转载自“Python全家桶”金三银四是一年找工作的最好时机，都忙着找工作。找工作就少不了面试，...
深度学习面试题
weixin_51489229的博客
08-01 1259
一，滤波器与卷积核 二，卷积层和池化输出大小计算 2.1，CNN 中术语解释 2.2，卷积输出大小计算（简化型） 2.3，理解边界效应与填充 padding 参考资料 三，深度学习框架的张量形状格式 四，Pytorch 、Keras 的池化层函数理解 4.1，torch.nn.MaxPool2d 4.2，keras.layers.MaxPooling2D 五，Pytorch 和 Keras 的卷积层函数理解 5.1，torch.nn.Conv2d 5.2，keras
【面试题】Java基础篇-常见面试题总结p2
2401_84048290的博客
04-18 908
我们总是喜欢瞻仰大厂的大神们，但实际上大神也不过凡人，与菜鸟程序员相比，也就多花了几分心思，如果你再不努力，差距也只会越来越大。实际上，作为程序员，丰富自己的知识储备，提升自己的知识深度和广度是很有必要的。
2024大数据面试题汇总(完善中。。。)
最新发布
为人性僻 语不惊人
06-18 2504
自己汇总的面试题，涉及到大数据的常用组件，将持续更新... ... 部分图片不全，后期继续完善 更新记录: 2024-6-18 初版0.1.0 :hadoop，hbase，doris，hive，mysql，es 2024-6-26 1.0.0 : java，spark，redis，kafka，flink，kafka，数据仓库
2023 前端Vue面试题大全汇总 (82道)_vue面试题2023，面试技巧的书籍
m0_61331573的博客
04-20 1040
插槽slot可以理解为占坑，当使用一个组件的时候，在组件标签里的对应的内容就会替换掉这个组件中的slot标签。插槽分为默认插槽具名插槽作用域插槽。默认插槽子组件中用slot标签来确定渲染位置，父组件使用它时直接在子组件的标签内写入内容即可//子组件//父组件默认插槽具名插槽顾名思义就是具有名字的插槽，子组件中可以用name熟悉对slot命名，父组件在使用的时候通过template中的或者#name来定义这个插槽中的内容//子组件//父组件具名插槽内容作用域插槽子组件中的slot。
深度学习面试题目-1
leonorandzzzz的博客
08-23 643
1.比较Boosting和Bagging的异同 1、二者都是集成学习算法，都是将多个弱学习器组合成强学习器的方法。 2、Bagging（套袋法）：从原始数据集中每一轮有放回地抽取训练集，训练得到k个弱学习器.。 对于分类：将这k个弱学习器以投票的方式得到最终的分类结果。 对回归问题；计算上述模型的均值作为最后的结果。（所有模型的重要性相同） 3、Boosting：每一轮根据上一轮的分类结...
深度学习--面试题目
Skye's Blog
02-26 5106
● BatchNormalization的作用 参考回答： 神经网络在训练的时候随着网络层数的加深,激活函数的输入值的整体分布逐渐往激活函数的取值区间上下限靠近,从而导致在反向传播时低层的神经网络的梯度消失。而BatchNormalization的作用是通过规范化的手段,将越来越偏的分布拉回到标准化的分布,使得激活函数的输入值落在激活函数对输入比较敏感的区域,从而使梯度变大,加快学习收敛速度,避免...
深度学习相关面试题
爱CV
02-05 641
1.CNN的特点以及优势 改变全连接为局部连接，这是由于图片的特殊性造成的（图像的一部分的统计特性与其他部分是一样的），通过局部连接和参数共享大范围的减少参数值。可以通过使用多个filter来提取图片的不同特征（多卷积核）。 CNN使用范围是具有局部空间相关性的数据，比如图像，自然语言，语音 1.局部连接：可以提取局部特征。 2.权值共享：减少参数数量，因此降低训练难度（空间、时间消耗都少了）。 3.可以完全共享，也可以局部共享（比如对人脸，眼睛鼻子嘴由于位置和样式相对固定，可以用和脸部不一样的卷积
深度学习面试题合集
南洲.的博客
03-10 1100
1、不容错过的12个深度学习面试问题 https://ai.51cto.com/art/202001/609327.htm 2、深度学习面试题总结1-20 https://blog.csdn.net/weixin_42073654/article/details/83063551 3、深度学习面试及答案 https://cloud.tencent.com/developer/article/152...
深度学习面试题汇总
Zhongyanxia123的博客
12-08 841
1. 反向传播算法推导 2. 激活函数主要使用哪一些函数？ sigmoid函数 softmax Relu函数 2.Relu函数可导吗？如果不可导，用什么解决？ Relu函数在零点不可导，Relu的函数曲线如下图所示。可导的定义是，首先在该点有定义，当且仅当左导数和右导数相等，才可导。如果在零点不可导，解决方法一般采用左导数，也就是在零点时的导数为0。采用0.5或1也可以，个例不影响整体效果，所以采取三个值都可以。 4.神经网络中的过拟合问题如何处理？ 当出现过拟合的时候，模型在训练集上的损失会比较小，
深度学习面试题21-40
是小晰呱啊的博客
10-15 1554
21.r-cnn，fast-r-cnn、faster-r-cnn三者的区别？ CNN流行之后，Szegedy做过将detection问题作为回归问题的尝试（Deep Neural Networks for Object Detection），但是效果差强人意，在VOC2007上mAP只有30.5%。既然回归方法效果不好，而CNN在分类问题上效果很好，那么为什么不把detection问题转化为分类...
深度学习面试题汇总（一）
gary101818的博客
03-15 624
规范化将越来越偏的分布拉回到标准化的分布,使得激活函数的输入值落在激活函数对输入比较敏感的区域,从而使梯度变大,加快学习收敛速度,避免梯度消失的问题。第L层每个神经元的激活值进行Normalization操作，比如BatchNorm/ LayerNorm/ InstanceNorm/ GroupNorm等方法都属于这一类；对神经网络中连接相邻隐层神经元之间的边上的权重进行规范化操作，比如Weight Norm就属于这一类。
PyTorch深度学习：探索nn.RNN与nn.RNNCell
"PyTorch学习笔记：nn.RNN与nn.RNNCell的使用" 在PyTorch中，nn.RNN是实现循环神经网络（RNN）层的主要接口，它在处理序列数据时非常有用，尤其适合自然语言处理任务。RNN通过在时间步之间传递隐藏状态来捕获序列中...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值