深度学习入门——sigmoid & step & ReLU函数 & softmax函数

最新推荐文章于 2025-07-19 22:58:27 发布

jack_zhou.

最新推荐文章于 2025-07-19 22:58:27 发布

阅读量641

点赞数

CC 4.0 BY-SA版权

分类专栏： AI 文章标签：深度学习 sigmoid reLU

本文链接：https://blog.csdn.net/ke_g3/article/details/99436464

本文介绍了深度学习中常见的激活函数，包括sigmoid、ReLU及其溢出问题和softmax函数，重点讨论了softmax函数的概率解释及如何处理溢出问题。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

演示代码

import io
import sys
sys.stdout = io.TextIOWrapper(sys.stdout.buffer, encoding='utf-8')

import numpy as np
import matplotlib.pyplot as plt
print('_hello,inited！')

def step(x):
    return np.array(x>0,dtype=np.int)

def sigmoid(x):
    return 1 / (1 + np.exp(-x))

def reLU(x):
    return np.maximum(0, x)

x = np.arange(-5.0, 5.0, 0.1)
y1 = sigmoid(x)
y2 = step(x)
y3 = reLU(x)


plt.plot(x,y1,label='sigmoid')
plt.plot(x,y2,label='step',linestyle='--')
plt.plot(x,y3,label='reLU')
plt.title('sigmoid & step & reLU')
plt.ylim(-0.1, 1.1)
plt.legend()
plt.show()