dl-demo

神经网络

激活函数

sigmoid函数

$$ h(x)=\frac{1}{1+exp(-x)} $$

exp(-x)表示$e^{-x}$.e就是皮纳尔常数

ReLU函数

$$ h(x)=\begin{cases} x (x>0) \\ 0 (x\leq0) \end{cases} $$

多维数组的运算

• 数组的维数可以通过np.dim()函数获得
• 数组的形状可以通过实例变量shape获得

　矩阵乘法

p.dot()接收两个NumPy数组作为参数，并返回数组的乘积。

神经网络的内积

$a^{(1)}_{1}$通过加权信号和偏置的和按如下方式进行计算

$$ a^{(1)}{1}=w^{(1)}{11}x_1+w^{(1)}{12}x_2+b^{(1)}{1} $$