偏导数：是多个数（每元有一个）；是指多元函数沿坐标轴方向导数计算公式的方向导数计算公式导数因此二元函数就有两个偏导数。

    偏导函数：是一个函数；是一个關于点的偏导数的函数

    梯度：是一个向量；每个元素为函数对一元变量的偏导数；它既有大小（其大小为最大方向导数计算公式导数），也有方向导数计算公式

2.0 方向导数计算公式导数计算公式

2.2 二元函数偏导数的几何意义

    偏导数是偏导函数在指定点的函数值，因此在求偏導数时也可先求出偏导函数，然后再将点代入偏导函数从而求出函数在此点的偏导数。

    函数z=f(x,y)在点P0处的梯度方向导数计算公式是函数变囮率(即方向导数计算公式导数)最大的方向导数计算公式

    梯度的方向导数计算公式就是函数f(x,y)在这点增长最快的方向导数计算公式，梯度的模为方向导数计算公式导数的最大值

    偏导数：是多个数（每元有一个）；是指多元函数沿坐标轴方向导数计算公式的方向导数计算公式导数因此二元函数就有两个偏导数。

    偏导函数：是一个函数；是一个關于点的偏导数的函数

    梯度：是一个向量；每个元素为函数对一元变量的偏导数；它既有大小（其大小为最大方向导数计算公式导数），也有方向导数计算公式

2.0 方向导数计算公式导数计算公式

2.2 二元函数偏导数的几何意义

    偏导数是偏导函数在指定点的函数值，因此在求偏導数时也可先求出偏导函数，然后再将点代入偏导函数从而求出函数在此点的偏导数。

    函数z=f(x,y)在点P0处的梯度方向导数计算公式是函数变囮率(即方向导数计算公式导数)最大的方向导数计算公式

    梯度的方向导数计算公式就是函数f(x,y)在这点增长最快的方向导数计算公式，梯度的模为方向导数计算公式导数的最大值

计算梯度的三种方法： 数值法解析法，反向传播法

 
 
 
 
 
 

 


 

 


 

 


 

 


 

 


 

 因此我们可以写成： 波兰表达式树的形式。
 


 

 这里我们只关心关于w的梯度我们将函数写为：
 


 

 


 

 


 

 

 


 

 


 

 


 

 




 


 

 上述公式写出解析形式的表达式，似乎吃力
 


 

 略… 请参考[参考文献].
 


 

 


 

1. [CS231n课程笔记翻译：反向传播笔记]