gradient

在二维变量的基础上（$z=f(x,y)$）阐述梯度（gradient）比较容易

---

梯度的意义：
  某一点$(x_0,y_0)$的梯度表示在这个点z值变化最快的方向以及变化程度。
梯度的值：
  $\nabla f=\left(\frac{\partial f }{\partial x} , \frac{\partial f}{\partial y} \right)$

---

那么为什么梯度能表示这个点z值变化最快的方向呢？
下面将详细推证

【前提】
  函数$z=f(x,y)$是可微的

【知识基础】
 方向导数：
  在xy所构成的平面上，过点$(x_0,y_0)$可以做无数条射线，每条射线的方向看作这个点的前进方向，$\theta$是前进方向与x轴的夹角，前进方向为$(\cos \theta , \sin \theta)$。
  方向导数表示函数在这个方向上的变化的快慢程度，即

$$\frac{f(x_0+\Delta x,y_0+\Delta y)-f(x,y)}{\sqrt{\Delta x^2+\Delta y^2}}$$

  用$\Delta d$表示前进的距离，可推算出

$$\Delta x=\Delta d×\cos \theta$$ $$\Delta y=\Delta d×\sin \theta$$ $$\Delta d=\sqrt{\Delta x^2+\Delta y^2}$$

  从而方向导数为

$$\frac{f(x_0+\Delta d\cos \theta ,y_0+\Delta d\sin \theta)-f(x,y)}{\Delta d}$$

 函数可微：

$$f(x_0+\Delta x,y_0+\Delta y)-f(x,y)=\frac{\partial f }{\partial x}×\Delta x +\frac{\partial f }{\partial y}×\Delta y$$

【证明梯度方向变化最快】
  根据上面的公式对方向导数进行推导：

$$\frac{f(x_0+\Delta d\cos \theta ,y_0+\Delta d\sin \theta)-f(x,y)}{\Delta d}$$ $$=\frac{\frac{\partial f }{\partial x}×\Delta x +\frac{\partial f }{\partial y}×\Delta y}{\Delta d}$$ $$={\frac{\partial f }{\partial x}\cos\theta +\frac{\partial f }{\partial y}\sin\theta}$$ $$=(\frac{\partial f }{\partial x},\frac{\partial f }{\partial y})\centerdot(\cos\theta,\sin\theta)$$

  方向导数等于梯度与前进方向（单位向量）的内积，也可看做梯度在前进方向上的投影。
  显而易见在梯度方向上的投影值最大，所以函数在梯度方向上的变化最快。

---

参考资料：
  https://blog.csdn.net/shinetzh/article/details/68065239

附：
【日记】
昨天看了一个关于张量的视频，张量的阶数讲的很明白，但是还是不知道为啥张量能反映“the fact of universe”
视频链接：https://www.youtube.com/watch?v=f5liqUk0ZTw
视频从11:25开始高能，要竖起双耳哦！