- 矩阵导(Matrix Derivative)也称作矩阵微分(Matrix Differential)在机器学习、图像处理、最优化等领域的公式推导中经常用到。
-
布局(Layout):在矩阵导中有两种布局分别为分母布局(denominator layout)和分子布局(numerator layout)。这两種不同布局的导规则是不一样的
2.1 标量与标量X的导
2.2 向量与标量X的导
2.3 矩阵与标量X的导
3.1 标量关于向量 x 的导数
3.2 向量关于向量 x 的导数
3.3 矩阵关于向量 x 嘚导数
5. 维度分析(没怎么看懂)
-
当我们对一些复杂的矩阵乘积偏导的时候,直接很难直接出这时候我们可以通过分析矩阵的维度来得到結果。例如: