有三个相同维度的矩阵乘法公式,第一个存放图片每个像素点的x坐标值,第二个存放y坐标值,第三个存放每个像素灰度

这昰关于矩阵乘法公式的一个bugblog

(如果觉得格式看不下去请移步:)

矩阵乘法公式求逆是个有趣(但暂且不知道有什么神奇运用)的东西

不過矩阵乘法公式这玩意儿貌似和线性代数以及向量之类的东西相关,所以学了绝对不亏
另外本篇blog 并不一定毫无错误,甚至可能会有些理解上的小偏差所以请各位观看的神仙及时指出好让作者修改精进,谢谢

还有矩阵乘法公式求逆的两种方法将会放在最后讲解




想要学会矩阵乘法公式求逆的话,首先你得了解几个关于矩阵乘法公式的概念以及名称的含义

(当然如果你知道这些概念的话可以直接往下跳)

注意这里两边的中括号包含所有的 \(9\) 个数字。

【在洛谷用 \(LaTeX\) 表示矩阵乘法公式我最多也就做成这样了 _(:з」∠)_

从这个例子中我们可以看出:一个** 3 行 3 列的矩阵乘法公式叫做 3 阶矩阵乘法公式**

(下文逆矩阵乘法公式部分中不加说明的一般就是 \(n\) 阶的矩陣乘法公式)

但如果有一个矩阵乘法公式是 \(2*3\) 的那么我们称它为 \(2*3\) 阶矩阵乘法公式

2. 矩阵乘法公式的一般运算(一)【矩阵乘法公式加法】

对于 \(A\)\(B\) 两个矩阵乘法公式相加,即矩阵乘法公式 \(A+B\) 这个运算的结果就是所有位置上的数一 一对应相加后所得到的矩阵乘法公式。

那么 \(A\)\(B\) 两个矩阵乘法公式可以进行加法运算的条件就是两矩阵乘法公式同阶(关于阶的概念就在上面)

可以看出这就是简单的加法。

我们首先将将两个矩阵乘法公式所有位置一 一对应
然后我们将各个位置上的两个数相加,
最后将得到的值放囙原位置形成新的矩阵乘法公式,

并且我们可以得到几个朴素的性质:

然后矩阵乘法公式加法相关的题我还真没见到过...

至于矩阵乘法公式减法的运算也与加法类似

3.矩阵乘法公式的一般运算(二)【矩阵乘法公式乘法】

这玩意儿详細讲的话又可以写一篇博客了。(比如什么快速幂啊、构造矩阵乘法公式啊、递推加速啊还有一堆习题什么的。)

于是这里我就讲讲┅点概念。

首先 \(A*B\) 不是随便就能乘的,是要有条件的(和加法类似)

然鹅这个例子并不能清晰的看出运算法则于是我们用字母代替数字:

那么用文字描述的话就是:

我们选定矩阵乘法公式 A 的第 i 行以及矩阵乘法公式 B 的第 j 列,
将他们取出来一 一相乘得到一个值
然后将该值作為结果矩阵乘法公式第 i 行第 j 列的值,
重复以上步骤后我们最终就可以得到一个新矩阵乘法公式

此外矩阵乘法公式乘法也满足一些性质:

為什么不满足交换律?证明很简单
但是交换后呢?结果就变成了\(3*3\)阶的矩阵乘法公式连阶数都不一样了

分配律的证明不难(甚至可以硬嶊),就留给读者自己证明了

那么矩乘有什么意义你问我我问谁

咳咳。这里就涉及到了另一个芝士:多维向量的乘积可以由矩乘运算得箌

此外矩乘还有一些其他的实际应用吧,这里我们就不做深究了

至于矩乘的代码呢还是经常要用的,于是下面给出(结构体代码)

emmm...这裏扯点别的就是关于 [ ] 的重载

这里重载[ ] 之后我们就可以直接像用数组一样地调用结构体了

但如果结构体里面的数组 \(a\) 是一维的话,重载僦要变成以下格式:

那么学会了结构体封装矩乘后我们的快速幂就基本是和平常的快速幂一样打的,代码也不再给出

第二种矩阵乘法公式乘法:矩阵乘法公式的数乘

这里还有一种矩阵乘法公式乘法叫做数乘就是一个实数乘以┅个矩阵乘法公式,结果其实就是矩阵乘法公式中的每个元素乘上这个常数这里就不详解了


矩乘讲完了。\(but\)说完乘法你是不是想到了除法?emmm...

矩除不存在的。最多是乘以它的逆矩阵乘法公式

于是下面进入逆矩阵乘法公式部分了


我们将单位矩阵乘法公式寫作 E ,并且单位矩阵乘法公式都是 \(n\) 阶矩阵乘法公式

比如一个 \(3\) 阶的单位矩阵乘法公式长这样:

如上单位矩阵乘法公式就长这样。

那么单位矩阵乘法公式满足什么性质呢

1.一个矩阵乘法公式乘上单位矩阵乘法公式结果是它本身: \(A*E=A\)

emmm...就这一个性质比较常见。你可以将单位矩阵乘法公式类比自然数 1

那么逆矩阵乘法公式满足什么性质?

从这里我们可以看出逆矩阵乘法公式与倒有些相似之处

其实逆矩陣乘法公式还有一个性质,等下就会讲到了

emmm...原本是本博客重头戏的逆矩阵乘法公式,篇幅就这么短...还给自己当广告位了

阶梯型矩阵乘法公式其实就是一个矩阵乘法公式 \(A\) 经过矩阵乘法公式初等变换的洗礼后得到梯形矩阵乘法公式

(其实上面是一般矩阵乘法公式的阶梯型矩阵乘法公式定义,对于 n 阶矩阵乘法公式它的阶梯型矩阵乘法公式一般是一个上三角...)

阶梯型矩阵乘法公式满足条件:每荇的不为零的首元按标号呈升序。(百科上的貌似也不难理解)

注意,阶梯型矩阵乘法公式每行首元不一定为 \(1\) 更没有强制为 \(1\) ,每行首え为 \(1\) 的矩阵乘法公式并不是阶梯型矩阵乘法公式仅仅是高斯消元中用来求方程组的解所用的矩阵乘法公式,首元为 \(1\) 是为了方便求解请讀者不要将两个东西混为一谈,真正的阶梯型矩阵乘法公式仅使用矩阵乘法公式初等变换即可解出这里稍微提一下。

我只能说了解一丅高斯消元吧!【模板】高斯消元法:点

尽管上面说了,阶梯型矩阵乘法公式严格来讲并不是通过高斯消元求解的但是与高斯消元的还昰有很多相似的运算的

几何意义上来讲(其实就是线性代数角度吧?)一个矩阵乘法公式的秩(rank)代表这个矩阵乘法公式能够跨越的维度数(没错,就是说秩为 \(x\) 的矩阵乘法公式通过每个元素乘以一个实数后可以表示任意的

矩阵乘法公式的秩与线性相关这┅概念联系非常大

这里有两句关于行秩和列秩的解释:

一个矩阵乘法公式A的列秩是A的线性独立的纵列的极大数
一个矩阵乘法公式A的行秩是A嘚线性独立的横行的极大数

emmm...百度百科貌似都是写给懂的人看的(谁 \(TM\) 懂线性相关还不会矩阵乘法公式的啊!)

行秩和列秩的话通俗来讲是這样的:

将矩阵乘法公式做初等行变换后,非零行的个数叫行秩
将其进行初等列变换后非零列的个数叫列秩

那么你可以理解为一个矩阵塖法公式的阶梯型矩阵乘法公式非零行数 就是行秩,列秩同理(阶梯型矩阵乘法公式上文刚刚讲完)

那么我们可以看出,一个矩阵乘法公式的行秩与列秩必然相等

为什么?你试试将一个矩阵乘法公式对角线翻转一下不就好了(哎呀这不是矩阵乘法公式的转置么,等會儿会讲的)

假如说一个矩阵乘法公式的秩等于它的阶那么就说这个矩阵乘法公式满秩

那么如果一个矩阵乘法公式的秩小于他的阶那么这个矩阵乘法公式被称为奇异矩阵乘法公式

所以如果一个矩阵乘法公式的秩大于它的阶呢咳咳,这种情况不存在秩数最多等于階数

那么如何计算一个矩阵乘法公式的秩数我们可以用定义法求解,就是像上面说的将原矩阵乘法公式化作阶梯型矩阵乘法公式然后計算出非零行数

但如果是小数据的人工计算的话,你可以依据矩阵乘法公式中有多少行不能由矩阵乘法公式的其他行变换得到来求解矩阵乘法公式的秩(这不是和求解阶梯型矩阵乘法公式差不多么)

如果一个矩阵乘法公式长上面这样,那么这个矩阵乘法公式的第三行其實也是可以通过其他行乘上 \(0\) 得到的所以这个矩阵乘法公式是线性相关

这么讲,如果矩阵乘法公式的某一行可以由其他行拼凑而成的话那其实我们可以看出这一行元素在线代角度看对更高维向量的表示是没有用的,因为它可以由其他行元素拼出来没有什么存在的价值

這也就是线性相关的大致概念了(话说线性基里面好像也有线性相关来着,如果你会理解起来会轻松很多吧)

那如果我只是判断当前矩阵塖法公式是否满秩或者是否是奇异矩阵乘法公式呢?这样的话我们除了上面直接把秩数求出来之外,还有一种方法就是求行列式,關于行列式的求解就在下一节

行列式有着它的几何意义(还是线性代数上的),
就是说 某个矩阵乘法公式 乘上矩陣乘法公式 \(A\)有向体积将会扩大为原来的 \(|A|\)(准确来说不能讲体积,这个我也不知如何形容请感性理解)

然后注意这里的体积是有向嘚(就是说体积有可能神奇的取到负值)。

举个例子一个 \(2\) 阶矩阵乘法公式 \(A\) 的行列式是 \(|A|\),那么某个矩阵乘法公式乘上 \(A\)(当然是满足相乘條件的情况下)这个矩阵乘法公式在线性代数的平面内表示的面积将会扩大

还有行列式的用途,这个其实就是上面提及的判别矩阵乘法公式是否满秩(或者是否是奇异矩阵乘法公式

那么如何计算矩阵乘法公式 \(A\) 的行列式?

这个嘛...意会叻就觉得不是很难这里给出两个例子聪明的你应该就能看懂了

二阶行列式就是左下右上减右上左下嘛...

这个二阶的行列式运算还是蛮有意義的(前方线代高能预警!)

其实这个运算就相当于两个二维向量的叉积

所谓叉积的几何意义其实就是两个向量在二维平面上围出的平行㈣边形的面积,这个看完视频很快就会懂了

那么在这里我是用行列展开求解的。具体的运算方法得到余子矩阵乘法公式那里讲(额剧透了)

不过你可以先看看图解:

emmm...对于三阶矩阵乘法公式的行列式运算,还有一种方法叫做对角线法则,但很遗憾對角线法则仅适用于二、三阶矩阵乘法公式的行列式运算。

下图就是对角线法则的图解其中实线是加,虚线是减:

然后求解行列式的话┅般来说最多也就让你求二阶或者三阶的阶再高的话就是计算机的事儿了

另外讲讲同学说的做法,\(TA\) 的做法是这样的:

考虑每荇取一个元素且最终取出的 \(n\) 个元素任意两个不在同一列,然后这 \(n\) 个数相乘之后就是一些加减运算了,至于对行列式贡献的正负性貌姒是选出元素相对位置逆序对个数奇偶性决定的,咳咳。

当然我们可以看出这个方法复杂度有点高,是 \(O(n!\times n \log n)\) 的所以这是人工求的时候才可能采用的方法。

之前说矩阵乘法公式的时候有讲到过这个东西在这里的作用其实也就是将原矩阵乘法公式转换成一個上三角矩阵乘法公式(没错,还是上文说的阶梯型矩阵乘法公式!)当我们求出了这个上三角矩阵乘法公式(阶梯型矩阵乘法公式)對角线上所有元素的乘积就是原矩阵乘法公式的行列式值了

这里说是初等行列变换,但网上都说这是高斯消元求解行列式emmm...但是行列式的計算不能直接用到数乘的啊!

如果要问为什么的,你可以想想假如是一阶矩阵乘法公式(不为 \(0\)),那么它随便乘上一个数行列式就已經改变了,所以单一行的转换是不能用到数乘

所以请注意:初等行列变换不包含数乘(关于矩阵乘法公式数乘的概念在第二节中已经講过了)

那么这个高斯消元法行列变换的算法就不详细讲解了,读者可以到里面去看这个作者已经写的很详细了,另外那些性质什么的這个博客里面也有(甚至逆序对求法也讲了一丢丢)本博客就不再给出,以节省博客篇幅主要是作者懒

还有行列式这块对于矩阵乘法公式比较重要,所以建议这个东西要至少理解七八成

鉴于作者有自知之明,知道自己讲的肯定没有那么生动(毕竟是文字描述)那么僦附上一个 B 站上的视频,好让读者们更好理解行列式:

而对于之前提到的秩呢这个概念同样很重\((nan)\)\((dong)\),毕竟是和线性相关有联系的所以也附上个 B 站上的视频:

然后这俩视频是在一个系列里面的,所以别的部分的内容你也可以看看(顺便练练英语听力)總之建议把整个系列都看完啦~


记得想学伴随矩阵乘法公式的求法时看到了一个“矩阵乘法公式三连”,特别有意思:伴随矩阵乘法公式是餘子矩阵乘法公式的转置矩阵乘法公式

\(woc\),三个里面没有一个会的怎么办,我还有救么...(这时候好想开个\(Venus\)三连:跳起来敌敌畏,膜膜膜

咳咳之后我就了解了下这三个矩阵乘法公式的概念。


转置矩阵乘法公式这玩意儿其实非常好理解

一个矩阵乘法公式的转置矩阵乘法公式其实就是它 \((i,j)\) 位置上的数与 \((j,i)\) 位置上的数交换了一下。

还是不明显的话用字母表示一下:

这下我们就可以清楚的看箌:转置矩阵乘法公式其实就是将原矩阵乘法公式左下、右上对角线翻转了一下罢了。

所以矩阵乘法公式转置完有什么用我也想知道啊!

结论:矩阵乘法公式转置是用来做题的,只对矩阵乘法公式各种转换有用于是不用在意它的意义

此外,一个** \(n*m\) 阶的普通矩阵乘法公式的轉置也是右上左下翻转转置后的矩阵乘法公式为一个 \(m*n\) 阶的矩阵乘法公式**

我们将矩阵乘法公式** \(A\) 的伴随矩阵乘法公式写作 \(A^{*}\)** (不是那个搜索算法啦 【笑哭)

但对于这玩意儿我只知道它的定义以及一些性质,至于求法emmm...

一个矩阵乘法公式 \(A\) 的伴随矩阵乘法公式要满足一下性质:

其次,伴随还满足一系列性质:

3.原矩阵乘法公式和伴随矩阵乘法公式之间秩的关系:

第二个性质就是之前讲逆矩阵乘法公式嘚时候没说说的性质这个性质很好证吧?因为有第一个性质啊!

第三个性质死记吧...

第五个性质的话可以运用第三个性质证明...满秩的矩陣乘法公式肯定存在逆矩阵乘法公式嘛...

emmm...其实这里是有证明的啦:

emmm...这里我们考虑第三步是怎么转换到第四步的:

emmm...考虑行列式的计算时这个值產生的贡献

不过这里还是有个性质没讲,就是伴随矩阵乘法公式是余子矩阵乘法公式的转置矩阵乘法公式什么的但这个不重要,学完余孓矩阵乘法公式之后你强行代数也可证明

回到之前说的,伴随矩阵乘法公式的求法这个的话,你会逆矩阵乘法公式的求法就能解出伴隨矩阵乘法公式了(不难懂吧)

但还有另一个求法不过要用代数余子式求,那就是接下来的内容了

11.(代数)余子式与(代数)余子矩阵乘法公式

其实你看懂了行列式的话这里就很好理解了

首先,余子式是对于矩阵乘法公式 \(A\) 中的一个元素 \(A_{i,j}\) 而言的一个数值(标量)而余子矩阵乘法公式则是** \(A\) 中所有元素的余子式**所构成的一个新矩阵乘法公式。

那么如何计算矩阵乘法公式元素 \(A_{i,j}\) 的余子式呢

代数余子式,并且由原矩阵乘法公式中所有元素代数余子式构成的矩阵乘法公式就是原矩阵乘法公式的代数余子式矩阵塖法公式(之前说余子矩阵乘法公式可以认为是这玩意儿的缩写)而它的转置矩阵乘法公式就是上一节说的伴随矩阵乘法公式

但是证奣呢?为什么余子式矩阵乘法公式的转置矩阵乘法公式就是伴随矩阵乘法公式了这个你可以用定义来解:

由于行列式等于某一行所有元素与其对应代数余子式的乘积之和

又因为伴随矩阵乘法公式的定义就是与原矩阵乘法公式相乘结果为单位矩阵乘法公式的行列式倍

所鉯这时我们可以将余子矩阵乘法公式转置一下,让它的任意一行元素以列的方式排布

然后就可以和原矩阵乘法公式愉快地乘起来,得到萣义中的单位矩阵乘法公式的行列式倍的矩阵乘法公式了

至于更加详细的证明推导,就留给读者吧

emmm...所以这就是上文伴随矩阵乘法公式中說的另一种求法啦

那么在 8.行列式 中作者提到的行列展开其实就是用到了代数余子式这个东西毕竟2阶矩阵乘法公式的行列式还是好算的嘛

泹是为什么代数余子式能够用来求行列式呢?这是个问题但作者太菜了解决不了,如果你感兴趣的话可以花些时间强行代数证明一下加罙影响或者就是背个结论就好了

从上面我们可以看出,用代数余子式求解行列式是非常非常烦的一件事(虽说对于小型矩阵乘法公式尤其是三阶的还是很方便的)这个算法的复杂度已经高达 \(n!\) 了!所以一般来讲用初等行列变换求行列式才是明智的选择。

不过这个方法还是鈳以用来娱乐一下的比如这里有一份网上来的代码,我就加了点常数优化什么的

有点工程级别的感觉...

话说这个仅供娱乐(千万别拿去茭了,交了八成就是 \(T\) 飞)


然后这些基础知识就大概是告一段落了接下来就愉快的开始矩阵乘法公式求逆啦~


方法一:高斯消元构造逆矩阵乘法公式

这个方法非常的常见,矩阵乘法公式求逆板子题题解里随便抽一篇就是高斯解法

实际上的做法(以及原理)上面也说了一半多了求解的第一步就是将原矩阵乘法公式化成阶梯型矩阵乘法公式,然后还是各种朴素运算将消成单位矩阵乘法公式

就直接先上例子好了假设我们要求逆的矩阵乘法公式如下:

首先我们将原矩阵乘法公式与一个单位矩阵乘法公式放在一起:(为了看的清楚一点,我将两个矩阵乘法公式分开了一点)

然后我们方便起见可以将第一行和第二先换一下:(注意这里和之前提到高斯消元求法不一样,现在交换了的两行最后不需要换回来)

接着我们通过初等行列变换让第二行和第三行的首个元素变为 \(0\)

之后我们发現将第三行和第二行交换后更利于计算那就交换一下:

然后用初等变换继续消元:

然后第三行乘上\(-1\):(话说之前不是说只能初等变换的麼...额,这里不一样你这么理解吧,毕竟我们的目的是将当前矩阵乘法公式求逆而不是求行列式性质不一样的)

现在我们已经把各行首え变为 \(0\) 了,接下来的任务是处理左部分矩阵乘法公式的上三角

那么我们用第二行消去第一行的第二个元素:(在这里就是第一行加上第二荇)

第三列的元素处理也是一样的道理:(用第三行来减)

至此我们成功的将左部分矩阵乘法公式转换成了一个单位矩阵乘法公式。所鉯逆矩阵乘法公式呢?

逆矩阵乘法公式就是右部分矩阵乘法公式

确实是这样啊,emmm...不信的话自己检验一下嘛矩乘也蛮快的

进行行初等變换,就相当于左乘以一和初等矩阵乘法公式(其实你大可不必在意这个矩阵乘法公式的含义因为我也不打算详细讲,不过讲道理其实僦是与原矩阵乘法公式相乘后结果为单位矩阵乘法公式的矩阵乘法公式)对A进行初等变换,也就相当于右边乘以一个相同的这个初等矩陣乘法公式然后我们考虑左边的矩阵乘法公式变换之后成了单位矩阵乘法公式,那么这时候左边乘上原矩阵乘法公式 \(A\) 之后变回了原矩阵塖法公式所以右边矩阵乘法公式乘上 \(A\) 之后也会变回原来的样子,也就是 一个单位矩阵乘法公式 \(E\) 那么就满足条件: \(A\times A^{-1}=E\) 了,所以右边的矩阵塖法公式就是

但是请注意一个矩阵乘法公式的逆矩阵乘法公式不一定每个元素都是整数,甚至往往是有理数(所以 \(bzt\) 里让你求取模意义下嘚逆矩阵乘法公式,避免一些精度问题)

于是默默放上代码:(又是加工过的“工程级”代码)

//交换当前行与下一行 /*将上三角矩阵乘法公式變成单位阵*/

上面这个代码是直接实数求解的但是如果你不嫌烦的话,可以考虑用分数形式表示逆矩阵乘法公式(也并不是做不到)但這里就不再给出了

另外,用高斯解的方法还是蛮常规的所以一般来讲我们都用这个方法来求解,至于接下来那个看看就差不多了

方法二:解方程组构造(非同阶)逆矩阵乘法公式

相信你可能想到过一下算法:

我们可以尝试依照矩塖的定义来设未知数求解逆矩阵乘法公式

拿方法二中的矩阵乘法公式作例:

我们直接设一个 \(3\) 阶的矩阵乘法公式矩阵乘法公式中的所有元素都未知:

那么我们可以像之前说的,又矩乘定义得到 \(3*3=9\) 个方程:(不想打了好累啊

然后我们愉快的解方程没错,还是用高斯消元解!

從上面的算法流程我们可以看出这个算法没毛病!然鹅说起它的复杂度那就真的太高了,足足\(O(n^{4})\)

虽说复杂度是蛮高的但是相较于前两個算法,对于小规模数据的人工计算这种算法也不失为一个求逆矩阵乘法公式的好方法

另外你应该看到了标题说的求非同阶逆矩阵乘法公式了吧?(其实讲道理并不是非同阶的并不能说是逆矩阵乘法公式)

其实非同阶逆矩阵乘法公式就是可以用刚刚说的方法解的方法也與上面差别不大,都是设矩阵乘法公式求解未知数

非同阶求逆矩阵乘法公式的一般形式就是给出 \(n\) 阶矩阵乘法公式,求一个 \(n*m\) 阶矩阵乘法公式要求与原矩阵乘法公式乘积为一个给定的 \(n*m\) 阶矩阵乘法公式

但是我们一般来就就是求一个已知的 \(n\) 阶矩阵乘法公式乘上一个 \(n*1\) 阶矩阵乘法公式后的结果为一个已知的 \(n*1\) 矩阵乘法公式(好吧其实这就是求解多元方程组...)

不过如果你遇到了什么乱七八糟的题目要你求这个东西的话,別忘了这种算法(复杂度\(O(n^{4})\)的渣渣算法)

方法三:我不会啊谁来教教我

首先具体求法如下:(题解里剽来的)

①找到当前方阵(假设是第k个)的主元

②将主元所在行、列与第k行、第k列交换并且记录下交换的行和列

③把第k行第k个元素变成它的逆元(哃时判无解:逆元不存在)

④更改当前行(乘上刚才那个逆元)

⑤对矩阵乘法公式中的其他行做和高斯消元几乎完全一样的操作,只有每荇的第k列不一样具体看代码

⑥最后把第②步中的交换逆序地交换回去。

emmm...这里要稍微解释一下板子题里说的逆矩阵乘法公式是在模意义丅的逆矩阵乘法公式,并不是实数意义下的逆矩阵乘法公式所以上面提到了逆元,(话说这份代码比较难懂因为它貌似还用了列的变換,更绝的是它还直接在原矩阵乘法公式上求逆)还有关于实数下的逆矩阵乘法公式求解也会在下面的下面给出

咳咳如果下面的代码三汾钟之内看不懂的话,直接跳过吧(因为这个做法的原理不知道是什么...)

这个方法虽然看不懂原理但是很高效...那个大佬懂的教教我QAQ



从上媔层层讲解看来,矩阵乘法公式和线性代数的关系非常大而线性代数在大学中各个专业基本都是要掌握的,(计算机系还用说)所以矩阵乘法公式一定要学好啊

至此,矩阵乘法公式求逆的基础芝士已经讲解完毕了至于其他关于矩阵乘法公式的芝士就请读者们自行探究吧

参考资料:实在太多记不清 _(:з」∠)_

}

转载知乎 如何理解矩阵乘法公式特征值 

1,644 人赞同了该回答

(下面的回答只涉及实数范围)。

关于特征值、特征向量可以讲的确实很多我这里希望可以给大家建立一个直觀的印象。

先给一个简短的回答如果把矩阵乘法公式看作是运动,对于运动而言最重要的当然就是运动的速度和方向,那么(我后面會说明一下限制条件):

特征向量就是运动的方向

既然运动最重要的两方面都被描述了特征值、特征向量自然可以称为运动(即矩阵乘法公式)的特征。

注意由于矩阵乘法公式是数学概念,非常抽象所以上面所谓的运动、运动的速度、运动的方向都是广义的,在现实鈈同的应用中有不同的指代

下面是详细的回答,我会先从几何上简单讲解下特征值、特征向量的定义指的是什么然后再来解释为什么特征值、特征向量会是运动的速度和方向。

说明下因为线性变换总是在各种基之间变来变去,所以我下面画图都会把作图所用的基和原點给画出来

,图像看上去没有什么特殊的:

的方向图像看上去有点特殊了:

从而,特征值与特征向量的定义式就是这样的:

不止一个特征向量还有一个特征向量:

是变长了还是缩短看出,这两个特征向量对应的特征

值一个大于1,一个小于1

从特征向量和特征值的定義式还可以看出,特征向量所在直线上的向量都是特征向量:

你可以自己动手试试可以改变

的值(特征空间会随着矩阵乘法公式改变而妀变):

其中有些值构成的矩阵乘法公式没有画出特征空间,可能是因为它的特征值、特征向量是复数也可能是不存在。

下面就要说下特征值、特征向量与运动的关系

我有一管不知道颜色的颜料,而且这管颜料有点特殊我不能直接挤出来看颜色,只能通过调色来观察:

为了分辨出它是什么颜色(记得它只能通过调色来辨别):

因为反复混合之后这管颜料的特征就凸显了出来,所以我们判断这管颜料应该是蓝色。

说这个干什么矩阵乘法公式也有类似的情况。

一般来说矩阵乘法公式我们可以看作某种运动,而二维向量可以看作平媔上的一个点(或者说一个箭头)对于点我们是可以观察的,但是运动我们是不能直接观察的

就好像,跑步这个动作我们不附加到具体的某个事物上是观察不到的,我们只能观察到:人跑步、猪跑步、老虎跑步、......然后从中总结出跑步的特点。

就好像之前举的不能直接观察的颜料一样要观察矩阵乘法公式所代表的运动,需要把它附加到向量上才观察的出来:

似乎还看不出什么但是如果我反复运用矩阵乘法公式乘法的话:

就像之前颜料混合一样,反复运用矩阵乘法公式乘法矩阵乘法公式所代表的运动的最明显的特征,即速度最大嘚方向就由最大特征值对应的特征向量展现了出来。

至于别的特征值对应的是什么速度我后面会解释,这里先跳过

可以自己动手试試,我把

值也标注出来了可以关注下最大

顺便说下,对于复数的特征值、特征向量在上面就没有画出特征空间,但可以观察到反复运鼡矩阵乘法公式乘法的结果是围绕着原点在旋转关于复数特征值和特征向量这里就不展开来说了。

2.3 烧一壶斐波那契的水

上面说的运动太抽象了我来举一个具体点的例子:烧水。

比如说我想烧一壶水水的温度按照斐波那契数列升高,即下一秒的温度

要继续计算下去我呮需要

就可以继续算下去。因此我可以写成下面的式子:

因此烧水这个运动我们可以抽象为矩阵乘法公式

反复进行这个运动就可以烧开這壶水,根据斐波那契数列让我们从

点开始(感兴趣的话,可以通过之前的互动调整下参数可以得到下面的结果):

就可以看出,这壺水的温度会沿着

的特征值最大的特征向量方向飞快增长我估计要不了多久,在理想的情况下温度就会突破百万度、千万度、亿万度,然后地球说不定就爆炸了我们就说这个矩阵乘法公式不稳定。

所以说不要烧斐波那契的水。

实际上历史也是这样欧拉在研究刚体嘚运动时发现,有一个方向最为重要后来拉格朗日发现,哦原来就是特征向量的方向。

我们知道特征值、特征向量有什么特点之后丅一步就想知道,为什么会这样

下面讲解要用到矩阵乘法公式乘法和相似矩阵乘法公式的知识,我就不啰嗦了可以参看我的回答:以忣

可以对角化的话,可以通过相似矩阵乘法公式进行下面这样的特征值分解:

的列向量是单位化的特征向量

说的有点抽象,我们拿个具體的例子来讲:

对于方阵而言矩阵乘法公式不会进行维度的升降,所以矩阵乘法公式代表的运动实际上只有两种:

最后的运动结果就是這两种的合成

我们再回头看下刚才的特征值分解,实际上把运动给分解开了:

我们来看看在几何上的表现是什么因此相似矩阵乘法公式的讲解涉及到基的变换,所以大家注意观察基:

如果旋转前的基不正交旋转之后变为了标准基,那么实际会产生伸缩所以之前说的囸交很重要。

相当于之前的旋转是指明了拉伸的方向,所以我们理解了:

特征向量指明了拉伸的方向

回到我们之前说的运动上去特征徝就是运动的速度,特征向量就是运动的方向而其余方向的运动就由特征向量方向的运动合成。所以最大的特征值对应的特征向量指明叻运动速度的最大方向

但是,重申一下上面的推论有一个重要的条件,特征向量正交这样变换后才能保证变换最大的方向在基方向。如果特征向量不正交就有可能不是变化最大的方向比如:

所以我们在实际应用中,都要去找正交基但是特征向量很可能不是正交的,那么我们就需要奇异值分解了这里就不展开了。

大家可以再回头去操作一下之前的动图看看不正交的情况下有什么不一样。

说明下如果大家把这个文章和之前提到的我写的“相似矩阵乘法公式”的文章参照来看的话,“相似矩阵乘法公式”那篇文章里面我把图像的唑标系换了所以看着图像没有变换(就好像直角坐标系到极坐标系下,图像是不会变换的)而这里我把图像的坐标系给旋转、拉伸了,所以看着图像变换了(就好像换元会导致图像变换)。这其实是看待矩阵乘法公式乘法的两种视角是等价的,但是显示到图像上就囿所不同

4 特征值、特征向量的应用

之前的烧水系统是不稳定的。

的系统最终会趋于稳定:

比如说,有下面这么一副

的图片(方阵才有特征值所以找了张正方形的图):

这个图片可以放到一个矩阵乘法公式里面去,就是把每个像素的颜色值填入到一个

是对角阵对角线仩是从大到小排列的特征值。

中只保留前面50个的特征值(也就是最大的50个其实也只占了所有特征值的百分之十),其它的都填0重新计算矩阵乘法公式后,恢复为下面这样的图像:

效果还可以其实一两百个特征值之和可能就占了所有特征值和的百分之九十了,其他的特征值都可以丢弃了

低头玩手机相当于在脖子上挂两个大铁球。

1,255 人赞同了该回答

补充:答主现在用到的多数是对称矩阵乘法公式或酉矩阵塖法公式的情况有思维定势了,写了半天才发现主要讲的是对称矩阵乘法公式这答案就当科普用了。特征值在很多领域应该都有自己嘚用途它的物理意义到了本科高年级或者研究生阶段涉及到具体问题的时候就容易理解了,刚学线性代数的话确实抽象。

——————————————————以下为正文——————————————————

从线性空间的角度看在一个定义了内积的线性空间里,对一个N阶对称方阵进行特征分解就是产生了该空间的N个标准正交基,然后把矩阵乘法公式投影到这N个基上N个特征向量就是N个标准正茭基,而特征值的模则代表矩阵乘法公式在每个基上的投影长度

特征值越大,说明矩阵乘法公式在对应的特征向量上的方差越大功率樾大,信息量越多

应用到最优化中,意思就是对于R的二次型自变量在这个方向上变化的时候,对函数值的影响最大也就是该方向上嘚方向导数最大。

应用到数据挖掘中意思就是最大特征值对应的特征向量方向上包含最多的信息量,如果某几个特征值很小说明这几個方向信息量很小,可以用来降维也就是删除小特征值对应方向的数据,只保留大特征值方向对应的数据这样做以后数据量减小,但囿用信息量变化不大

——————————————————举两个栗子——————————————————

应用1 二次型最优化问題

,其中R是已知的二阶矩阵乘法公式R=[1,0.5;0.51],x是二维列向量x=[x1;x2],求y的最小值

求解很简单,讲一下这个问题与特征值的关系

然后把y嘚等高线图画一下

从图中看,函数值变化最快的方向也就是曲面最陡峭的方向,归一化以后是[0.7071;0.7071]嗯哼,这恰好是矩阵乘法公式R的一个特征值而且它对应的特征向量是最大的。因为这个问题是二阶的只有两个特征向量,所以另一个特征向量方向就是曲面最平滑的方向这一点在分析最优化算法收敛性能的时候需要用到。

二阶问题比较直观当R阶数升高时,也是一样的道理

兴趣不大的可以跳过问题,矗接看后面降维方法

机器学习中的分类问题,给出178个葡萄酒样本每个样本含有13个参数,比如酒精度、酸度、镁含量等这些样本属于3個不同种类的葡萄酒。任务是提取3种葡萄酒的特征以便下一次给出一个新的葡萄酒样本的时候,能根据已有数据判断出新样本是哪一种葡萄酒

原数据有13维,但这之中含有冗余减少数据量最直接的方法就是降维。

做法:把数据集赋给一个178行13列的矩阵乘法公式R减掉均值並归一化,它的协方差矩阵乘法公式

C是13行13列的矩阵乘法公式,对C进行特征分解对角化

,其中U是特征向量组成的矩阵乘法公式D是特征の组成的对角矩阵乘法公式,并按由大到小排列然后,另

就实现了数据集在特征向量这组正交基上的投影。嗯重点来了,R’中的数據列是按照对应特征值的大小排列的后面的列对应小特征值,去掉以后对整个数据集的影响比较小比如,现在我们直接去掉后面的7列只保留前6列,就完成了降维这个降维方法叫PCA(Principal Component Analysis)。

这是不降维时候的分类错误率

这是降维以后的分类错误率。

结论:降维以后分类錯误率与不降维的方法相差无几但需要处理的数据量减小了一半(不降维需要处理13维,降维后只需要处理6维)

前面的回答比较专业化,而且好像没说特征值是虚数的情况并不是只有特征向量的伸缩。作为工科线代水平我说下自己的理解。

    矩阵乘法公式特征值是对特征向量进行伸缩和旋转程度的度量实数是只进行伸缩,虚数是只进行旋转复数就是有伸缩有旋转。其实最重要的是特征向量从它的萣义可以看出来,特征向量是在矩阵乘法公式变换下只进行“规则”变换的向量这个“规则”就是特征值。推荐教材linear algebra and its application

各位知友在点赞同の前请看一下评论区这个例子有待讨论。

我举一个直观一点的例子吧...我也喜欢数学的直观之美

我们知道,一张图像的像素(如:320 x 320)到了計算机里面事实上就是320x320的矩阵乘法公式每一个元素都代表这个像素点的颜色..

如果我们把基于特征值的应用,如PCA、向量奇异值分解SVD这种东覀放到图像处理上大概就可以提供一个看得到的、直观的感受。关于SVD的文章可以参考LeftNotEasy的文章:

简单的说SVD的效果就是..用一个规模更小的矩阵乘法公式去近似原矩阵乘法公式...

这里A就是代表图像的原矩阵乘法公式..其中的

尤其值得关注,它是由A的特征值从大到小放到对角线上的..吔就是说我们可以选择其中的某些具有“代表性”的特征值去近似原矩阵乘法公式!

当我把特征值的数量减少几个的时候...后面的图像变“模糊”了..

关键的地方来了!如果我们只看到这里的模糊..而没有看到计算机(或者说数学)对于人脸的描述,那就太可惜了...我们看到不論如何模糊,脸部的关键部位(我们人类认为的关键部位)——五官并没有变化太多...这能否说:数学揭示了世界的奥秘

定义很抽象我也┅直搞不懂,但是最近开始在图像处理方面具体应用的时候就清晰很多了用学渣的语言沟通一下吧我们。

抛开学术研究不谈其实根本鈈会,特征值eigenvalue和特征向量eigenvector的一大应用是用于大量数据的降维

比如拿淘宝举个例子每个淘宝店铺有N个统计数据:商品类型,日销量周销量朤销量、好评率中评差评率……全淘宝有M家店铺那么服务器需要记录的数据就是M*N的矩阵乘法公式;

这是一个很大的数据,实际上我们鈳以通过求这个矩阵乘法公式的特征向量和对应的特征值来重新表示这个M*N的矩阵乘法公式:

我们可以用周销量来误差不大的表示日销量囷月销量(除以七和乘以四)这个时候周销量就可以当作一个特征向量,它能够表示每个店铺销量这个空间方向的主要能量(也就是数據)这样我们就简略的把一个35维的向量简化成四维的(30个日销量加4个周销量加1个月销量);

同理我们也可以把好评率中评率差评率用一個好评率来表示(剩余的百分比默认为差评率),这样的降维大致上也能反映一个店铺的诚信度;

这样通过不断的降维我们可以提取到某系列数据最主要的几个特征向量(对应特征值最大的)这些向量反映了这个矩阵乘法公式空间最主要的能量分布,所以我们可以用这几個特征向量来表示整个空间实现空间的降维。

作为一个线性代数考60+的学渣我是这么直观地理解的:

看作一个线性变换,那么这个定义式就表示对于 向量

变换之后该向量的方向没有变化(可能会反向)而只是长度变化了(乘以

来说,存在一些“不变”的量(比如特征向量

的方向)我想,“特征”的含义就是“不变”

在特征方向上的伸展系数吧(乱诹了个名词 :P)。

嗯觉得维基其实讲的就挺好的:

554 人贊同了该回答

想要理解特征值,首先要理解矩阵乘法公式相似什么是矩阵乘法公式相似呢?从定义角度就是:存在可逆矩阵乘法公式P满足B=

则我们说A和B是相似的让我们来回顾一下之前得出的重要结论:对于同一个线性空间,可以用两组不同的基

来描述他们之间的过渡關系是这样的:

,而对应坐标之间的过渡关系是这样的:

其中P是可逆矩阵乘法公式,可逆的意义是我们能变换过去也要能变换回来这┅点很重要。

我们知道对于一个线性变换,只要你选定一组基那么就可以用一个矩阵乘法公式T1来描述这个线性变换。换一组基就得箌另一个不同的矩阵乘法公式T2(之所以会不同,是因为选定了不同的基也就是选定了不同的坐标系)。所有这些矩阵乘法公式都是这同┅个线性变换的描述但又都不是线性变换本身。具体来说有一个线性变换

;同样的道理,我们选择基

是有联系的那么他们之间的变換

就是相似的关系,具体的请看下图:

没错所谓相似矩阵乘法公式,就是同一个线性变换的不同基的描述矩阵乘法公式这就是相似变換的几何意义。

这个发现太重要了原来一族相似矩阵乘法公式都是同一个线性变换的描述啊!难怪这么重要!工科研究生课程中有矩阵塖法公式论、矩阵乘法公式分析等课程,其中讲了各种各样的相似变换比如什么相似标准型,对角化之类的内容都要求变换以后得到嘚那个矩阵乘法公式与先前的那个矩阵乘法公式式相似的,为什么这么要求因为只有这样要求,才能保证变换前后的两个矩阵乘法公式昰描述同一个线性变换的就像信号处理(积分变换)中将信号(函数)进行拉氏变换,在复数域处理完了之后又进行拉式反变换回到實数域一样。信号处理中是主要是为了将复杂的卷积运算变成乘法运算其实这样的变换还有好多,有兴趣可以看积分变换的教材

为什麼这样做呢?矩阵乘法公式的相似变换可以把一个比较丑的矩阵乘法公式变成一个比较美的矩阵乘法公式而保证这两个矩阵乘法公式都昰描述了同一个线性变换。至于什么样的矩阵乘法公式是“美”的什么样的是“丑”的,我们说对角阵是美的在线性代数中,我们会看到如果把复杂的矩阵乘法公式变换成对角矩阵乘法公式,作用完了之后再变换回来这种转换很有用处,比如求解矩阵乘法公式的n次冪!而学了矩阵乘法公式论之后你会发现矩阵乘法公式的n次幂是工程中非常常见的运算。这里顺便说一句将矩阵乘法公式对角化在控淛工程和机械振动领域具有将复杂方程解耦的妙用!总而言之,相似变换是为了简化计算!

从另一个角度理解矩阵乘法公式就是:矩阵乘法公式主对角线上的元素表示自身和自身的关系其他位置的元素aij表示i位置和j位置元素之间的相互关系。那么好特征值问题其实就是选取了一组很好的基,就把矩阵乘法公式 i位置和j位置元素之间的相互关系消除了而且因为是相似变换,并没有改变矩阵乘法公式本身的特性因此矩阵乘法公式对角化才如此的重要!

特征向量的引入是为了选取一组很好的基。空间中因为有了矩阵乘法公式才有了坐标的优劣。对角化的过程实质上就是找特征向量的过程。如果一个矩阵乘法公式在复数域不能对角化我们还有办法把它化成比较优美的形式——Jordan标准型。高等代数理论已经证明:一个方阵在复数域一定可以化成Jordan标准型这一点有兴趣的同学可以看一下高等代数后或者矩阵乘法公式论。

经过上面的分析相信你已经可以得出如下结论了:坐标有优劣于是我们选取特征向量作为基底,那么一个线性变换最核心的部汾就被揭露出来——当矩阵乘法公式表示线性变换时特征值就是变换的本质!特征值的几何意义前面的答主已经用很多图解释过了,接丅来我们分析一下特征值的物理意义:特征值英文名eigen value“特征”一词译自德语的eigen,由希尔伯特在1904年首先在这个意义下使用(赫尔曼·冯·亥姆霍兹在更早的时候也在类似意义下使用过这一概念)eigen一词可翻译为“自身的”,“特定于...的”“有特征的”或者“个体的”—这强調了特征值对于定义特定的变换上是很重要的。它还有好多名字比如谱,本征值为什么会有这么多名字呢?

原因就在于他们应用的领域不同中国人为了区分,给特不同的名字你看英文文献就会发现,他们的名字都是同一个当然,特征值的思想不仅仅局限于线性代數它还延伸到其他领域。在数学物理方程的研究领域我们就把特征值称为本征值。如在求解薛定谔波动方程时在波函数满足单值、囿限、连续性和归一化条件下,势场中运动粒子的总能量(正)所必须取的特定值这些值就是正的本征值。

前面我们讨论特征值问题面对的嘟是有限维度的特征向量下面我们来看看特征值对应的特征向量都是无限维函数的例子。这时候的特征向量我们称为特征函数或者本證函数。这还要从你熟悉的微分方程说起方程本质是一种约束,微分方程就是在世界上各种各样的函数中约束出一类函数。对于一阶微分方程

我们发现如果我将变量y用括号[]包围起来微分运算的结构和线性代数中特征值特征向量的结构,即

竟是如此相似。这就是一个求解特征向量的问题啊!只不过“特征向量”变成函数!我们知道只有

满足这个式子这里出现了神奇的数e,一杯开水放在室内它温度的下降是指数形式的;听说过放射性元素的原子核发生么?随着放射的不断进行放射强度将按指数曲线下降;化学反应的进程也可以用指数函数描述……类似的现象还有好多。

为什么选择指数函数而不选择其他函数因为指数函数是特征函数。为什么指数函数是特征我们从線性代数的特征向量的角度来解释。这已经很明显了

就是“特征向量”于是,很自然的将线性代数的理论应用到线性微分方程中那么指数函数就是微分方程(实际物理系统)的特征向量。用特征向量作为基表示的矩阵乘法公式最为简洁就像你把一个方阵经过相似对角囮变换,耦合的矩阵乘法公式就变成不耦合的对角阵一样在机械振动里面所说的模态空间也是同样的道理。如果你恰巧学过振动分析一類的课程也可以来和我交流。

同理用特征函数解的方程也是最简洁的,不信你用级数的方法解方程你会发现方程的解有无穷多项。解一些其他方程的时候(比如贝塞尔方程)我们目前没有找到特征函数于是退而求其次才选择级数求解,至少级数具有完备性实数的特征徝代表能量的耗散或者扩散,比如空间中热量的传导、化学反应的扩散、放射性元素的衰变等虚数的特征值(对应三角函数)代表能量的无損耗交换,比如空间中的电磁波传递、振动信号的动能势能等复数的特征值代表既有交换又有耗散的过程,实际过程一般都是这样的複特征值在电路领域以及振动领域将发挥重要的作用,可以说没有复数,就没有现代的电气化时代!

对于二阶微分方程方程它的解都昰指数形式或者复指数形式。可以通过欧拉公式将其写成三角函数的形式复特征值体现最多的地方是在二阶系统,别小看这个方程整夲自动控制原理都在讲它,整个振动分析课程也在讲它、还有好多课程的基础都是以这个微分方程为基础这里我就不详细说了,有兴趣鈳以学习先关课程说了这么多只是想向你传达一个思想,就是复指数函数式系统的特征向量!

如果将二阶微分方程转化成状态空间

的形式(具体转化方法见现代控制理论很简单的)

。则一个二阶线性微分方程就变成一个微分方程组的形式这时就出现了矩阵乘法公式A矩阵乘法公式可以用来描述一个系统:如果是振动问题,矩阵乘法公式A的特征值是虚数对应系统的固有频率,也就是我们常说的特征值代表振动的谱。如果含有耗散过程特征值是负实数,对应指数衰减;特征值是正实数对应指数发散过程,这时是不稳定的说明系统极容噫崩溃,如何抑制这种发散就是控制科学研究的内容

提到振动的谱,突然想到了这个经典的例子:美国数学家斯特让(G..Strang)在其经典教材《线性代数及其应用》中这样介绍了特征值作为频率的物理意义他说:"大概最简单的例子(我从不相信其真实性,虽然据说1831年有一桥梁毀于此因)是一对士兵通过桥梁的例子传统上,他们要停止齐步前进而要散步通过这个理由是因为他们可能以等于桥的特征值之一的頻率齐步行进,从而将发生共振就像孩子的秋千那样,你一旦注意到一个秋千的频率和此频率相配,你就使频率荡得更高一个工程師总是试图使他的桥梁或他的火箭的自然频率远离风的频率或液体燃料的频率;而在另一种极端情况,一个证券经纪人则尽毕生精力于努仂到达市场的自然频率线特征值是几乎任何一个动力系统的最重要的特征。"

对于一个线性系统总可以把高阶的方程转化成一个方程组描述,这被称为状态空间描述因此,他们之间是等价的特征值还有好多用处,原因不在特征值本身而在于特征值问题和你的物理现潒有着某种一致的对应关系。学习特征值问题告诉你一种解决问题的方法:寻找事物的特征然后特征分解。

最后声明一下 本文是在整悝孟岩老师的《理解矩阵乘法公式》和任广千、胡翠芳老师的《线性代数的几何意义》基础上形成的,只是出于一种对数学的爱好!有兴趣的读者建议阅读原文也欢迎下载《神奇的矩阵乘法公式》和《神奇的矩阵乘法公式第二季》了解更多有关线性代数和矩阵乘法公式的知识。

看了大部分的回答基本都没有回答出为什么要求特征值。

特征值和特征向量是为了研究向量在经过线性变换后的方向不变性而提絀的一个空间里的元素通过线性变换到另一个相同维数的空间,那么会有某些向量的方向在变换前后不会改变方向不变但是这些向量嘚范数可能会改变,我这里说的都是实数空间的向量

为变换后空间的向量,简单起见令

互不相同对应的特征向量

线性无关。那么原始涳间中的任何一个向量都可以由A的特征向量表示既

那么在变换到另一个空间时

好,下面再说更深层次的含义

在不同的领域特征值的大尛与特征向量的方向所表示的含义也不同,但是从数学定义上来看每一个原始空间中的向量都要变换到新空间中,所以他们之间的差异吔会随之变化但是为了保持相对位置,每个方向变换的幅度要随着向量的分散程度进行调整

你们体会一下拖拽图片使之放大缩小的感覺。

如果A为样本的协方差矩阵乘法公式特征值的大小就反映了变换后在特征向量方向上变换的幅度,幅度越大说明这个方向上的元素差异也越大,换句话说这个方向上的元素更分散

推荐一种看法吧,粗略描述如下:

把矩阵乘法公式看成线性变换找特征值就是找这个線性变换下的不变自空间。

然后一些好的矩阵乘法公式、线性变换就可以分成好多个简单的变换了。

不好的矩阵乘法公式也可以作进一步处理也能分解。

将复杂的东西变成很多简单的东西这是数学很美的一点。

很多应用也是基于这样的直观

有时间再补充一些细节吧。

如果把矩阵乘法公式理解为空间变换的参数那特征值和特征向量可这样理解:

可以把a1,a2,a3,...,am想象成m维坐标系下的m根柱子,每根柱子都相当于一個有刻度的轨道上边有一个支点,空间系在这m个支点上并且会因为支点的变化而变化。支点变化导致空间变化空间变化导致空间中嘚向量变化。这个空间中的所有向量都会随着任何支点的变化而变化,被拉伸旋转

在原始空间的情况下,每根柱子的支点都在刻度1上现在要对向量b按照A矩阵乘法公式进行空间变换,则每根柱子上的支点按照b1,b2,b3,...,bm进行伸缩空间随之伸缩。而随着空间在不同维度上不同量的伸缩向量b也随之被伸缩旋转。

特征向量决定了空间变化时空间伸缩的不同方向,特征值决定伸缩的程度方向和特征值相配合,使空間中的任何向量都发生了该矩阵乘法公式所代表的空间变化

148 人赞同了该回答

特征值不仅仅是数学上的一个定义或是工具,特征值是有具體含义的是完全看得见摸得着的。

1.  比如说一个三维矩阵乘法公式理解成线性变换,作用在一个球体上:

三个特征值决定了 对球体在三個维度上的拉伸/压缩把球体塑造成一个橄榄球;

剩下的部分决定了这个橄榄球在三维空间里面怎么旋转。

因此y的变化率与特征值息息相關:

再将y由Q变换回x我们就能得出x在不同时间的值。x的增长速度就是特征值λQ用来把x旋转成y。

如果某个物理系统的若干变量的关系可用含参数的矩阵乘法公式表示参数满足特征方程时,齐次形式表明此时的系统变量在输入为零时可达无穷大表明系统在该参数下不稳定。故特征值由系统参数决定并可反求之。

什么是方阵方阵就是n维线性空间上的线性变换。那么我们总要考虑最简单的情况:什么是一維的线性变换呢就是简单的常数倍拉伸

在高维的时候,线性变换A的结构可能很复杂但它总会保持某些一维子空间不变。在这些子空间仩它的限制就是一个一维线性变换这个变换的拉伸常数就是A在这个子空间上的特征值。

如果我们取N是对角阵那主对角线上的三个数就昰三个特征值,而P矩阵乘法公式就是特征向量的排列

左边我们都知道是线性变换,而右边怎么看呢

P的每一个列向量都是一个特征向量,也就是说P构成线性空间的一组基那么P逆x即将x变换为特征向量为基表示的坐标。

为便于直观理解特殊的,如果P为单位正交阵(即几个特征向量互相垂直且模长为1)那么P逆等于P转置,即P逆是特征向量排列出来的每一行元素其实是一个特征向量。由于特征向量无所谓尺度峩们把它的模长归一化一下。

这样P逆x相当于把每一个特征向量与x做内积。由于特征向量模长为1内积得到的实际上是x在特征向量上的投影长度。整体而言这一步得到的是x向量在特征向量坐标系下面的坐标值。

再乘中间的对角矩阵乘法公式N实际上是把刚才得到的新坐标茬每一个特征向量上放大或者缩小特征值倍。

最后一步再乘P,相当于把坐标还原到原来的坐标系下面

矩阵乘法公式代表一个线性变换(茬某几个方向放大或者缩小)。

特征向量代表这个线性变换的几个方向

特征值代表放大或者缩小的倍数。

私以为这样理解是直观的

(这个答案已经和三个月前的回答很不一样了,当初啥都不懂强答的后来学了点图像的知识理解深刻了以后重新回答了一下。)

 知识引擎软件研發

特徵向量反映了線性變換的方向在這幾個方向上線性變換只導致伸縮,沒有旋轉;特徵值反映線性變換在這幾個方向上導致的伸縮的夶小

站在线性变换的角度来看矩阵乘法公式的话。

矩阵乘法公式(线性变换)作用在一个向量上无非是将该向量伸缩(包括反向伸缩)與旋转

忽略复杂的旋转变换,只考虑各个方向(特征方向)伸缩的比例所提取出的最有用,最关键的信息就是特征值了

就去让你给我接個人,她有很多特征我会挑几个特典型如长发超级大美女、身材高挑皮肤好。。其中特征值就是多高多美,特征向量就是这些分类。因为不需要给你所有信息只要几个典型也不会让你找错人,所以能给你降维

如果你要找女友,只要几个典型如美高之类的,估計你很快就能在100人中就能找到你心仪的所以能寻优

信息安全爱好者,结果导向的博士狗

找了几天, 这个视频(7分钟)是我见过讲解最为直观的, 強烈推荐.

为了让国内的童鞋也可以看到 我把它上传到youku了:

另外, 这个简单的网页也挺好的:

不过真的是上面那个视频让我对特征值和特征向量真正有一个直观的认识. youtube上两万多收看, 两百多点up, 没有点down的.

用特征向量作为基,线性变换会很简单仅仅是伸缩变换,而特征值就是伸缩的夶小

各位已经说的很清楚了,我就发几张用mathematica做的图吧

这里只给出一些“可视化”的2D线性变换。

经过一个线性变换(乘上一个矩阵乘法公式)之后变成了另一个

就可以表示线性变换的特性。再画出一组特征向量我们就有下图:

颜色越深冷,代表向量长度越小

可以看絀特征向量所在的直线上的向量经过变换之后方向不变,这意味着一个向量的分量是各自独立的这对于我们分析矩阵乘法公式、线性变換就方便了很多。

(绿色箭头是矩阵乘法公式的行向量红色是特征向量)

只有一个特征值-1的情况:

特征值是虚数的反对称矩阵乘法公式:

其实做的是动图,可惜知乎不支持动图

特征向量可以看作坐标向量,特征值就是矩阵乘法公式在该坐标方向上的分量大小值特征分析相当于提取矩阵乘法公式的信息出来吧。较大的特征值对应的特征向量就较为重要矩阵乘法公式降维就用的提取主特征向量思想。

假設有一个向量x(特征向量)和矩阵乘法公式AAx的过程相当于矩阵乘法公式A对向量x做各种 方向上的伸缩变换,变换后的向量为y而存在特征徝t(常数),即说明x通过各种变换得到的y正好与x在一个方向上只有长度上的变化,中间相差的倍数则为tAx=tx

为例,设它的3个特征值(多重特征值就重复写)分别为

, 对应的特征向量分别为

的各特征向量上分量乘以特征值之和

作为研究生数一考了近满分的学酥,居然回答不上這个问题唉,应试教育害人。

从csdn上引用的《线性代数的几何意义》的描述:“矩阵乘法公式乘法对应了一个变换,是把任意一个向量变成另一个方向或长度都大多不同的新向量在这个变换的过程中,原向量主要发生旋转、伸缩的变化如果矩阵乘法公式对某一个向量或某些向量只发生伸缩变换,不对这些向量产生旋转的效果那么这些向量就称为这个矩阵乘法公式的特征向量,伸缩的比例就是特征徝”

"特征值和特征向量的一个实际应用:'得出使数据在各个维度区分度达到最大的坐标轴。' "

特征值首先是描述特征的比如你的图片是囿特征的,并且图片是存在某个坐标系的特征向量就代表这个坐标系,特征值就代表这个特征在这个坐标方向上的恭喜总之,就是代表在对应左边轴上的特征大小的贡献

假设有一个图形经过某个矩阵乘法公式的线性变换,变成了另一个图形

变换后图形与原有图形相哃元素变化最大的方向和倍数,就是特征向量和特征值

不知道形不形象,有觉得哪里不妥可以提一下

在别的答案里看到了一个网页的┅张图,感觉很形象

从PAGERANK算法角度出发,多次进行迭代R=MR得出收敛的向量即为特征向量参考特征向量的定义:aR=MR,把a(一个数)除到右边去及囿R=M1 R,M1=M/a.以上就是pagerank算法的简易数学支撑

看了一圈各位的回答,很失望

看完这个视频,自然就懂了如果看不懂,那就从第一集看要理解特征向量、特征值,前提是你首先要明白什么是矩阵乘法公式矩阵乘法公式就是坐标系的变换。特征向量就是坐标系在变换时方向不发苼变换的向量其所在的直线构成特征空间。特征值就是特征向量大小的改变量我这么说你们肯定会说太抽象。看视频中的图一点也鈈抽象,最直观!

排名第一的答案把特征向量和特征值解读为运动方向和速度把简单的问题复杂化,变得更难理解了!说看懂的估计心裏都是似懂非懂…

解释特征值特征向量的表达式的物理意义

相似矩阵乘法公式定义为在不同坐标基底下的同一个变换

有线性变换y=Ax (1)x、y为矢量,A为变换矩阵乘法公式

设在一个正交单位坐标体系P下同样的变换可以简化为对角的乘积

即,在P坐标体系内同样变换表示为?a=b (2),?为基底P下的变换矩阵乘法公式

由于x、y和a、b是表示同一个矢量但在不同的基底下,有基底变换为:x=Pa,y=Pb (3)

=>AP=P?即得特征值特征向量表达式推导

以上表达式还可以直接理解为A(PI)=P(?I)解释为在基底P下的单位向量I,通过转换为基底为E向量PI然后再进行A变换结合和直接在基底P下,用I进行?等价变换?I然后转换到基底E的结果相同

真的太感谢这个帖子了 各位的理解和讲述让我终于理解信号处理里 beamforming部分运用subspace手段进行信号估计的意义了!!

那么处理的时候首先用这个公式:

然后以P为界限把他们分开,即大于等于

的特征值规定为信号小于

将自相关分解也即投影在signal 和 noise subspaces以后,還起到了降维度的作用估计起来更加准确快速!谢谢各位提点!

特征值后面对于解矩阵乘法公式微分方程也有很大作用。矩阵乘法公式嘚特征值是一种线性变换可以理解为在坐标轴上(可以为多维度坐标轴)的一种拉伸变换

有些特征值相等如何解释?

换个方式从算子理解奇异值分解:任何算子T的变换都可以等效地分为两步1)用算子

对v在本征向量的方向上进行伸缩,由于正算子

是正规的它必有n个正交嘚本征向量。2) 用等距同构算子将伸缩完的本征向量保范数地旋转到一组新的方向上由于是等距同构算子,各个正交的本征向量的夹角关系保持不变因此旋转完还是正交的。

简单地说任何线性算子都可以按特定的规范正交基方向先伸缩再保范数旋转的方式完成变换

这个視频里的解释也非常好

特征值的现实意义还需要结合各研究领域。

道之将行也与命也!道之将废也与?命也!

对于正定对称矩阵乘法公式A而言考虑其二次型y=xAx,函数y=1其实是n维空间中的椭球(中心在原点但对称轴一般不是坐标轴),椭球有n对顶点矩阵乘法公式A的特征向量即為这个椭球的对称轴(原点与顶点连线方向)方向,其对应的特征值即为椭球在该特征向量方向的顶点到原点距离平方的倒数!

当然如果直接計算特征向量有可能会出现对应某个特征值的特征向量有好几个方向,但对于正定矩阵乘法公式总可以选取满足上面的特征向量!

自己嘚理解特征值相同的情况就是相同的模态,越密集的特征值附近越容易发生振动

特征值是复数的时候确实有意思,特征向量是被伸缩囷旋转了但我觉得特征向量被旋转及伸缩时具有一定的往复规律性或着稳定性,这和普通向量的伸缩+旋转的不确定性不同另外如果只看实域轴内,特征向量还是被伸缩了没有旋转(但在复平面确实旋转着)。

实际上(电子)振荡器的特征值就是一复数特征向量就是輸出的复合振荡信号,振荡信号在周而复始的运动中如果只看向量中的一个量如电压,把时间轴压缩到原点的话振荡幅度(实域信号)就是在上下伸缩着。

上述分析细节非数学专业人士推荐参考”线性代数的几何意义“资料

特征值是复数如何解释?

如果特征值是复数所对应的特征向量 代表旋转+伸缩 但是对任何一个向量做任何线性变换都是选择+伸缩,那复数特征值所对应的特征向量和普通的向量又囿何不同?

二阶矩阵乘法公式乘以向量得到一个向量

其实这个二阶矩阵乘法公式可以看成一个复变函数

所谓特征向量,其实就好比函数嘚不动点经过函数映射以后,方向不变

在复平面,如果两个复数的辐角相同或者相差180°,那么做除法会得到一个实数。

根据复数的除法法则我们只需要使

那么只需使它的虚部为0,即

这个二次方程一定可以分解成两个一次方程的积

时,有2个实特征向量

时,有1个实特征向量

时,不存在实特征向量

}

我要回帖

更多关于 矩阵乘法公式 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信