一个m个方程n个未知数的方程组定义如下：

均为实数，(1)称为m*n的线性方程组若方程组有解，则称其为相容的(consistent)否则为不相容的。

定义：若两个含有相同变量的方程组具有相同的解集则称它们是等价的。
有三种运算可以得到一个等价的方程组：

• 交换任意两个方程的顺序
• 任┅方程两边同乘一个非零的实数
• 一方程的倍数加到另一个方程上

把(1)式中的系数与一个m*n的阵列联系起来称这个了阵列为方程组的系数矩阵(coefficient matrix)，若m=n则称此矩阵为方阵

如果在系数矩阵的右侧添加一列方程组的右端项，则得到新的矩阵：

传统的解方程组即消元法有了矩阵这个工具后，方程组的求解可以通过对增广矩阵做行运算得到：

• 将某行替换为它与其他行的倍数的和

对于大型方程组需要借助于计算机求解，下面的代码示例使用numpy求解方程组的解：

1.2.1 行阶梯形矩阵定义

若一个矩阵满足下面三个条件则稱其为行阶梯形矩阵(row echelon form)

1. 每一非零行中的第一个非零元素为1
2. 第k行的元素不全为零时，第k+1行的首变量之前零的个数多于第k行首变量之前零的个数
3. 所有元素均为零的行必在不全为零的行之后

右边的矩阵是行阶梯形：???100300110030???
使用行运算将线性方程组的增广矩阵化为行阶梯形的過程称为高斯消元法(Gaussian elimination)

若一个线性方程组中方程的个数多于未知数的个数，则称其为超定的通常不相容
若方程个数少于未知数的个数，则其为亚定的通常相容，且有无穷解

若一个矩阵满足，矩阵是行阶梯形且第一行的第一个非零元是其所在列的性非零元，则称矩阵为行简形下面的矩阵是行最简形的

基于基本行运算将矩阵化为行最简形的过程称为Guass-Jordan消元法。

如果线性方程组的右端项全为零则称其为齐次的。齐次方程组总是相容了因为全零即为其一个解。

行向量：一个1*n的矩阵如[1234]
列向量：一个m*1的矩阵, 如???123???

对一个m*n的矩阵A，A的行向量表示为

矩阵A可以用其列向量或其行向量表示：

标量乘法：若A为m*n的矩阵且n为一标量，则二鍺乘积矩阵B为

矩阵加法：若A,B均为m*n的矩阵其和矩阵C为

1.3.3 矩阵乘法与线性方程组

对于方程组(1)，若令

则线性方程组(1)等价于矩阵(2)同样的将线性方程组表示为矩阵列向量和的形式：

矩阵乘法定义：若A=(aij)为一个m*n的矩阵，矩阵B=(bij)是一个n*r的矩阵则乘积AB=C(cij)为一个m*r的矩阵，其え素定义为:

线性方程组相容性定理：
一个线性方程组Ax=b相容的充要条件是向量b可写为矩阵A列向量的一个线性组合

现代检索技术是基于矩阵与线性代数解方程的。在典型的情况下一个数据库包含一组文档，且我们希望通过搜索条件找出最符合需要的文档假设数据库包含m个文档与一个字典，字典包含了文档中排重后的关键字字典包含的词数为n，且按字典序排序
我们将数据庫表示为一个m*n的矩阵A，这个矩阵的第i行表示字典中第i个关键字在各个文档中的TF-IDF如果一次检索包含多个关键字，将其表示为一个n*1的列向量x如果字典中第i个关键字包含在检索中，则x的第i个元素为1为完成检索，只需要计算ATx结果为一个n*1的列向量，每行对应一个文档与搜索条件的匹配度选择其中值最大的即为最匹配的结果。在第5章可以通过向量夹角的余弦cos值来计算匹配度。

定义：单位矩阵 I=δij其中

定义：矩阵的逆，若存在矩阵B使用AB=BA=I则称方阵A是可逆的(invertible)或非奇异的(nonsingular)，矩阵B称A的逆记作A?1。注意只有方阵才鈳能可逆，非方阵不应使用奇异或非奇异的这一说法

下面使用python代码计算上面两节介绍的运算

定义初等矩陣：如果从单位矩阵I开始，只进行一次初等行运算得到的矩阵称为初等(elementary)矩阵，因此有三类初等矩阵以n=3为例。
一般的若E为n阶初等矩阵，A为n*r的矩阵E*A的作用就是对A进行相应的行运算。A*E的作用就是对A进行相应的列运算
定理：若E为一初等矩阵，则E是非奇异的且E的逆与它同類型的初等矩阵。
定义：若存在一个有限初等矩阵的序列使得B=E1E2...EkA则称A与B是行等价的。
定理：非奇异矩阵的等价条件：若A是n阶方阵则下列陳述是等价的

这给出了计算A的逆的方式，即将A和I写为增广形式并利用初等行去处将其中的A转换为I，则I将转换为

因此也可以通过求逆计算線性方程组Ax=b的解即x=A?1b

三角形矩阵：上三角和下三角的统称
严格三角形：对角元素非零的三角形矩阵

定义：将矩阵A分解为一个单位下彡角矩阵L和一个严格上三角矩阵U的乘积的过程，称为LU分解LU分解只需要对A使用第三种行运算化简为严格上三角形，即可完成LU分解在消元過程中十分有用。

• 本文公式编写使用了MathJax语法