一、基础知识

$R$: 实数集

$R^{m×n}$ 表示m行n列实数矩阵组成的向量空间

矩阵表示：$A \in \mathbb{R}^{m \times n} \iff A = \begin{bmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{bmatrix}, \quad a_{ij} \in \mathbb{R}.$

向量表示：$x \in \mathbb{R}^n \iff x = \begin{bmatrix} x_1 \\ \vdots \\ x_n \end{bmatrix}, \quad x_i \in \mathbb{R}.$

$A(i:)$ 表示矩阵$A$的第i行

$A(:j)$ 表示矩阵$A$的第j列

$1:2:n$ 表示形式就是取小于等于n间隔2的数，[1,3,5,7......]

1.1 运算

1.1.1 矩阵运算

转置运算：$C = A^T\implies c_{ij} = a_{ji}$（$R^{m×n}\to R^{n×m}$）

加法运算：$C = A + B \implies c_{ij}=a_{ij} + b_{ij}$

标量乘矩阵：$C=\alpha A \implies c_{ij}=\alpha a_{ij}$

矩阵矩阵乘：$C=AB \implies c_{ij} = \sum_{k=1}^{n} a_{ik} b_{kj}$

逐点乘法（不常用）：$C = A \circ B$ 或 $C=A.*B \implies c_{ij} = a_{ij} \cdot b_{ij}$

逐点除法（不常用）：$C = A \oslash B$ 或 $C = A./B \implies c_{ij} = \frac{a_{ij}}{b_{ij}}$

1.1.2 向量运算

标量和向量乘：$z = ax \quad \Longrightarrow \quad z_i = ax_i,$

向量加法：$z = x + y \quad \Longrightarrow \quad z_i = x_i + y_i,$

点积：$c = x^T y \quad \Longrightarrow \quad c = \sum_{i=1}^{n} x_i y_i.$

逐点乘法：$z = x .* y \quad \Longrightarrow \quad z_i = x_i y_i,$

逐点除法：$z = x ./ y \quad \Longrightarrow \quad z_i = x_i / y_i.$

saxpy: $y = ax + y \quad \Longrightarrow \quad y_i = ax_i + y_i,$

saxpy是"标量 a 乘 $x$ 加 $y$"(scalar a $x$ plus $y$)的缩写，是一个修正过程

1.1.3 flop

用于量化计算量的方法——flop数。

一个flop就是一次浮点运算（加、减、乘、除）

1.2 结构

1.2.1 带状矩阵

对于任何$i > j+p$都有$a_{ij} =0 $，就称$A ^{m n}$具有下带宽 p。反之具有上带宽。

$A = \begin{bmatrix} x & x & x & 0 & 0 \\ x & x & x & x & 0 \\ 0 & x & x & x & x \\ 0 & 0 & x & x & x \\ 0 & 0 & 0 & x & x \\ 0 & 0 & 0 & 0 & x \\ 0 & 0 & 0 & 0 & 0 \\ 0 & 0 & 0 & 0 & 0 \end{bmatrix}$

此时，A的上带宽为2，下带宽为1。

1.2.2 对称性

假定$A \in \mathbb{R}^{n \times n}$，如果 $ A^T = A$，那么 $A$ 是对称矩阵；如果$ A^T = -A $，那么 $A$ 是反称矩阵。假定$A \in \mathbb{C}^{n \times n}$，如果 $A^H = A$，那么 $A$ 是 Hermite 矩阵；如果$A^H = -A$，那么 $ A $是反 Hermite 矩阵。下面是一些例子：

对称矩阵： $ \[\begin{bmatrix} 1 & 2 & 3 \\ 2 & 4 & 5 \\ 3 & 5 & 6 \end{bmatrix}\] , $ 反称矩阵： $ \[\begin{bmatrix} 1 & 2-3i & 4-5i \\ 2+3i & 6 & 7-8i \\ 4+5i & 7+8i & 9 \end{bmatrix}\]

, $

Hermite 矩阵： $ \[\begin{bmatrix} 1 & 2-3i & 4-5i \\ 2+3i & 6 & 7-8i \\ 4+5i & 7+8i & 9 \end{bmatrix}\]

. $

反 Hermite 矩阵： $ \[\begin{bmatrix} 1 & -2+3i & -4+5i \\ 2+3i & 6i & -7+8i \\ 4+5i & 7+8i & 9i \end{bmatrix}\]

. $

1.2.3 单位矩阵与置换矩阵

用$I_n$ 表示 $n \times n$的单位矩阵，$e_i$表示单位矩阵$I_n$的第i列。

$I_4 = \begin{bmatrix} 1 & 0 & 0 & 0 \\ 0 & 1 & 0 & 0 \\ 0 & 0 & 1 & 0 \\ 0 & 0 & 0 & 1 \end{bmatrix}.$

如果$I_n$被重新排序，就得到了置换矩阵，如：

$P = \begin{bmatrix} 0 & 1 & 0 & 0 \\ 0 & 0 & 0 & 1 \\ 0 & 0 & 1 & 0 \\ 1 & 0 & 0 & 0 \end{bmatrix}$

1.2.4 子矩阵

如果$A \in \mathbb{R}^{m \times n}$，假定$\alpha = [2,4,6,8]$，$\beta = [4,5,6]$，那么子矩阵

$\begin{align*} A(\alpha,\beta) \ = \left[ \begin{array}{cccc} a_{24} & a_{25} & a_{26} \\ a_{44} & a_{45} & a_{46} \\ a_{64} & a_{65} & a_{66} \\ a_{84} & a_{85} & a_{86} \end{array} \right]. \end{align*}$

如果$\alpha = \beta$，则$A(\alpha,\beta)$称为主子矩阵，如果$\alpha = \beta = 1 : k 且 1 \le k \le min(m,n)$则称为顺序主子矩阵

1.2.5 克罗内克积

如果矩阵A的同一个块的元素都是标量倍数，那么A是一个克罗内克积。

例如：

$A = \begin{bmatrix} 1 & 2 \\ 3 & 4 \end{bmatrix}, \quad B = \begin{bmatrix} 0 & 5 \\ 6 & 7 \end{bmatrix}$

$A \otimes B = \begin{bmatrix} 1 \cdot B & 2 \cdot B \\ 3 \cdot B & 4 \cdot B \end{bmatrix} = \begin{bmatrix} 0 & 5 & 0 & 10 \\ 6 & 7 & 12 & 14 \\ 0 & 15 & 0 & 20 \\ 18 & 21 & 24 & 28 \end{bmatrix}$

一、 基础知识