范数
不管向量范数、矩阵范数还是算子范数，都需要满足三个特性:
- 正定性
- 齐次性
- 三角不等式
向量范数
1 - 范数：\(\Vert \boldsymbol {x}\Vert_1=\sum\limits_{i=1}^N |x_i|\)，即向量元素绝对值之和
2 - 范数：\(\Vert \boldsymbol {x}\Vert_2=(\sum\limits_{i=1}^N (x_i)^2)^{\frac {1}{2}}\)，也叫欧几里得范数，常用于计算向量长度，即向量元素的平方和再开方
\(\infty\)- 范数:\(\Vert \boldsymbol {x}\Vert_{\infty}=\max\limits_{i} |x_i|\)，即所有向量元素中绝对值的最大值
P - 范数:\(\Vert \boldsymbol {x}\Vert_p=(\sum\limits_{i=1}^N (x_i)^p)^{\frac {1}{p}}\)，即向量元素的 p 次方和再开 p 次方
矩阵范数
设\(A \in \mathbb{C}^{m × n}\)，则
\({||A||}_{m_1} = \sum\limits^{n}_{j=1} \sum\limits^{m}_{i=1} |a_{ij}|\)
\(||A||_{m_2} = {||A||}_{F} =\sqrt{\sum\limits^{n}_{j=1} \sum\limits^{m}_{i=1} |a_{ij}^2|} = \sqrt{tr(A^HA)} = \sqrt{tr(AA^H)}\)
\(||A||_{m_\infty}=\max\limits_{i,j}\{|a_{ij}|\}, 1\le i \le m, 1 \le j \le n\)
矩阵范数的性质
- \({||A||}_{m_1}\) 范数与向量范数\(||x||_1\)相容
- \({||A||}_{m_2}\) 范数与向量范数\(||x||_2\)相容
- \({||A||}_{m_{\infty}}\)范数与向量范数 \(||x||_\infty\) 不相容
证明一个范数是矩阵范数流程
- 证明非负性、齐次性、三角不等式
- 看他定义是哪种类型的范数，若是相容的需要证明相容性
算子范数
算子范数定义1： 
注意：并不是所以的矩阵范数都与向量范数相容。只有满足该条件的矩阵范数才与向量范数是相容的。
算子范数定义2： 
则称此矩阵范数为从属于向量范数 \(||x||\) 的算子范数。这里的x可是n维空间的任意取向。
算子范数表示：
\({||A||}_1=\max\limits_{1 \le j \le n}\{\sum\limits^{s}_{j=1}|a_{ij}|\}\), 列模和范数，即所有矩阵列向量绝对值之和的最大值
\(||A||_2=\sqrt{\rho(A^HA)}\)， 谱范数
\(||A||_\infty=\max\limits_{1 \le i \le s}\{\sum^n_{j=1}|a_{ij}|\}\), 行模和范数,即所有矩阵行向量绝对值之和的最大值
算子范数性质
- \({||A||}_{1}\) 范数与向量范数 \(||x||_1\) 相容
- \({||A||}_{2}\) 范数与向量范数 \(||x||_2\) 相容
- \(||·||_a\)是算子范数 \(\Rightarrow ||E||_a = 1\)
- 设\(A \in \mathbb{C}^{n × n}， ||A||_a\)是从属向量范数\(||x||\)的算子范数，若\(||A||_a < 1\),则 \(E \pm A\) 可逆，且\(||(E \pm A)^{-1}||_a \le (1 - ||A||_a)^{-1}\)
