《数值分析》6
主要内容：
Hilbert矩阵的病态性 向量范数与矩阵范数 矩阵的条件数概念
Hilbert矩阵的条件数
引例 . Hilbert矩阵的病态性
7 / 1 6
/ 1 5
/ 1 4
/ 1
6 / 1 5
/ 1 4
/ 1 3
/ 1
5 / 1 4
/ 1 3
/ 1 2
/ 1
4 / 1 3
/ 1 2
/ 1 1
A
2
41 . 1
2 1 b
方程组
Ax =b1的解为
x1
2
42 . 1
2 1 b
1方程组
Ax = b 的解为 xx – x1=[ -2.4 27.0 -64.8 42.0 ]T
数据计算结果
Hilbert矩阵的病态性
定义 3.1： 设
Rn是
n维向量空间,如果对任意x∈Rn,都有一个实数与之对应
,且满足如下三个条件:(1)正定性: ||x||≥0,且||x||=0 <=> x = 0 ; (2)齐次性: λ为任意实数
x x
(3)三角不等式: ( y ∈R
x y x y
n )则称
||x||为向量x的范数 .注
:向量范数是向量长度概念的推广.例如2 22
12 1
2 n
n
i xi
x
x
x
是向量
x 的2范数为什么定义向量范数
向量范数与矩阵范数
n n
i xi x x x
x
1 2
1 1
) ,
, ,
( max
max 1 2
1 i n xi x x xn
x
常用的向量范数
:2 2
2 2
1 1 2 2
||
|| n n
i xi x x x
x
例
1. 证明 ||x||2 是 Rn 上的一种范数先证明柯西不等式
: | xTy |≤ ||x||2·|| y||2对任意实数
λ, 有(x - λy)T(x - λy)≥0 xTx – 2λxTy + λ2yTy ≥0| xTy |2 – (xTx)(yTy) ≤0 | xTy |≤ ||x|| ·|| y||
判别式
根据上式的最小值依然大于 0，求导得到最小值，推导出来
广义：p范数
向量范数与矩阵范数
) (
) (
||
|| x
y 22
x
y T x
yy y x
y y
x x
xT T T T
22
22 2 | | || ||
||
|| x xT y y
22 2
2 2
2 2 || || || || || ||
||
|| x
x y
y
2 2
2
|| || || ||
||
|| x y x y
(三角不等式成立
)0
||
|| x
2 x
12 x
22 x
n2
1 2 2 1
2 ( )2 | | | | || ||
||
|| x x n x x
i i
n
i i
(
正定性成立
)(
齐次性成立
)向量范数与矩阵范数
向量范数的性质
定义：
如果Rn中有两个范数 ||x||s 与 ||x||t ，存在常数m, M>0，使对任意n维向量x，有s t
s
x M x
x
m
则称这两个范数等价.
性质：对两种等价范数而言，某向量序列在其中一种范数意
义下收敛时，则在另一种范数意义下也收敛。注：今后研究向量序列的收敛性时，可在任何一种范数意义 下研究。
向量范数与矩阵范数
正交变换下向量2-范数不变性
ATA= I (正交变换性质) , y =Ax || y ||2 = || x ||2
x x Ax
A x
Ax Ax
y
y
T ( )
T( )
T T
T2
2
|| ||
||
|| y y
Ty x
Tx x
举例:
k k k
k
y x v
u
cos sin
sin 75 cos
.
0
向量范数与矩阵范数
例 1. 范数意义下的 单位向量
: X=[x1, x2]T1
1 -1
-1
||X||2 = 11
-1
1
||X||1 = 1
-1
1
1 -1
-1 ||X||
∞ = 1|
|
|
|
||
|| X 1 x1 x2
22 12
||2
|| X
x
x|}
|
|, max{|
||
|| X x1 x2
向量范数与矩阵范数
例 2. 设x=(x
1, x2, ····, xn)T, 证明|| x ||
|| x ||
1 n || x ||
|
|
|
|
|
|
||
|| x
1 x
1 x
2 x
n证明
:|
| max
||
||
|
|
max
1 k nx
kx
1n
1 k nx
k
|| || || ||
||
|| x x
1n x
所以
三角不等式的变形
:|| x y || || x || || y ||
||
||
||
||
||
||
||
|| x x y y x y y
||
||
||
||
||
|| x y x y || y || || x || || x y ||
||
||
||
||
||
||
||
|| x y x y x y
向量范数与矩阵范数
定义 3.2 对
A ∈ Rn×n ,存在实数||A||满足:则称
||A|| 是矩阵 A 的一个范数
.(1)正定性: ||A||≥0, 且 ||A||=0 A = 0 ; (2)齐次性: λ为任意实数A A
(3)三角不等式: ( B ∈RA B A B n×n )
(4)相容性: || A B |||| A || || B || (A, B R nn )
Frobenius范数 1/ 2
1 1
2
) (
||
||
nj
n
i ij
F
a
A
向量范数与矩阵范数
矩阵算子范数的概念
设
||x||是Rn上的向量范数
,A∈Rn×n,则A的非负函数||
||
||
max ||
||
|| 0 x
A Ax
x
称为矩阵
A的算子范数
注 1:矩阵算子范数由向量范数诱导出, 如
2 2
2 0 || ||
||
max ||
||
|| x
A Ax
x 2
1
||
2 max|| || ||
||
|| A 2 Ax
x
或 注 2: A
-1的算子范数可表示为
||
|| ||
min ||
1
||
|||| ||
|| max
|| ||
max ||
||
|| 0
1 0
1
y Ay Ay
y x
x A A
y
x
1
0 )
||
||
||
min||
(
x
Ax
x
向量范数与矩阵范数
n
i ij
n
j a
A
1 1
1 max
)
max (
2 A A
A
T“1-范数”(列和范数)
n
j ij
n
i a
A
1 1
max
无穷大范数
(行和范数 )1 2
||
2 ||max || ||
||
|| A 2 Ax
x
证:由算子范数概念
Ax A
x
Ax || 22 T T
||
由于
ATA是对称矩阵,故存在正交特征向量系v1, ···, vn , 设对应的特征值为
1, ,
n向量范数与矩阵范数
) )(
(
||
||
1 1
22
n
k k k k
n k
Tk T k
T A Ax c v c v
x
Ax
单位向量
x可被特征向量系所表示
nk
T n T
k k
k
k c A A A A
c
1 max max
1 2
2 ( ) ( )
n
k ckvk
x
1
n
k k
n
k k k
n k
kT
T x ckv c v c
x
1 2 1
1 )( ) 1
(
)
max (
2 A A
A
T
根据定义，取对应特征向量
向量范数与矩阵范数
矩阵的条件数概念
方程组
Ax = b, 右端项 b 有一扰动 , 引起方程组解x 的扰动
b
x设
x 是方程组 Ax = b 的解,则有b b
x x
A ( )
化简
,得A x b x A
1 b
||
||
||
||
||
|| x A
1 b
由
Ax = b 得|| b || || A || || x ||
|| 1x || ||||bA||||所以
|| ||||
||) ||
||
||
|| (||
||
||
|| 1
b A b
x A
x
矩阵的条件数概念
定义 : 条件数
Cond(A) = ||A||·||A-1||
或 C(A) = ||A ||·||A-1||
当条件数很大时
,方程组 Ax = b是病态问题
;当条件数较小时
,方程组 Ax = b是良态问题
矩阵的条件数概念
7 / 1 6 / 1 5 / 1 4 / 1
6 / 1 5 / 1 4 / 1 3 / 1
5 / 1 4 / 1 3 / 1 2 / 1
4 / 1 3 / 1 2 / 1 1
A
