第三讲 矩阵特征值计算

第三讲

矩阵特征值计算

—— 应用：Google 网页排名

2



本讲主要介绍 PageRank 算法的基本思想与模型，

以及如何使用该算法对网站进行排名

PageRank



“重要性” 或 “影响力” 的一种方法。通过该方法，Google 将各个网站进行排名。用户进行相关搜索时，Google 会将符 合条件的网站按排名顺序输出。





有 向 图

4

 有向图的定义、相关术语和部分性质

例：右图为一个有向图，记为

D，

其顶点组成的集合记为

V(D) = { u, v, w}

边组成的集合记为

A(D) = {(u,w), (w,u), (u,v)}

有向图介绍

有向图是指由有限个元素的非空集合和它的不同元素构成的 有序数对组成的结构。



(w,u) 表示不同的边。

图的基本元素：顶点（节点）和边（线、弧、枝）



D 的阶，记作 p(D)



D 的大小，记作 q(D)



v

v

v

od(v)



v

v

或以

v

id(v)

有向图相关术语

6

例：右下图为一个有向图，记为 D，则

p(D)=3

 D 的阶:

 D 的大小:

 顶点 u 的出度:

 顶点 u 的入度:

 顶点 v 的出度:

 顶点 v 的入度:

q(D)=3

od(u)=2 id(u)=1 od(v)=0

id(v)=1

有向图举例

p(D)=6，q(D)=9

序号 顶点 入度 出度

1

2 1

2

1 2

3

1 3 4

2 1

5

1 1

6

2 1

例：左图中

有向图举例

8

 为研究需要，我们定义邻接矩阵

例：对于右边的有向图，其邻接矩阵为

邻接矩阵

性质一：定义行和 和列和 ，则 第 i 行的行和 r

就是第 i 个顶点的入度，第 j 列的列 和 n

就是第 j 个顶点的出度。

i ij

j

r = ∑ g

i

n = ∑ g

性质二：

( ) =边的个数

i j

r = n = q D

∑ ∑

邻接矩阵的性质

行和 ↔ ^{入度，列和} ↔ ^出度

10

PageRank 数学模型

Google 的

PageRank

若 B 网页上有连接到 A 网站的链接 ( 称 B 为 A 的导入链接 )，

说明 B 认为 A 有链接价值，是一个“重要”的网站，此时 A网 站可从 B网站分得一定的级别 ( 重要性 )。

同时 A 的级别将平均分配给 A网站上的所有导出链接。

导入链接：链接到你网站的站点，即“外部链接”；

导出链接：网站上指向另外一个站点的链接。

在 PageRank 模型中，一个网站的级别（重要性）大致由下面 两个因素决定：导入链接的数量和导入链接的级别（重要性）。

PageRank 的决定因素

12

如果我们将下面的有向图中的每个顶点看成一个网站，并把每 条边看成是网站间的 “超链接”，则此有向图就代表一个小型 的网络，其中有 6 个网站和 9 个超链接。

例： 这 6 个 网站 中哪个最重要 ？

重要性的决定因素：





不太合理

哪个网页最重要

设

u

r(u)，记 F

u

B

u

n

= |F

|

u

设

v

u

v

r(v)/n

u

u

( ) ( )

v B

v

r u r v

∈ n

= ∑

简化的 PageRank 算法

14

设共有

m

1

2

3

m

性）分别记为

r

r

r

r

G

( ) ( )

v Bu v

r u r v

∈

n

= ∑

1 m

ij

i j

j j

r g r

= n

= ∑ G 中第 j

列的列和

r = G _m ⋅ r

简化的PageRank模型

其中 r = ( , , r r

 , r

)

{ / }

m ij j

G = g n

 ^易知 r ^是 G

^{的对应于特征值为} 1 ^{的特征向量}

矩阵 G

^{一定有特征值 1} 吗？即上面的方程是否有解？

 如果

，则 r

= r

^{，此时就无法进行排名}

1 0 G  

=  

 

因此，我们需要对简化的 PageRank 进行改进！

简化PageRank的问题

r = G _m ⋅ r

16

设 η (u) ^是网页 u 的所获得的基本级别，则

( )

( ) ( )

v B

v

x u p x v u

n η

∈

= ∑ +

改进的 PageRank

 基本思想：首先给每个网页设置一个基本级别

其中： _ x(u) ^表示网页 u ^{的最终级别}

 p 是一个加权系数，通常取 0.85 左右

 η (u)= (1 – p )/m ≡ δ

矩阵 形式

与前面的讨论相类似，将所有网页进行编号：

1 、 2 、 ... 、 m

x = ⋅ p G m ⋅ + ⋅ x δ e ⁽

^,

^{, , )}

(1,1, ,1)

T n T

x x x x

e

 = 

 = 

 

 





1 n

ij

i j

j j

x p g x

n δ

=

= ∑ + ^{( i = 1, 2,  , m )}

改进的 PageRank

( )

( ) ( )

v Bu v

x u p x v u

n η

∈

= ∑ +

于是可以把右式改写为：

18

改进的 PageRank

x = ⋅ p G m ⋅ + ⋅ x δ e

{ / }

m ij j

G = g n G _m = ⋅ G D

其中： diag

1 2

1 1 1

(

),

m

G g D , , ,

n n n

 

= =  

  

x = ⋅ ⋅ ⋅ + ⋅ p G D x δ e

x = ⋅ ⋅ ⋅ + ⋅ p G D x δ e ^规定：

¹

n i i

x

=

∑ =

1 p G D x δ e

= ⋅ ⋅ ⋅ + ⋅ ⋅

p G D x δ e e x

= ⋅ ⋅ ⋅ + ⋅ ⋅

( ^{p G D δ e e}

) ^x

= ⋅ ⋅ + ⋅ ⋅

1

n

T i

i

x e x

=

= ∑ =

x = ⋅ A x

记 A = ⋅ ⋅ + ⋅ p G D δ ee

x ^是 A ^{的对应于特征}

值 λ=1 的特征向量。

改进的 PageRank

20

改进的 PageRank

1 2

21 22 2

1 2

1 2

1 2

m m

m m

m m mm

m

g

g g

p p p

n n n

g

g g

p p p

n n n

A

g g g

m m

p p p

n n n

δ δ δ

δ δ δ

δ δ δ

 + + + 

 

 

 + + + 

 

=  

 

 

 + + + 

 

  ×





   



 矩阵 A 的两个重要性质：

(1) A>0 ，即所有元素都是正数

(2) A 的各列的列和等于 1 δ ⁼ (1 – p )/m

j ij

i

n = ∑ g

若矩阵

G

0 列，即存在 j

i

g

= 0，则

n

= 0

( 1, , , )

1 2

g

i m

n m

= =

=

 





改进的 PageRank

1

11 12

1 2

2

21 22

1 2

1 2

1 2

m m

m m

m m mm

m

g

g g

n n n

g

g g

n n n

A p

g g g

n n n

δ

 

 

 

 

 

= ⋅   +

 

 

 

 

 





   



22

x = ⋅ A x

问：上述方程组的解是否存在？

答：上述方程组存在唯一的解！（且均为正数）

理由： Perron-Frobnius 定理（证明略）

x 满足：

1

1

n

i i

x

=

∑ =

改进的 PageRank

A 的谱半径

A 的各列的列和等于 1 e

⋅ = A e

( ) 0

e

I − A =

| I − A | 0 = _{λ = 1} 是 A 的特征值

事实上，我们有结论：

λ = 1 是 A 的

即其他特征值的模均严格小于 1。

问： λ = 1 是 A 的特征值吗？

24

序号 顶点 入度 出度

1 alpha 2 1

2 beta 1 2

3 gamma 1 3

4 delta 2 1

5 rho 1 1

6 sigma 2 1

例：

p ^=0.85。

网页排名举例

clear; % Eig11.m

p = 0.85; % 此处 p 也可以取其它数值

G = [0 0 0 1 0 1; 1 0 0 0 0 0; 0 1 0 0 0 0; ...

0 1 1 0 0 0; 0 0 1 0 0 0; 0 0 1 0 1 0];

n = size(G,1);

sn = sum(G); % 提取每列的列和 D = diag(1./sn); % 生成对角矩阵 delta = (1-p)/n;

A = p*G*D + delta;

[v,d] = eig(A); % 计算 A 的特征值与特征向量 r = v(:,idx); % 最大特征值所对应的特征向量 r = r./sum(r); % 归一化

[x,index] = sort(r,'descend'); % 排序

网页排名举例

26

数值算法

 幂法

当矩阵 A 的阶数很大时，无法直接计算其特征值和特征向量，

此时需要使用迭代算法。

x = A x ^， x

1

1

n i i

x

=

∑ =

幂法

1)

A

v

> 0

tol

2)

；

3)

|v

- v

| < tol ，

x = v

否则转第二步。

1

1 1

1

,

sum( )

k

k k k

k

u Av v u

u

+ + +

+

= =

28

例：

p =0.85

幂法举例

clear; % Eig12.m

tol = 1e-4; p = 0.85;

G = [ 0 0 0 1 0 1; 1 0 0 0 0 0; 0 1 0 0 0 0;

0 1 1 0 0 0; 0 0 1 0 0 0; 0 0 1 0 1 0 ];

n = size(G,1);

sn = sum(G,1); D = diag(1./sn);

delta = (1-p)/n;

A = p*G*D + delta;

x = ones(n,1)/n; % 迭代初始向量 z = zeros(n,1);

k = 0; % 记录迭步数

while max(abs(x-z)) > tol % 幂法 z = x;

x = A*x;

k = k+1;

end[x1,index]=sort(x,'descend');

幂法举例

30

在前面给出的程序中，如果矩阵 G 中存在某一列的列和为 零，怎么办？



Eig13.m

另一个解决方案见

Eig14.m

当矩阵规模较大时，能大大减少运算量。

一个问题

( 1, , , )

1 2

ij

j

g i m

n m

= =

=

 



此时规定： 