談 Stirling 公式
蔡聰明
甲. 一個機率問題
什麼是一個事件 (event) 的機率? 這是 機率論最基本也是爭論最多的一個問題。
舉最簡單的例子來說明: 丟一個公正銅 板 (fair coin), 出現正面 (head) 的機率 為 1
2, 這是什麼意思呢? 常識性的解釋大致 是, 將此銅板獨立地丟“很多”次, 那麼正面 出現的次數“大約”佔一半, 這是在隨機的說 不準中很確定的事情。 所謂的“平均律”(the law of averages) 或“大數法則”(the law of large numbers) 隱隱約約就是指著這個 解釋。 不過, 常識往往是含糊的或自相矛盾 的, 需要加以精煉。 事實上,“數學是精煉的常 識”(Mathematics is a refined common sense)。 常識是我們作觀念探險之旅的出發 點。
問1: 丟2n 次銅板, 正面恰好出現 n 次 的機率有多大?
根據組合學, 丟 2n 次銅板, 共有 22n種 可能結果, 假設每一種結果發生的機會均等, 那麼 2n 次中有 n 次為正面的結果共有2nCn
種, 故得機率為 p2n = 2nCn
22n = (2n)!
22nn!n! (1)
我們更有興趣的問題是, 當n趨近 ∞ 時, p2n 會趨近於多少? 上述常識性的解釋 似乎是說, lim
n→∞p2n = 1, 這成立嗎? 這需要 對 (1) 式作精確的估算, 於是引出了下面的
問2: 當 n 很大時, 如何估算 n!? 更明 確地說: 當 n 趨近 ∞ 時, n! 的漸近相等式 (Asymptotically equal formula) 是什麼?
即要找一個“好用”的數列 (an) 使得
n→∞lim n!
an = 1, 記成 n! ∼ an。
我們希望找到這樣的 (an), 然後代入 (1) 式中計算出極限值 lim
n→∞p2n, 就可以檢 驗上述常識性的機率解釋是否正確。
n! 的漸近相等式存在嗎? 如何找? 這 就來到了 Stirling 公式的大門口。 在文獻上, 有許多文章論述 Stirling 公式的簡化證明或 機率式的證明 (參見 [1] 至 [9]), 不過都只是 在已經知道公式後, 給出證明而已, 並沒有說 出如何“看出”或“猜出”公式的追尋、 探險過 程。 因此令人有“美中不足”或“未盡妙理”的 感覺。 本文我們就試著來補上這個缺憾, 展示 一種推測式的猜想過程。 我們不排斥還有其 它猜想過程, 因為登一座山可以有各種不同 的路徑, 路徑越多越美妙。
1
乙. n!的馴服
首先觀察 n! = n(n − 1)(n − 2) · · · 3 · 2 · 1, 欲估計它, 最簡單的是採高估策略: 每 個因數都用 n 來取代, 亦即取
an= n · n · · · · n| {z }
n個
= nn (2)
顯然 lim
n→∞
n!
nn = 0, 故 nn 高估了 n!, 不過 也不錯,“萬事起頭難”, 有個開頭, 就可以逐 步修正、 改進, 從錯誤中學習, 而達真理的殿 堂。
問3: 如何改進(2) 式?
我們改採中庸策略: 每個因數都用“中位 數” n2 (差不多就是算術平均 n+12 ) 來取代, 亦即取
an = n 2 · n
2· · ·n
| {z 2}
n個
= (n
2)n= nn· 2−n (3)
這樣應該會比(2)式更好才對吧!
我們必須對 (3) 式作分析與檢驗的工 作。 令
bn = n!
(n2)n 如果 lim
n→∞bn = 1, 那麼“芝麻就開門”了, an = (n2)n 就是我們所要的漸近公式。 然而 我們的內心不禁會響起如下的懷疑: 真理不 會藏得這麼淺顯, 讓我們一猜即中吧?
我們來比較 n! 與 (n2)n的大小。 由算術 平均大於等於幾何平均定理知
√n
n! < n+ 1 2 ≈ n
2 事實上可以用數學歸納法證明:
n! < (n
2)n, ∀ n = 6, 7, 8, · · ·
因此當 n 很大時, 用“相差”的觀點來看, (n2)n 高估了 n! 但是此地我們應該另採“相 比”的觀點更適當, 因為我們要找的是 n! 的 漸近相等式。 例如, n2 + n 與 n2, 從“相 差”觀點來看, 當 n → ∞ 時, 兩者之差 (n2 + n) − n2 → ∞; 但是從“相比”觀點 來看, n2n+n2 → 1, 即兩者漸近地相等。 換 言之,“相差”觀點的高估, 還是有可能是“相 比”觀點的漸近相等。
考慮 n! 與 (n2)n之比的數列 (bn), 我們 的目標是探求極限 lim
n→∞bn。首先注意到 (bn) 是一個遞減的正項數列, 由實數系的完備性 知
n→∞lim bn = α存在, 且α ≥ 0 (4) 但是 α 等於多少, 並不容易看出。 我們採用 旁敲側擊的戰術, 我們觀察到下面簡單的
補題1: 設 (Sn) 為一個正項數列。 如 果 lim
n→∞Sn = S ∈R 且 S 6= 0, 則
n→∞lim
Sn+1 Sn = 1。
這並沒有告訴我們一個數列何時會收斂 , 不過卻有“消極中的積極”作用。 如果 lim
Sn+1 n→∞
Sn = 1 不成立, 則可能有三種情形:
n→∞lim Sn= 0或 lim
n→∞Sn= ∞或 limn→∞sn不存在 此時根本不必夢想會有 lim
n→∞Sn = 1。 另一方 面, 如果 lim
n→∞
Sn+1
Sn = 1, 則 (Sn) 可能收斂, 也可能發散; 此時也不能保證 lim
n→∞Sn = 1。
現在就來計算極限
n→∞lim bn+1
bn
= lim
n→∞
(n+1)!
(n+12 )n+1 ·(
n 2)n n!
= lim 2
n→∞
(1+n1)n = 2e <1 (5)
因此 lim
n→∞
bn+1
bn = 1不成立, 故下列三者之一 成立:
n→∞lim bn= 0或 lim
n→∞bn= ∞或 limn→∞bn不存在。
配合 (4) 式立知 lim
n→∞bn = 0, 所以 (n2)n 還 是高估了 n!。 只好繼續追尋。
問4: 如何改進(3) 式?
我們的目標是尋找比 (n2)n 還小一點的 估計式。 我們從兩個角度來觀察:
(i) 由微積分知道, 對差分而言, 2 是自 然指數的底數 (△2n = 2n), 但是對需取極 限的微分而言, 比 2 大的 e(≈ 2.71828) 才 是自然指數的底數 (Dex = ex)。e 似乎是比 2 更佳的選擇;
(ii) 在 (5) 式中, 若將 2 改為 e, 則極 限值變成 1, 這似乎是不錯的念頭。
這兩點觀察給我們啟示, 何不將 (3) 式 中的 2 改為神奇的數 e 呢? 換言之, 將 (n2)n 改成小一點的 (ne)n似乎是個好主意。 讓我們 投石問路, 試試看, 亦即重新取
an = n e · n
e · · ·n
| {z e}
n個
= (n
e)n= nne−n (6)
接著是檢驗工作。 令 n! 與 (ne)n 的相比 為
cn= n!
(ne)n 容易求得極限 lim
n→∞
cn+1
cn = 1, 但是還是無法 得到我們夢想的結果 lim
n→∞cn= 1。 繼續做苦 工 (dirty works) 吧!
首先我們來比較 (ne)n與 n! 的大小。 由 2 < (1 +n1)n< e 可得到
(n+1e )n+1
(ne)n < (n + 1)!
n! < (n+12 )n+1 (n2)n
再由數學歸納法可證得下面結果:
補題2:
(i) n! < (n2)n, ∀ n ≥ 6 (ii) (ne)n < n!, ∀ n ∈N (iii) n! < (n+12 )n, ∀ n ≥ 2
[註]. 上述 (iii) 是去年 (1992) 大學夜校聯招 試題。
(n2)n不是我們所要的答案, 改為(ne)n, 會不會矯枉過正呢? 讓我們來求算極限 值 lim
n→∞cn。 由補題 2 知 cn = n!
(ne)n >1, ∀ n ∈ N 並且容易驗知 (cn) 為一個遞增數列, 故
n→∞lim cn= β存在, 且β ∈ (1, ∞]。
為了探求β的真確值, 我們想到了也許 可以請著名的 Wallis 公式來幫忙, 因為公式 中涉及了 n!。 這是 Wallis 在 1656 年研究 圓的求積問題而得到的, 公式的發現過程也 非常富有方法論上的啟發與意涵。
補題3: (Wallis 公式, 1656 年) 2
1·2 3·4
3·4
5· · · 2n
(2n − 1)· 2n
(2n + 1)· · · = π 2 或
n→∞lim
(2n· n!)4
[(2n)!]2(2n + 1) = π 2 或
n→∞lim
22n(n!)2 (2n)!√n =√
π。
由
cn = n!
(ne)n = n!en nn 得
n! = cnnne−n 從而
(2n)! = c2n(2n)2ne−2n
代入 Wallis 公式得
n→∞lim
22nc2nn2ne−2n c2n(2n)2ne−2n√
n =√ π 亦即
n→∞lim c2n c2n√
n =√
π (7)
如果 lim
n→∞cn = β 是有限數, 則由 (7) 式得 0 =√π, 這是一個矛盾。 結論是
n→∞lim cn= lim
n→∞
n!
(ne)n = ∞ 換言之, (ne)n 低估了 n!。
我們繼續追問: 低估了多少?
最容易猜想到的增估是取 an = (n
e)n· n 令 dn = (nn!
e)n·n, 易驗知 (dn) 為一個遞 減的正項數列, 故 lim
n→∞dn = r 存在, 且 0 ≤ r < ∞。 今若 0 < r < ∞, 仿上述 程序由 Wallis 公式何得 ∞ = √
π 之矛盾。
因此 lim
n→∞dn= 0。 換言之, (ne)n· n 又高估 了 n!。
只好再減估一點, 比 n 更低階趨近於
∞ 的式子是什麼呢? 我們自然想到 nα,
0 < α < 1, 配合著對 (7) 式的觀察, 我 們自然想到了 √n, 於是我們猜想
an= (n e)n√
n (8)
這也許是個不錯的折衷辦法。
我們也可以從另一個角度來觀察: 由微 積分知
(1+1
k)k < e <(1+1
k)k+1, k = 1, 2, 3, · · · 令 k = 1, 2, · · · , n − 1 得到一組不等式, 將 它們乘起來得
e(n
e)n< n! < e n(n e)n
此式只是 n! 的粗估, 不過也啟示我們用折衷 的 (ne)n√
n 來估計 n!
讓我們來檢驗看看這個猜想好不好。 令 un= n!
(ne)n√n (9) 問5: 極限 lim
n→∞un 存在嗎? 是多少?
補題5: (un) 是一個遞減的正項數列。
證明: 考慮相比 un
un+1
= 1 e(1 + 1
n)n+12 我們觀察到下面兩式是等價的:
e < (1 + 1
n)n+12, (10) 2
2n + 1 = 1
n+12 <ln(n + 1) − ln n
=
Z 1+n
n
1
xdx (11)
由於 y = 1x 為一個凸函數, 且下圖梯形面積 恰好為 n1
+12
因此 (11) 式成立, 從而 (10) 式成立。 於是
un
un+1 > 1, 亦即 (un) 為一個遞減正項數列, 證畢。
因此極限 lim
n→∞un = L 存在, 且 0 ≤ L < ∞。 如果 L = 0, 我們就必須繼續再追 尋下去。 幸運的是, 我們已經可以用 Wallis 公式證明 L = √
2π, 這真是一個美妙的結 果。n! 終於被馴服!
丙. Stirling 公式的證明
定理1: (Stirling 公式, 1730 年)
n→∞lim
√ n!
2πn nne−n = 1 記成 n! ∼√
2πn nne−n, 當 n → ∞。
證明:
由 un = n!
nne−n√ n 得
n! = unnne−n√ n (2n)! = u2n(2n)2ne−2n√
2n
代入 Wallis 公式並且化簡得
n→∞lim u2n u2n√
2 =√ π
再由 lim
n→∞un = L 得 LL√22 = √
π, 從而 L=√
2π, 證畢。
Stirling 公 式 涉 及 兩 個 神 奇 的 常 數 π 與 e, 這是其美妙的所在。 物理學家 R.Feynman 每當遇到一個含有 π 的公式 時, 總是要問 :“圓在哪裡? ”(Where is the circle? ) 此地我們很容易回答:π 來自 Wal- lis 對圓的求積公式。
利用同樣的方法我們可以證明下面深刻 的結果:
定理2: 設 α > 0, 且 xn = nnen−n!nα, 則
(i) 當 α > 12 時, (xn) 為遞減數列且
n→∞lim xn = 0。
(ii) 當α < 12時, (xn) 終究遞增且 lim
n→∞xn
= ∞。
換言之, 當 α > 12 時, nne−nnα高估了 n!; 當 α < 12 時, nne−nnα低估了 n!。α = 12 恰是分水嶺的 Stirling 公式。
證明: 考慮相比 xn
xn+1
= (1 + n1)n+α e
我們來比較 (1 + n1)n+α 與 e 之大小, 我們 改比較它們的對數:
ln(1+1
n)n+α= (n+α) ln(1 + n
n ) 與 ln e = 1 由級數展開公式
ln(1 + x
1 − x) = 2(x 1+x3
3 +x5
5 +· · ·), |x| < 1
令 x = 2n+11 , 則 1+x1−x = n+1n , 於是 (n + α) ln(n+ 1
n )
= 2(n + 2)( 1
2n + 1+ 1
3(2n + 1)3 + 1 5(2n + 1)5
+ · · ·) (12)
(i) 當 α > 12 時, 2(n + α) > 2n + 1, 故由 (12) 式易知
(n + α) ln(n+ 1 n ) > 1 亦即
(1 + 1
n)n+α > e 因此 (xn) 遞減, 於是 lim
n→∞xn = a 存在且 0 ≤ a < ∞。 如果 0 < a < ∞, 由 Wal- lis 公式會得到一個矛盾。 只好 a = 0, 亦即
n→∞lim xn= 0。
(ii) 當 α < 12 時, 2(n + α) < 2n + 1。
將 (12) 式中的 5, 7, 9, · · · 皆改為 3, 得到估 計式
(n + α) ln(n+ 1 n )
< (2n+α)( 1
2n+1+ 1 3(2n+1)3 + 1
3(2n+1)5 + · · ·)
= (2n + α) · 1 2n + 1 +2(n + α) · 1
3 1
(2n + 1)3 · 1 1 − (2n+1)1 2
= 2n + 2α
2n + 1 (1 + 1 12(n2+ n))
= (2n + 2α)(12n2+ 12n + 1) (2n + 1)(12n2+ 12n)
分母= 24n3 + 36n2+ 12n, 分子= 24n3 + (24 + 24α)n2+ (2 + 24α)n + 2α, 分母−分 子= (12 − 24α)n2+ (10 − 24α)n − 2α。
今因 α < 12, 故 12 − 24α > 0。 從而 只要 n 夠大, 則分母大於分子。 換言之, 只要 n 夠大,
(n + α) ln(n+ 1 n ) < 1 亦即
(1 + 1
n)n+α < e
於是 (xn) 終究遞增, 故 lim xn = b 存在 且 0 < b ≤ ∞。 如果 0 < b < ∞, 同樣由 Wallis 公式會得到一個矛盾。 只好 b = ∞, 即 lim
n→∞xn = ∞。
推論: (i) lim
n→∞
n!
nne−nln n = ∞ (ii) lim
n→∞
n!
nne−n√n(1+12n1 )=√ 2π 將上述追尋 n! 的歷程圖解如下:
n!
(ne)n (ne)nnα (ne)n√n (ne)nnα (ne)nn (n2)n nn α<1
2 α>1
2
(3) (7) (5) (6) (4) (2) (1)
低估 高估
經過這麼辛苦的試誤、 計算過程, 終於 得到美麗的 Stirling 公式, 這是令人欣喜的 事。 唯有經過這樣的辛苦, 我們對這個公式才 真正有感覺 (feeling), 甚至有感情。 數學公 式不再是冰冷的, 而是可親的。
如果將做數學比喻為登一座高山, 那麼 現代人大多是利用現代化的交通工具直接登
到山頂 (相當於直接給出公式、 定理), 然後就 指看剛才的登山路徑 (即給出邏輯證明), 接 著是欣賞風景 (應用公式來解一些問題)。 但 是我們要指明, 如果沒有經歷一步一步登山 的流汗, 沒有親自感受花草的芳香與泥土的 味道, 甚至嚐到偶爾的迷路, 即使到了山頂也 是不容易領會美景的。
丁. 初步否定常識性的機率概 念
現在我們要利用 Stirling 公式來探討機 率之謎 (the enigma of probability)。 首先 觀察到一個顯然的
補題6: 設 (an), (bn), (cn) 及 (dn) 皆 為正項數列且 lim
n→∞
an
bn = l。 若 an ∼ cn 且 bn ∼ dn 則 lim
n→∞
cn
dn = l。
接著計算“丟 2n 次銅板恰好出現 n 次 正面”的機率 p2n 在 n → ∞ 的極限
n→∞lim p2n = lim
n→∞
(2n)!
22nn!n!
= lim
n→∞
√2π2n(2n)2ne−2n 22n2π n n2ne−2n
= lim
n→∞
√1π n = 0
定理3: lim
n→∞p2n = 0。
因此, 當 n → ∞ 時, p2n 不但不如原 先料想的趨近於 1 (即鐵定發生), 反而是趨 近於 0 (即不可能發生)。 這警告我們, 機率 的解釋要很小心。
常識性的說法 :“丟很多次銅板, 正面大 約佔一半。”如果將“大約佔一半”, 解釋為“恰
好是一半”的點式推估說法, 顯然是不對的。
如何修正呢? 自然想到的是改用區間式推估 的說法 (用手海底撈針不成, 就改用網子來 撈)。
為了敘述方便起見, 我們引入隨機變 數 (random variable) 的概念。 對於 k = 1, 2, 3, · · ·, 令隨機變數
ξk=
(1, 若第k次丟銅板得到正面 0, 若第k次丟銅板得到反面 再令
Sn= ξ1+ ξ2+ · · · + ξn
這也是一個隨機變數, 定義在某個機率空間 (Ω, F, P ) 上, 代表丟 n 次銅板中, 正面 出現次數之隨機變數, 它具有二項分佈。 於 是“S2n = n”就表示丟 2n 次銅板正面恰好 出現 n 次的事件, 其機率記為 P (S2n = n)。
因此定理 3 是說 lim
n→∞P(S2n = n) = 0。
進一步我們猜想:S2n 落在 n 的近旁之 機率應該會大起來吧? 也許這是“正面大約佔 一半”更貼切的解釋。 精確的計算是探求隱晦 奧秘的不二法門, 讓我們就來算算看。 令 a >
0 為一個固定數, 那麼
P (n − a≤S2n≤n + a)=
n+a
X
k=n−a
2nCk· 1 22n
∼ 2a
√πn → 0, 當n → ∞時。
因此我們又得到一個不出所料的結果:
定理4: 對任意固定數 a >0,
n→∞lim P(|S2n− n| ≤ a) = 0。
換言之, 以 n 為中心, 左右之長皆為 a 之區間, 還是沒有網住任何機率!
另外, 將偶數 2n 改為奇數 2n + 1, 定 理 4 仍然成立。 因為當 n → ∞ 時, 相應項 的比值為
2n+1Ck 1 22n+1 2nCk 1
22n
= 2n + 1 2n + 1 − k ·1
2 → 1 2 所以 P (−a ≤ S2n+1− 2n + 1
2 ≤ a)
=
a+2n+12
X
k=−a+2n+12
2n+1Ck
1 22n+1
∼ 1 2
a+2n+12
X
k=−a+2n+12
2nCk
1 22n → 0
所以得到
定理5: 對任意有限正數 a, 恆有
n→∞lim P(−a ≤ S2n+1− 2n + 1
2 ≤ a) = 0 將上述定理 4 與定理5歸結起來就得到:
定理6: 對任意有限正數 a, 恆有
n→∞lim P(−a ≤ Sn− n
2 ≤ a) = 0。
這是一個令人驚異的結果, 但也令人失 望! 邏輯的悶棍把常識觀點打得眼冒金星。 用 任何有限區間 [−a, a] 來網住 Sn− n2 所散 佈之機率, 當 n → ∞ 時, 根本沒有網到任 何機率, 機率全部流失掉! 換言之, 丟 n 次銅 板, 出現正面的次數, 落在包含 n2 的任何有 限區間的機會, 當 n 很大時, 微乎其微。
什麼是機率? 它仍然是“雲深不知處”!
James Bernoulli (1654-1705) 積 20 年的辛苦工作終於得到突破性的發現:
定理7: (Bernoulli 的弱大數法則, 1713) 對任意 ε > 0, lim
n→∞P(|Snn − 12| ≤ ε) = 1。
註記: 1. 從外形看起來, Stirling 公式 並不漂亮, 但卻很多用途, 它是揭開許多深刻 奧秘的鑰匙。 在研究二項分佈的性質時, De Moivre 最先得到這個公式 (1718 年); 後來 James Stirling 在 1730 年又重新得到它。
在數學中有許多定理所掛的名字往往不是第 一個發現者, 此地是一個例子。
2. 從前楊維哲教授上機率論課, 曾要求 學生獨立地去追尋 Stirling 公式, 本文算是 一個回應。
3. n! 的連續化就是 Gamma 函數, 內 容精彩豐富, 這是 Euler 的貢獻。
參考文獻
1. M. I. Aissen, Some remarks on Stirling formula, A. M. M. 61 (1954), 687-691.
2. H. Robbins, A remark on Stirling’s for- mula, A. M. M. 62 (1955), 26-29.
3. W. Feller, A direct proof of stir- ling’s formula, A. M. M. 74 (1967), 1223- 1225.
4. R. A. Khan, A probabilistic proof of Stirling’s formula, A. M. M. 81 (1974), 366-369.
5. C. S. Wong, A note on the central limit theorem, A. M. M. 84 (1977), 472.
6. C. R. Blyth and P. K. Pathak, A note on easy proofs of Stirling’s formula, A.
M. M. 93 (1986), 376-379.
7. P. Diaconis and D. Freedman, An ele- mentary proof of Stirling’s formula, A.
M. M. 93 (1986), 123-125.
8. J. M. Patin, A very short proof of Stir- ling’s formula, A. M. M. 96 (1989), 41- 42.
9. G. Marsaglia and J. C. W. Marsaglia, A new derivation of Stirling Approxi- mation to n!, A. M. M. 97 (1990), 826-
829.
—本文作者任教於台灣大學數學系—