収束

黒木玄

2018-04-18

このファイルは次の場所できれいに閲覧できる:

このファイルは Julia Box で利用できる.

自分のパソコンにJulia言語をインストールしたい場合には

を参照せよ.

論理的に完璧な説明をするつもりはない. 細部のいい加減な部分は自分で訂正・修正せよ.

$ \newcommand\eps{\varepsilon} \newcommand\ds{\displaystyle} \newcommand\R{{\mathbb R}} \newcommand\C{{\mathbb C}} \newcommand\QED{\text{□}} \newcommand\root{\sqrt} $

In [1]:
using Plots
gr(); ENV["PLOTS_TEST"] = "true"
#clibrary(:colorcet)
clibrary(:misc)

function pngplot(P...; kwargs...)
    sleep(0.1)
    pngfile = tempname() * ".png"
    savefig(plot(P...; kwargs...), pngfile)
    showimg("image/png", pngfile)
end
pngplot(; kwargs...) = pngplot(plot!(; kwargs...))

showimg(mime, fn) = open(fn) do f
    base64 = base64encode(f)
    display("text/html", """<img src="data:$mime;base64,$base64">""")
end

using SymPy
#sympy[:init_printing](order="lex") # default
#sympy[:init_printing](order="rev-lex")

using SpecialFunctions
using QuadGK

収束

収束の定義

数列の収束の定義

数列 $a_n$ が $n\to\infty$ で $\alpha$ に収束するとは, 任意の $\eps>0$ に対して, ある番号 $N$ が存在して, $N$ 以降のすべての番号 $n$ について $|a_n - \alpha| < \eps$ が成立することである.

$a_n$ が $\alpha$ に収束するとき, $a_n$ の極限の値を $\displaystyle \lim_{n\to\infty} a_n = \alpha$ と定義する. 収束しないときには極限の値は定義されない.

級数の収束の定義

(無限)級数 $\ds\sum_{n=1}^\infty a_n$ の収束は数列 $\ds s_n = \sum_{k=1}^n a_k$ の収束で定義される. 収束するとき $\ds \sum_{n=1}^\infty a_n = \lim_{n\to\infty} \sum_{k=1}^n a_k$ と書く.

函数の値の収束の定義

函数の $x$ における値 $f(x)$ が $x\to a$ で $\alpha$ に収束するとは, 任意の $\eps>0$ に対して, ある $\delta > 0$ が存在して, $0<|x-a|<\delta$ を満たすすべての $x$ について $|f(x)-\alpha|<\eps$ が成立することである.

$f(x)$ が $x\to a$ で $\alpha$ に収束するとき, その極限の値を $\displaystyle \lim_{x\to a} f(x) = \alpha$ と定義する. 収束しないときには極限の値は定義されない.

注意: 上の定義における $|f(x)-\alpha|<\eps$ を $|f(x)-\alpha|\leqq\eps$ に置き換えても同値な条件になる. $\QED$

問題: これはなぜか? $\QED$

収束の判定法の基本

はさみうち

定理: $A_n \leqq a_n \leqq B_n$ でかつ $A_n$ と $B_n$ が $\alpha$ に収束するならば $a_n$ も $\alpha$ に収束する. $\QED$

定理: $A_n \leqq a_n$ でかつ $A_n\to\infty$ ならば $a_n\to\infty$ となる. $\QED$

二項定理の復習

二項係数を

$$ \binom{n}{k} = \frac{n(n-1)\cdots(n-k+1)}{k!} $$

と定義する. 例えば

$$ \binom{n}{0} = 1, \quad \binom{n}{1} = n, \quad \binom{n}{2} = \frac{n(n-1)}{2}, \quad \binom{n}{3} = \frac{n(n-1)(n-2)}{6}. $$

$n$ も $k$ も非負の整数のとき $\binom{n}{k}$ は $n$ 個から $k$ 個選び出すときの場合の数に一致している. 高校数学では ${}_nC_k$ のように書いているようだが, 一般には $\binom{n}{k}$ と書くことの方が多いように感じられるので, $\binom{n}{k}$ の方を使用する. (上の定義に従えば, $k$ が非負の整数でありさえすれば, $n$ が整数でなくても $\binom{n}{k}$ が定義されていることに注意せよ. この事実は二項展開を考えるときに必要になる.)

以上の記号法のもとで, 二項定理は

$$ (x+y)^n = \sum_{k=0}^n \binom{n}{k} x^{n-k}y^k \tag{$*$} $$

と書ける. 高校数学で証明を習っているはずだが, 忘れている人は二項定理を証明しておくこと.

考え方: 解析学では不等式を扱いたい. しかし, 二項定理のような良い等式は良い不等式を生み出すために非常に役に立つ. 解析学では非自明な等式は非自明な不等式を作る材料になる. 次の節の証明を見よ!

二項定理の証明1: $(x+y)^n$ を展開した結果の $x^{n-k}y^k$ の係数は $n-k$ 個の $x$ と $k$ 個の $y$ の並べ方の個数に等しい. その個数は全部で $n$ 個並べるうち $y$ を置く $k$ 個の場所の選び方の個数に等しい. それは

$$ \frac{n!}{k!(n-k)!} = \binom{n}{k} $$

に等しい. $\QED$

二項定理の証明2: $n$ に関する帰納法を使う. $n=0$ の場合に($*$)は成立している. ($*$)が $n$ について成立していると仮定する. そのとき, $k$ が負の整数のとき $\binom{n}{k}=0$ と約束しておくと,

$$ \begin{aligned} \binom{n}{k-1} + \binom{n}{k} &= \frac{n(n-1)\cdots(n-k+2)}{(k-1)!} + \frac{n(n-1)\cdots(n-k+2)(n-k+1)}{k!} \\ &= \frac{n(n-1)\cdots(n-k+2)}{k!}\times(k+(n-k+1)) \\ &= \frac{n(n-1)\cdots(n-k+2)}{k!}\times(n+1) \\ &= \binom{n+1}{k}. \end{aligned} $$

ゆえに $n$ に関する($*$)を使うと,

$$ \begin{aligned} (x+y)^{n+1} &= (x+y)(x+y)^n = (x+y)\sum_{k=0}^n \binom{n}{k}x^{n-k}y^k \\ &= \sum_{k=0}^n \binom{n}{k}x^{n-k+1}y^k + \sum_{k=0}^n \binom{n}{k}x^{n-k}y^{k+1} \\ &= \sum_{k=0}^{n+1} \binom{n}{k}x^{n-k+1}y^k + \sum_{k=0}^{n+1} \binom{n}{k-1}x^{n-k+1}y^k \\ &= \sum_{k=0}^{n+1} \left(\binom{n}{k}+\binom{n}{k-1}\right)x^{n-k+1}y^k \\ &= \sum_{k=0}^{n+1} \binom{n+1}{k}x^{n-k+1}y^k \end{aligned} $$

と $n$ を $n+1$ で置き換えた場合の($*$)も成立することがわかる. これで示すべきことが示された. $\QED$

多項式函数より指数函数の方が速く増加すること

定理: $a>1$ ならば $n\to\infty$ のとき $\ds\frac{n^l}{a^n}\to 0$. $\QED$

証明: 二項定理を使う.

$L$ は $l$ より大きな正の整数であるとし, $n$ は $L$ 以上であると仮定する.

そのとき特に $n\to\infty$ のとき $n^l/n^L\to 0$ が成立している.

$a>1$ なので $a=1+\alpha$, $\alpha>0$ と書ける. 二項定理より

$$ \begin{aligned} a^n &= (1+\alpha)^n = \sum_{k=0}^n \binom{n}{k}\alpha^k = \sum_{k=0}^n \frac{n(n-1)\cdots(n-k+1)}{k!}\alpha^2 \\ &\geqq \frac{n(n-1)\cdots(n-L+1)}{L!}\alpha^L = n^L\frac{(1-1/n)\cdots(1-(L-1)/n)\alpha^L}{L!}. \end{aligned} $$

ゆえに, $n\to\infty$ のとき

$$ 0\leqq\frac{n^l}{a^n} \leqq \frac{n^l}{n^L}\times\frac{L!}{(1-1/n)\cdots(1-(L-1)/n)\alpha^L} \to 0\times\frac{L!}{\alpha^L} = 0. \qquad\QED $$

問題: $a=1.01$, $l=100$ のとき, $n^l$ と $a^n$ の大きさを比較するためのグラフを描いてみよ.

解答例: 直接 $n^l$ と $a^n$ を扱うと数値が巨大になり過ぎるので, それらの対数を比較することにする.

In [2]:
a = 1.01
l = 100
n = 1:10^3:2*10^5
f(n) = l*log(n)
g(n) = n*log(a)
plot(size=(500, 350), legend=:topleft, xlabel="n")
plot!(n, f.(n), label="$l*log(n)")
plot!(n, g.(n), label="n*log($a)")
Out[2]:
2.50×10 4 5.00×10 4 7.50×10 4 1.00×10 5 1.25×10 5 1.50×10 5 1.75×10 5 0 500 1000 1500 n 100*log(n) n*log(1.01)

問題: $a>1$ ならば, $x>0$ が連続的に幾らでも大きくなるとき $\ds\frac{x^l}{a^x}\to 0$ となることを示せ.

証明: 正の整数 $n$ について $n\leqq x \leqq n+1$ のとき, $x^l$ は $n^l$ と $(n+1)^l$ のあいだにあり, $a^x$ は $a^n$ 以上になる. ゆえに, $x\to\infty$ のとき, $n\to\infty$ となり,

$$ 0\leqq \frac{x^l}{a^x} \leqq \frac{\max\{n^l, (n+1)^l\}}{a^n} \leqq \max\left\{ \frac{n^l}{a^n},\; a\frac{(n+1)^l}{a^{n+1}}\right\} \to 0. $$

最後に上の方の定理を使った. これで示すべきことが示された. $\QED$

問題: $x>0$ について, $x\to 0$ のとき $x\log x\to 0$ となることを示せ.

証明: $x>0$ なので $x=e^{-t}$, $t\in\R$ と書ける. $x\to 0$ のとき $t\to\infty$ となるので,

$$ x\log x = e^{-t}\log e^{-t} = -\frac{t}{e^t} \to 0. $$

最後の上の問題の結果を使った. $\QED$

注意: 統計学に出て来る計算では $0\log 0 = 0$ と約束しておくことが適切な場合が多い. $\QED$

In [3]:
f(x) = x*log(x)
x = 0.001:0.001:1
plot(x, f.(x), xlim=(-0.1,1), ylim=(-0.4,0), label="y = x log x", legend=:top)
Out[3]:
0.00 0.25 0.50 0.75 1.00 -0.4 -0.3 -0.2 -0.1 0.0 y = x log x

指数函数より階乗の方が速く増加すること

定理: $a>0$ と仮定する. そのとき $n\to\infty$ ならば $\ds\frac{a^n}{n!}\to 0$ が成立する.

証明: $N$ を十分大きくすると $\ds\frac{a}{N+1}<1$ となる. そして, $n>N$ とすると,

$$ \frac{a^n}{n!} = \frac{a^N}{N!}\frac{a}{N+1}\frac{a}{N+2}\cdots\frac{a}{n} \leqq \frac{a^N}{N!}\left(\frac{a}{N+1}\right)^{n-N} \to 0 \quad(n\to\infty). \quad \QED $$

問題: $a>1$ と仮定する. そのとき $n\to\infty$ ならば $\ds\frac{n!}{a^{n^2}}\to 0$ が成立することを示せ.

解答例: 指数函数は多項式函数より速く増加するので $\ds\frac{n}{a^n}\to 0$. ゆえにある番号 $N$ が存在して $n>N$ ならば $\frac{n}{a^n} \geqq \frac{1}{2}$ となる. したがって, $n>N$ のとき,

$$ \frac{n!}{a^{n^2}} = \frac{n!}{(a^n)n} = \frac{N!}{(a^n)^N}\frac{N+1}{a^n}\frac{N+2}{a^n}\cdots\frac{n}{a^n} \leqq \frac{N!}{(a^N)^n}\left(\frac{1}{2}\right)^{n-N} \to 0 \quad (n\to\infty). \quad \QED $$

まとめ

$n\to\infty$ のとき $\ds\frac{a_n}{b_n}\to 0$ となることを $a_n\prec b_n$ と書くことにする. $a>1$ のとき

$$ 1 \prec \cdots \prec \log\log n \prec \log n \prec n \prec n^2 \prec\cdots\prec a^n \prec n! \prec a^{n^2}\prec\cdots $$

右に行くほど $n\to\infty$ で速く増加する.

例: Stirlingの近似公式より,

$$ n! = n^n \frac{1}{e^n} \sqrt{n}\;\sqrt{2\pi}\;(1+\eps_n) \quad (\eps_n\to 0) $$

が成立することが知られている. 右辺に登場する $n^n$, $e^n$, $\sqrt{n}$, $\sqrt{2\pi}$ は左のものほど $n\to\infty$ で速く増加する.

$\delta_n=\log(1+\eps_n)$ とおき, Stirlingの近似公式の両辺の対数を取ると,

$$ \log n! = n\log n - n + \frac{1}{2}\log n + \frac{1}{2}\log 2\pi + \delta_n \quad (\delta_n\to 0). $$

右辺に登場する $n\log n$, $n$, $\ds\frac{1}{2}\log n$, $\ds\frac{1}{2}\log\sqrt{2\pi}$, $\delta_n$ は左のものほど $n\to\infty$ で速く増加する. $\QED$

次のセルで $\log n!$ がどのように近似されるかをプロットしよう.

In [4]:
lfact(n) = lgamma(n+1) # = log n!
f1(n) = n*log(n)
f2(n) = n*log(n) - n
f3(n) = n*log(n) - n + 0.5*log(n)
f4(n) = n*log(n) - n + 0.5*log(n) + 0.5*log(2π)

function plot_logfactorial(n)
    plot(legend=:topleft)
    plot!(n, lfact.(n), label="log n!", lw=1.5)
    plot!(n, f1.(n), label="n log n", ls=:dash)
    plot!(n, f2.(n), label="n log n - n", ls=:dash)
    plot!(n, f3.(n), label="n log n - n + 0.5 log n", ls=:dash)
    plot!(n, f4.(n), label="n log n - n + (1/2)log n + (1/2)log 2pi", color=:red, ls=:dash)
end
Out[4]:
plot_logfactorial (generic function with 1 method)
In [5]:
plot_logfactorial(1:20)
Out[5]:
5 10 15 20 0 10 20 30 40 50 log n! n log n n log n - n n log n - n + 0.5 log n n log n - n + (1/2)log n + (1/2)log 2pi
In [6]:
plot_logfactorial(10:10:1000)
Out[6]:
200 400 600 800 1000 1000 2000 3000 4000 5000 6000 log n! n log n n log n - n n log n - n + 0.5 log n n log n - n + (1/2)log n + (1/2)log 2pi
In [7]:
plot_logfactorial(10^16:10^16:10^18)
Out[7]:
2×10 17 4×10 17 6×10 17 8×10 17 1×10 18 1×10 19 2×10 19 3×10 19 4×10 19 log n! n log n n log n - n n log n - n + 0.5 log n n log n - n + (1/2)log n + (1/2)log 2pi

すぐ上のプロットを見れば, $n$ がこのように極めて大きな値であれば $\log n!$ の $\log n^n = n\log n$ による近似もそう悪くないことがわかる.