Ciągi i ich granice

Streszczenie

Pełna teoria granicy ciągu: definicja epsilon-N, ograniczoność, jednoznaczność i arytmetyka granic, twierdzenie o trzech ciągach, zbieżność ciągów monotonicznych, liczba e, podciągi i twierdzenie Bolzana-Weierstrassa, granice niewłaściwe oraz zbieżność ciągów wektorowych po współrzędnych. Każde twierdzenie z dowodem i osobnym rysunkiem.

Granica ciągu to pierwsza prawdziwa idea analizy — moment, w którym z dyskretnej listy liczb wyłania się jedna wartość graniczna. Na tym pojęciu opiera się wszystko, co dalej: szeregi, granica funkcji, pochodna, całka. W tym rozdziale budujemy je starannie, od formalnej definicji epsilon-$N$, przez całą arytmetykę i najważniejsze twierdzenia (trzy ciągi, ciągi monotoniczne, Bolzano-Weierstrass), aż po ciągi wektorowe, którymi opiszemy zbieżność estymatorów w ekonometrii. Każde twierdzenie dostaje dowód i własny rysunek.

Ciąg i jego granica

Definicja
Ciąg liczbowy
Ciągiem (nieskończonym) liczb rzeczywistych nazywamy funkcję $a\colon\mathbb{N}\to\mathbb{R}$. Jej wartość w punkcie $n$ piszemy $a_n$ i nazywamy $n$-tym wyrazem, a cały ciąg oznaczamy $(a_n)_{n\ge 1}$. Ciąg to więc uporządkowana, ponumerowana lista liczb.
Wyrazy ciągu jako punkty nad osią numerów n
Ciąg $a_n=1+\tfrac{(-1)^n}{n}$ jako punkty nad kolejnymi $n$. Wyrazy skaczą wokół wartości $1$, ale amplituda skoków maleje — wzrokowo „celują” w jedną liczbę graniczną.

Sens dążenia do granicy.

Mówimy, że $a_n$ dąży do $g$, jeśli dla dowolnie ciasnego otoczenia liczby $g$ — pasa $(g-\varepsilon,\,g+\varepsilon)$ — prawie wszystkie wyrazy (wszystkie poza skończenie wieloma) wpadają do tego pasa. Im mniejsze $\varepsilon$ wybierzemy, tym dalej w ciągu musimy się cofnąć, ale zawsze od pewnego miejsca ciąg już z pasa nie wychodzi.

Definicja
Granica ciągu

Liczba $g$ jest granicą ciągu $(a_n)$, co piszemy $\lim_{n\to\infty} a_n = g$ lub $a_n\to g$, gdy

$$ \forall_{\varepsilon\gt 0}\;\exists_{N}\;\forall_{n\ge N}\;\; |a_n-g|\lt\varepsilon. $$

Ciąg mający (skończoną) granicę nazywamy zbieżnym; w przeciwnym razie — rozbieżnym.

Pas epsilon wokół granicy i wyrazy ciągu wpadające do niego od numeru N
Definicja epsilon-$N$: po wybraniu szerokości pasa $\varepsilon$ istnieje numer $N$, od którego wszystkie wyrazy leżą w pasie $(g-\varepsilon,g+\varepsilon)$. Wyrazy przed $N$ mogą być gdziekolwiek — liczy się tylko ogon ciągu.

Podstawowe własności granicy

Definicja
Ciąg ograniczony
Ciąg $(a_n)$ jest ograniczony, gdy istnieje $M\gt 0$ takie, że $|a_n|\le M$ dla wszystkich $n$ — wszystkie wyrazy mieszczą się w pasie $[-M,M]$.
Ciąg ograniczony zawarty między poziomami minus M i M
Ciąg ograniczony: cały wykres mieści się między poziomami $-M$ i $M$. Ograniczoność nie wymaga zbieżności — ciąg może oscylować, byle nie uciekał do nieskończoności.
Twierdzenie
Ciąg zbieżny jest ograniczony
Każdy ciąg zbieżny jest ograniczony. (Twierdzenie odwrotne jest fałszywe: $a_n=(-1)^n$ jest ograniczony, lecz rozbieżny.)
Dowód
Zbieżność pociąga ograniczoność
  1. Ustalmy „okno”. Niech $a_n\to g$. W definicji granicy bierzemy konkretne $\varepsilon=1$: istnieje $N$ takie, że dla $n\ge N$ zachodzi $|a_n-g|\lt 1$, skąd $|a_n|\lt |g|+1$.
  2. Ogon jest ograniczony. Wszystkie wyrazy od $N$ wzwyż leżą poniżej progu $|g|+1$.
  3. Początek też. Przed $N$ jest tylko **skończenie wiele** wyrazów $a_1,\dots,a_{N-1}$; ich wartości bezwzględne mają maksimum.
  4. Wspólne ograniczenie. Kładąc $$M=\max\big(|a_1|,\dots,|a_{N-1}|,\;|g|+1\big),$$ dostajemy $|a_n|\le M$ dla każdego $n$. Ciąg jest więc ograniczony. $\;$
Zbieżny ciąg ograniczony przez okno wokół granicy i maksimum początku
Dowód ograniczoności: od numeru $N$ wyrazy tkwią w pasie $(g-1,g+1)$, a skończony początek $a_1,\dots,a_{N-1}$ ma swoje maksimum. Bierzemy większy z tych progów — i cały ciąg jest ograniczony.
Twierdzenie
Jednoznaczność granicy
Ciąg może mieć co najwyżej jedną granicę.
Dowód
Granica jest jedyna
  1. Nie wprost. Przypuśćmy, że $a_n\to g$ oraz $a_n\to g'$ przy $g\ne g'$. Oznaczmy odległość $\delta=|g-g'|\gt 0$.
  2. Rozłączne pasy. Weźmy $\varepsilon=\delta/2$. Pasy $(g-\varepsilon,g+\varepsilon)$ i $(g'-\varepsilon,g'+\varepsilon)$ są **rozłączne** — ich środki dzieli $\delta=2\varepsilon$.
  3. Sprzeczność. Z $a_n\to g$ istnieje $N_1$, od którego wyrazy są w pierwszym pasie; z $a_n\to g'$ istnieje $N_2$, od którego są w drugim. Dla $n\ge\max(N_1,N_2)$ wyraz $a_n$ musiałby być jednocześnie w obu rozłącznych pasach — to niemożliwe.
  4. Wniosek. Założenie $g\ne g'$ prowadzi do sprzeczności, więc granica jest jedyna. $\;$
Dwa rozłączne pasy wokół dwóch kandydatek na granicę
Dlaczego granica jest jedna: dwie różne kandydatki $g\ne g'$ otaczamy rozłącznymi pasami o szerokości $\varepsilon=\tfrac{|g-g'|}{2}$. Ogon ciągu musiałby leżeć w obu naraz — co jest niemożliwe.

Arytmetyka granic

Twierdzenie
Działania na granicach

Jeśli $a_n\to a$ oraz $b_n\to b$, to

$$ a_n+b_n\to a+b,\quad a_n b_n\to ab,\quad \frac{a_n}{b_n}\to\frac{a}{b}\ (b\ne 0). $$

Granica zachowuje się więc „przezroczyście” względem czterech działań.

Dowód
Granica sumy (wzorzec dla pozostałych)
  1. Cel. Pokazać, że $(a_n+b_n)\to a+b$, czyli oszacować $|(a_n+b_n)-(a+b)|$.
  2. Nierówność trójkąta. $$|(a_n+b_n)-(a+b)| = |(a_n-a)+(b_n-b)| \le |a_n-a|+|b_n-b|.$$
  3. Dobór $N$. Ustalmy $\varepsilon\gt 0$. Ze zbieżności istnieje $N_1$ z $|a_n-a|\lt\varepsilon/2$ dla $n\ge N_1$ oraz $N_2$ z $|b_n-b|\lt\varepsilon/2$ dla $n\ge N_2$.
  4. Złożenie. Dla $n\ge\max(N_1,N_2)$ obie składowe są mniejsze od $\varepsilon/2$, więc suma jest mniejsza od $\varepsilon$. To dowodzi $(a_n+b_n)\to a+b$. Dowody dla iloczynu i ilorazu są analogiczne, choć wymagają wcześniejszej ograniczoności ciągów. $\;$
Suma dwóch zbieżnych ciągów zbiega do sumy granic
Granica sumy: skoro $a_n\to a$ i $b_n\to b$, to suma $a_n+b_n$ zbiega do $a+b$. Błąd sumy nie przekracza sumy błędów (nierówność trójkąta), więc dzieląc $\varepsilon$ na pół, panujemy nad obiema składowymi.
Twierdzenie
Twierdzenie o trzech ciągach
Jeżeli od pewnego miejsca $a_n\le b_n\le c_n$ oraz $a_n\to g$ i $c_n\to g$ (ta sama granica), to także $b_n\to g$.
Dowód
Twierdzenie o trzech ciągach (o zaciśnięciu)
  1. Ustalmy $\varepsilon$. Z $a_n\to g$ istnieje $N_1$ z $g-\varepsilon\lt a_n$ dla $n\ge N_1$; z $c_n\to g$ istnieje $N_2$ z $c_n\lt g+\varepsilon$ dla $n\ge N_2$.
  2. Zaciśnięcie. Dla $n\ge\max(N_1,N_2,N_0)$ (gdzie $N_0$ to miejsce, od którego zachodzi nierówność między ciągami) mamy $$g-\varepsilon\lt a_n\le b_n\le c_n\lt g+\varepsilon.$$
  3. Wniosek. Zatem $|b_n-g|\lt\varepsilon$ dla dostatecznie dużych $n$, czyli $b_n\to g$. Środkowy ciąg zostaje „przyciśnięty” do wspólnej granicy skrajnych. $\;$
Środkowy ciąg ściśnięty między dwoma zbiegającymi do wspólnej granicy
Twierdzenie o trzech ciągach: ciąg $b_n$ uwięziony między $a_n$ i $c_n$, które zbiegają do tej samej granicy $g$, nie ma dokąd uciec — musi też dążyć do $g$.

Ciągi monotoniczne i liczba e

Definicja
Ciąg monotoniczny
Ciąg $(a_n)$ jest rosnący, gdy $a_n\le a_{n+1}$ dla każdego $n$, oraz malejący, gdy $a_n\ge a_{n+1}$. Ciągi rosnące lub malejące nazywamy monotonicznymi.
Twierdzenie
O ciągu monotonicznym i ograniczonym
Każdy ciąg rosnący i ograniczony z góry jest zbieżny, a jego granicą jest kres górny zbioru wyrazów. (Symetrycznie: malejący i ograniczony z dołu zbiega do kresu dolnego.)
Dowód
Monotoniczność + ograniczoność = zbieżność
  1. Istnienie kresu. Zbiór wartości $\{a_n:n\in\mathbb{N}\}$ jest niepusty i ograniczony z góry, więc na mocy **zupełności** $\mathbb{R}$ ma kres górny $g=\sup_n a_n$.
  2. Kres jest „prawie osiągany”. Ustalmy $\varepsilon\gt 0$. Liczba $g-\varepsilon$ nie jest ograniczeniem górnym (bo $g$ jest **najmniejszym**), więc istnieje wyraz $a_N\gt g-\varepsilon$.
  3. Monotoniczność domyka argument. Dla $n\ge N$ z rosnącości $a_n\ge a_N\gt g-\varepsilon$, a z definicji kresu $a_n\le g\lt g+\varepsilon$. Łącznie $g-\varepsilon\lt a_n\le g$.
  4. Wniosek. Zatem $|a_n-g|\lt\varepsilon$ dla $n\ge N$, czyli $a_n\to g=\sup_n a_n$. $\;$
Ciąg rosnący zbiegający do swojego kresu górnego
Ciąg rosnący ograniczony z góry pełznie ku swojemu kresowi górnemu $g=\sup a_n$. Dla każdego $\varepsilon$ któryś wyraz przekracza $g-\varepsilon$, a dalsze — z monotoniczności — już z pasa nie wychodzą.
Przykład
Liczba $e$ jako granica

Ciąg $a_n=\left(1+\tfrac1n\right)^n$ jest rosnący i ograniczony z góry (np. przez $3$), więc na mocy poprzedniego twierdzenia jest zbieżny. Jego granicę nazywamy liczbą Eulera:

$$ e=\lim_{n\to\infty}\left(1+\frac1n\right)^n \approx 2{,}71828. $$

To podstawa logarytmu naturalnego i fundament modeli wzrostu wykładniczego oraz kapitalizacji ciągłej.

Ciąg jeden plus jeden przez n do potęgi n zbiegający do liczby e
Ciąg $\left(1+\tfrac1n\right)^n$ rośnie i zbliża się do poziomej asymptoty $y=e\approx 2{,}718$. Już dla $n=20$ jest blisko granicy — choć zbieżność jest dość powolna.

Podciągi i twierdzenie Bolzana-Weierstrassa

Definicja
Podciąg
Podciągiem ciągu $(a_n)$ nazywamy ciąg $(a_{n_k})_{k\ge 1}$, gdzie $n_1\lt n_2\lt n_3\lt\cdots$ jest ściśle rosnącym ciągiem numerów. Wybieramy więc nieskończenie wiele wyrazów, zachowując ich kolejność.
Podciąg wybrany z ciągu naprzemiennego, dwa różne podciągi zbieżne
Podciąg powstaje przez wybór nieskończenie wielu wyrazów (zaznaczone na czarno) z zachowaniem kolejności. Ciąg $(-1)^n$ jest rozbieżny, lecz ma dwa zbieżne podciągi: wyrazy parzyste ($\to 1$) i nieparzyste ($\to -1$).
Twierdzenie
Twierdzenie Bolzana-Weierstrassa
Każdy ograniczony ciąg liczb rzeczywistych ma podciąg zbieżny.
Dowód
Metoda połowienia przedziału
  1. Start. Ciąg jest ograniczony, więc wszystkie wyrazy leżą w pewnym przedziale $[a,b]$.
  2. Połowienie. Dzielimy $[a,b]$ na połowy. Przynajmniej jedna z nich zawiera **nieskończenie wiele** wyrazów ciągu — wybieramy ją i nazywamy $[a_1,b_1]$. Powtarzając, otrzymujemy zstępujący ciąg przedziałów $[a_k,b_k]$, każdy o długości $\tfrac{b-a}{2^k}$, każdy z nieskończenie wieloma wyrazami.
  3. Wybór podciągu. Z $[a_1,b_1]$ bierzemy jakiś wyraz $a_{n_1}$, z $[a_2,b_2]$ — wyraz $a_{n_2}$ o numerze $n_2\gt n_1$ (możliwe, bo wyrazów jest nieskończenie wiele), i tak dalej. Dostajemy podciąg $(a_{n_k})$ z $a_{n_k}\in[a_k,b_k]$.
  4. Zbieżność. Przedziały zstępują i ich długości dążą do zera, więc ich wspólny punkt $g$ jest jeden (zupełność), a $|a_{n_k}-g|\le \tfrac{b-a}{2^k}\to 0$. Zatem $a_{n_k}\to g$. $\;$
Kolejne połowienia przedziału zagnieżdżające się wokół granicy podciągu
Dowód Bolzana-Weierstrassa: wielokrotnie połowimy przedział, za każdym razem wybierając tę połowę, w której zostało nieskończenie wiele wyrazów. Zagnieżdżone przedziały kurczą się do jednego punktu — granicy podciągu.

Granice niewłaściwe i ważne przykłady

Definicja
Granica niewłaściwa

Mówimy, że $a_n\to+\infty$, gdy ciąg przerasta każdy próg:

$$ \forall_{M}\;\exists_{N}\;\forall_{n\ge N}\; a_n\gt M. $$

Analogicznie definiujemy $a_n\to-\infty$. Są to granice niewłaściwe — ciąg pozostaje rozbieżny, lecz w uporządkowany sposób.

Ciąg rozbieżny do plus nieskończoności przekraczający każdy próg
Granica niewłaściwa $a_n\to+\infty$: niezależnie jak wysoko ustawimy poprzeczkę $M$, ciąg od pewnego miejsca trwale ją przekracza. Wykres ucieka w górę bez ograniczenia.
Przykład
Ciąg geometryczny

Dla $a_n=q^n$ zachowanie zależy od $|q|$:

$$ q^n\to\begin{cases}0,& |q|\lt 1,\\ 1,& q=1,\\ +\infty,& q\gt 1,\end{cases} $$

a dla $q\le -1$ ciąg jest rozbieżny bez granicy (oscyluje). To najważniejszy ciąg w teorii szeregów i w modelach z dyskontowaniem (czynnik $q=\tfrac{1}{1+r}$).

Ciągi geometryczne dla różnych podstaw q
Ciąg geometryczny $q^n$: dla $|q| \lt 1$ wygasa do zera (tu $q=0{,}7$), dla $q=1$ stoi w miejscu, a dla $q \gt 1$ rośnie nieograniczenie (tu $q=1{,}3$). Punkt $|q|=1$ rozdziela te reżimy.

Ciągi wektorowe

W $\mathbb{R}^k$ (np. wektor estymatorów parametrów modelu) zbieżność definiujemy przez normę — i okazuje się, że sprowadza się ona do zbieżności każdej współrzędnej z osobna.

Definicja
Zbieżność ciągu wektorowego
Ciąg wektorów $\mathbf{a}_n\in\mathbb{R}^k$ jest zbieżny do $\mathbf{g}$, gdy $\lVert \mathbf{a}_n-\mathbf{g}\rVert\to 0$, czyli odległość euklidesowa wyrazów od granicy maleje do zera.
Twierdzenie
Zbieżność po współrzędnych
Ciąg $\mathbf{a}_n=(a_n^{(1)},\dots,a_n^{(k)})$ jest zbieżny do $\mathbf{g}=(g^{(1)},\dots,g^{(k)})$ wtedy i tylko wtedy, gdy każda współrzędna zbiega: $a_n^{(i)}\to g^{(i)}$ dla $i=1,\dots,k$.
Dowód
Zbieżność wektorowa to zbieżność współrzędnych
  1. Podwójne oszacowanie normy. Dla każdej współrzędnej $i$ i każdego wektora $\mathbf{v}$ zachodzi $$|v^{(i)}|\le \lVert\mathbf{v}\rVert=\sqrt{\textstyle\sum_j (v^{(j)})^2}\le \sqrt{k}\,\max_j |v^{(j)}|.$$ Podstawmy $\mathbf{v}=\mathbf{a}_n-\mathbf{g}$.
  2. ($\Rightarrow$) Z wektorowej do współrzędnych. Jeśli $\lVert\mathbf{a}_n-\mathbf{g}\rVert\to 0$, to z lewej nierówności $|a_n^{(i)}-g^{(i)}|\le\lVert\mathbf{a}_n-\mathbf{g}\rVert\to 0$, więc każda współrzędna zbiega.
  3. ($\Leftarrow$) Ze współrzędnych do wektorowej. Jeśli każda współrzędna zbiega, to $\max_i|a_n^{(i)}-g^{(i)}|\to 0$, więc z prawej nierówności $\lVert\mathbf{a}_n-\mathbf{g}\rVert\le\sqrt{k}\,\max_i|a_n^{(i)}-g^{(i)}|\to 0$.
  4. Wniosek. Obie implikacje dają równoważność. Badanie zbieżności w $\mathbb{R}^k$ rozkłada się na $k$ niezależnych zadań jednowymiarowych. $\;$
Ciąg wektorów zbiegający do granicy z rzutami współrzędnych na osie
Ciąg wektorów na płaszczyźnie zbiega do $\mathbf{g}$ wtedy i tylko wtedy, gdy obie współrzędne zbiegają osobno. Rzuty na osie (szare) to dwa zwykłe ciągi liczbowe dążące do współrzędnych granicy.

Podsumowanie

Granica ciągu okazała się pojęciem o ostrej, sprawdzalnej definicji ($\varepsilon$-$N$), z której wszystko inne wynika na drodze dowodu, a nie z poglądowej obserwacji. Pokazaliśmy, że zbieżność pociąga ograniczoność i że granica jest jedyna; że granica jest przezroczysta dla działań (arytmetyka granic) i daje się „zacisnąć” (twierdzenie o trzech ciągach). Najmocniejszym narzędziem okazała się zupełność $\mathbb{R}$: dzięki niej każdy ciąg monotoniczny i ograniczony zbiega (skąd narodziła się liczba $e$), a każdy ciąg ograniczony ma podciąg zbieżny (Bolzano-Weierstrass) — fakt, na którym opiera się dowód istnienia ekstremów i wiele twierdzeń ekonometrii asymptotycznej. Wreszcie zbieżność wektorowa rozłożyła się na współrzędne, co pozwala badać granice estymatorów wielowymiarowych po jednej składowej. W następnym rozdziale od ciągów przejdziemy do szeregów — nieskończonych sum — oraz do ciągów i szeregów funkcyjnych.

Literatura uzupełniająca
  • G. M. Fichtenholz, Rachunek różniczkowy i całkowy, t. I
  • W. Rudin, Podstawy analizy matematycznej
  • W. Krysicki, L. Włodarski, Analiza matematyczna w zadaniach, t. I
Oprogramowanie
  • Python: [(1+1/n)**n for n in (10,100,1000)] — zbieżność do $e$
  • Python: numpy.linalg.norm(a_n - g) — zbieżność wektorowa
  • R: cumsum, sapply — eksperymenty z ciągami