Capítulo 10

Modos de Convergência

Até aqui, limites apareceram em diferentes formas. Em probabilidade, porém, dizer que $\xi _n$ se aproxima de $\xi $ ainda exige especificar o sentido da convergência. Este capítulo organiza e compara essas noções.

10.1 Duas convergências determinísticas

Antes de usar a probabilidade, recordemos duas noções de convergência de funções. Elas não dependem de medida alguma e servirão sobretudo como contraste para as convergências probabilísticas.

10.1.1 Convergência pontual

Seja $\Omega $ um conjunto e $\xi _n,\xi \colon \Omega \to \mathbb {R}$. Dizemos que $\xi _n$ converge pontualmente para $\xi $ se, para todo $x\in \Omega $,

\[ \xi _n(x)\longrightarrow \xi (x). \]

O índice a partir do qual $\xi _n(x)$ está próximo de $\xi (x)$ pode depender do ponto $x$.

10.1.2 Convergência uniforme

A distância uniforme entre duas funções $\xi $ e $\eta $ é

\[ \left\lVert \xi -\eta \right\rVert _u = \sup _{x\in \Omega }|\xi (x)-\eta (x)|, \]

com valor possivelmente infinito. Dizemos que $\xi _n$ converge uniformemente para $\xi $ se

\[ \left\lVert \xi _n-\xi \right\rVert _u\longrightarrow 0. \]

Agora um mesmo índice deve controlar simultaneamente todos os pontos do domínio. Em particular, convergência uniforme implica convergência pontual.

O exemplo seguinte separa as duas noções e reaparecerá, em espírito, nas convergências probabilísticas.

Exemplo 10.1

Em $[0,1]$, defina

\[ \xi _n(x)=\mathbb {1}_{(0,1/n)}(x). \]

Para cada $x$, temos $\xi _n(x)\to 0$, logo a convergência é pontual. Por outro lado,

\[ \left\lVert \xi _n\right\rVert _u=1 \]

para todo $n$; portanto a convergência não é uniforme.

A diferença entre as duas noções está na ordem dos quantificadores. A partir de agora, a medida de probabilidade permitirá uma terceira possibilidade: admitir conjuntos excepcionais e controlar o seu tamanho.

10.2 Convergência em Espaços de Probabilidade

Passamos agora às convergências que usam a estrutura mensurável e a probabilidade. O conjunto excepcional deixa de ser apenas um defeito: seu tamanho passa a fazer parte da definição.

10.2.1 Convergência em Distribuição

A convergência em distribuição é a mais fraca entre as que estudaremos. Ela compara apenas as leis de $\xi _n$ com a lei de $\xi $, por meio de suas funções de distribuição. O espaço amostral fica fora de cena: as variáveis nem sequer precisam estar definidas no mesmo espaço de probabilidade.

Definição 10.2 (Convergência em Distribuição)

Dizemos que $\xi _n$ converge em distribuição para $\xi $, e escrevemos $\xi _n\xrightarrow d\xi $, se

\[ F_{\xi _n}(x)\longrightarrow F_\xi (x) \]

para todo ponto de continuidade $x$ de $F_\xi $.

Exemplo 10.3

A restrição aos pontos de continuidade de $F_X$ é essencial. Considere $X_n\equiv 1/n$ e $X\equiv 0$ num mesmo espaço de probabilidade. Então $X_n\to X$ pontualmente, uniformemente, quase certamente, em probabilidade e em $L^p$, para todo $p\geq 1$.

As funções de distribuição são

\[ F_{X_n}(x)=\begin{cases} 0,& x\lt 1/n,\\ 1,& x\geq 1/n, \end{cases} \qquad F_X(x)=\begin{cases} 0,& x\lt 0,\\ 1,& x\geq 0. \end{cases} \]

Para $x\neq 0$, temos $F_{X_n}(x)\to F_X(x)$, enquanto $F_{X_n}(0)=0\not\to 1=F_X(0)$. Como $0$ é precisamente o ponto de descontinuidade de $F_X$, ainda assim $X_n\xrightarrow d0$.

Ao trabalhar com variáveis aleatórias que tomam valores inteiros, o seguinte teorema é frequentemente útil.

Teorema 10.4

Se $\xi _n$ e $\xi $ tomam valores em $\mathbb {N}_0$, então $\xi _n\xrightarrow d\xi $ se e somente se

\[ \P (\xi _n=k)\longrightarrow \P (\xi =k), \qquad k=0,1,2,\ldots . \]

Demonstração ▼

Como $\xi $ toma valores inteiros, sua função de distribuição $F_\xi $ é contínua em todo $x\in \mathbb {R}\setminus \{ 0,1,2,\ldots \} $. Se $\xi _n\xrightarrow d\xi $, então

\begin{align*} \lim _{n\to \infty }F_{\xi _n}(x)=F_\xi (x), \qquad x\in \mathbb {R}\setminus \{ 0,1,2,\ldots \} . \end{align*}

Assim, para $k = 0,1,2, \cdots $, temos

\begin{align*} \lim _{n\to \infty }\P (\xi _n=k) & = \lim _{n\to \infty } \left[F_{\xi _n}\left(k + \frac12\right) - F_{\xi _n}\left(k- \frac12\right) \right] \\ & = \lim _{n \rightarrow \infty } F_{\xi _n} \left(k + \frac{1}{2} \right) - \lim _{n \rightarrow \infty } F_{\xi _n} \left(k- \frac{1}{2} \right) \\ & = F_{\xi } \left(k + \frac{1}{2} \right) - F_{\xi } \left(k- \frac{1}{2} \right) \hspace{30pt} \textrm{ (pois $ \xi _n \ \xrightarrow {d} \ \xi $)} \\ & = \P (\xi =k). \end{align*}

Para provar a recíproca, suponha que

\begin{align*} \lim _{n\to \infty }\P (\xi _n=k)=\P (\xi =k), \qquad k=0,1,2,\ldots . \end{align*}

Se $x\lt 0$, então $F_{\xi _n}(x)=F_\xi (x)=0$. Se $x\geq 0$, temos

\begin{align*} \lim _{n \rightarrow \infty } F_{\xi _n} (x) & = \lim _{n \rightarrow \infty } \P (\xi _n \leq x) \\ & = \lim _{n\to \infty }\sum _{k=0}^{\lfloor x\rfloor }\P (\xi _n=k), \end{align*}

onde $\lfloor x\rfloor $ denota o maior inteiro menor ou igual a $x$. Como, para $x$ fixo, a soma é finita, podemos trocar o limite com a soma e obtemos

\begin{align*} \lim _{n\to \infty }F_{\xi _n}(x) & = \sum _{k=0}^{\lfloor x\rfloor }\lim _{n\to \infty }\P (\xi _n=k) \\ & = \sum _{k=0}^{\lfloor x\rfloor }\P (\xi =k) \\ & = \P (\xi \leq x) = F_\xi (x). \end{align*}

Teorema 10.5 (Aproximação de Poisson para a binomial)

Seja $\{ \xi _n\} _{n\geq 1}$ uma sequência de variáveis aleatórias tal que

\begin{align*} \xi _n \sim \operatorname {Bin}\left(n, \frac{\lambda }{n}\right), \qquad \textrm{ para }n \in \mathbb {N}, n\gt \lambda , \end{align*}

onde $\lambda \gt 0$ é constante. Então $\xi _n$ converge em distribuição para uma variável aleatória com distribuição $\operatorname {Poisson}(\lambda )$.

Demonstração ▼

Pelo teorema anterior, basta mostrar que, para cada $k=0,1,2,\ldots $,

\begin{align*} \lim _{n\to \infty }\P (\xi _n=k)=\frac{e^{-\lambda }\lambda ^k}{k!}. \end{align*}

Temos

\begin{align*} \lim _{n\to \infty }\P (\xi _n=k) & = \lim _{n\to \infty }\binom nk\left(\frac{\lambda }{n}\right)^k\left(1-\frac{\lambda }{n}\right)^{n-k} \\ & = \lambda ^k \lim \limits _{n \rightarrow \infty } {\frac{n!}{k! (n-k)!}} \left(\frac{1}{n^k}\right) \left(1-\frac{\lambda }{n}\right)^{n-k} \\ & = \frac{\lambda ^k}{k!}\lim _{n\to \infty } \left[ \frac{n(n-1)\cdots (n-k+1)}{n^k}\right] \left(1-\frac{\lambda }{n}\right)^{n} \left(1-\frac{\lambda }{n}\right)^{-k}. \end{align*}

Para $k$ fixo, temos

\begin{align*} & \lim \limits _{n \rightarrow \infty } \frac{n(n-1)(n-2)...(n-k+1)}{n^k} =1, \\ & \lim \limits _{n \rightarrow \infty } \left(1-\frac{\lambda }{n}\right)^{-k}=1, \\ & \lim \limits _{n \rightarrow \infty }\left(1-\frac{\lambda }{n}\right)^{n}=e^{-\lambda }. \end{align*}

Logo

\begin{equation*} \lim _{n\to \infty }\P (\xi _n=k)=\frac{e^{-\lambda }\lambda ^k}{k!}, \end{equation*}

que é a função de probabilidade de $\operatorname {Poisson}(\lambda )$.

10.2.2 Convergência em Probabilidade

Na convergência em probabilidade, não exigimos proximidade em cada ponto; exigimos que a probabilidade de um afastamento fixo desapareça. No contexto da Teoria da Medida, essa noção é chamada de convergência em medida.

Definição 10.6 (Convergência em Probabilidade)

Uma sequência de variáveis aleatórias $ \{ \xi _n\} _{n\geq 1}$ converge em probabilidade para a variável aleatória $\xi $ se

\[ \forall \epsilon \gt 0\quad \P (|\xi _n - \xi | \gt \epsilon ) \rightarrow 0 \text{ quando } n \rightarrow \infty . \]

Denotaremos tal fato por $\xi _n \stackrel{\P }{\rightarrow } \xi $.

A sequência pode continuar errando, mas a região em que o erro é maior do que $\epsilon $ deve tornar-se improvável.

Exemplo 10.7

Dado $\xi _n \sim \operatorname {Exp}(n)$, então $\xi _n \ \xrightarrow {\P }\ 0$.

Pois

\begin{align*} \lim \limits _{n \rightarrow \infty } \P \big(|\xi _n-0| \geq \epsilon \big) & =\lim \limits _{n \rightarrow \infty } \P \big(\xi _n \geq \epsilon \big) & (\textrm{ pois $\xi _n\geq 0$ }) \\ & =\lim \limits _{n \rightarrow \infty } e^{-n\epsilon } & (\textrm{ pois $\xi _n \sim \operatorname {Exp}(n)$ }) \\ & =0 , \qquad \textrm{ para todo }\epsilon \gt 0. \end{align*}

Figura 10.1 Densidades exponenciais de parâmetros 1/2, 1 e 2. — Figura 10.1 Densidades exponenciais de parâmetros $1/2$, $1$ e $2$.

Exemplo 10.8

Seja $\xi $ uma variável aleatória e $\xi _n=\xi +\eta _n$, com

\begin{align*} \mathbf{E}[ \eta _n]=\frac{1}{n}, \qquad \operatorname {Var}[\eta _n]=\frac{\sigma ^2}{n}, \end{align*}

onde $\sigma \gt 0$ é uma constante. Então $\xi _n \ \xrightarrow {\P }\ \xi $.

Pela desigualdade triangular para $\eta _n-\mathbf{E}[ \eta _n] +\mathbf{E}[ \eta _n]$, temos

\begin{align*} |\eta _n| \leq \left|\eta _n-\mathbf{E}[ \eta _n]\right|+\frac{1}{n}. \end{align*}

Então, para todo $\epsilon \gt 0$ e todo $n\gt 1/\epsilon $, temos

\begin{align*} \P \big(|\xi _n-\xi | \geq \epsilon \big) & =\P \big(|\eta _n| \geq \epsilon \big) \\ & \leq \P \left(\left|\eta _n-\mathbf{E}[ \eta _n]\right|+\frac{1}{n} \geq \epsilon \right) \\ & = \P \left(\left|\eta _n-\mathbf{E}[ \eta _n]\right|\geq \epsilon -\frac{1}{n} \right) \\ & \leq \frac{\operatorname {Var}[\eta _n]}{\left(\epsilon -\frac{1}{n} \right)^2} \qquad \text{(Chebyshev)} \\ & = \frac{\sigma ^2}{n \left(\epsilon -\frac{1}{n} \right)^2}\longrightarrow 0. \end{align*}

Logo $\xi _n \ \xrightarrow {\P }\ \xi $.

10.2.3 Convergência Quase Certa

Na convergência quase certa, recuperamos a convergência pontual, permitindo apenas que ela falhe em um conjunto de probabilidade nula.

Começaremos com uma leve adaptação do exemplo 10.1, onde tínhamos uma sequência convergindo pontualmente.

Exemplo 10.9

Tome $\Omega =[0,1]$, munido da $\sigma $-álgebra de Borel, e seja $\P $ a medida de Lebesgue em $[0,1]$. Para $n\geq 1$, defina

\[ \xi _n(\omega )=\begin{cases} 1 \quad \text{se} \quad 0\leq \omega \lt 1/n \\ 0 \quad \text{caso contrário} \end{cases} \]

Para $\omega \in (0,1]$, temos $\xi _n(\omega )=0$ para todo $n\gt 1/\omega $, de modo que $\xi _n(\omega )\to 0$.

No entanto, vale também que $\xi _n(0)=1$ para todo $n\gt 0$, de modo que

\[ \{ \omega \in [0,1]:\xi _n(\omega )\not\to 0\} =\{ 0\} , \]

\[ \P \left(\left\{ \omega :\lim _{n\to \infty }\xi _n(\omega )=0\right\} \right)=\P ((0,1])=1. \]

Dizemos assim que $\xi _n\rightarrow 0$ quase certamente, quando $n\to \infty $.

Definição 10.10 (Convergência Quase Certa)

Sejam $ \xi $ uma variável aleatória e $ \{ \xi _n\} _{n\geq 1} $ uma sequência de variáveis aleatórias definidas no mesmo espaço de probabilidade. Dizemos que $ \xi _n $ converge quase certamente para $ \xi $, isto é, $ \xi _n\xrightarrow {q.c.}\xi $ se

\[ \P \left(\lim \limits _{n\rightarrow \infty }\xi _n = \xi \right)=1 \]

ou, equivalentemente, se

\[ \P \left(\left\{ \omega \in \Omega :\lim _{n\to \infty }\xi _n(\omega )=\xi (\omega )\right\} \right)=1. \]

A convergência quase certa é uma convergência pontual em um conjunto de probabilidade $1$: temos $\xi _n(\omega )\to \xi (\omega )$ para quase todo $\omega $, isto é, exceto possivelmente em um conjunto de probabilidade nula.

Figura 10.2 As regiões onde xi _n se afasta de zero se estreitam em torno de um conjunto finito; fora desse conjunto, xi _n(ω )→ 0. — Figura 10.2 As regiões onde $\xi _n$ se afasta de zero se estreitam em torno de um conjunto finito; fora desse conjunto, $\xi _n(\omega )\to 0$.

Exemplo 10.11

Em $\Omega =[0,1]$, com a medida de Lebesgue, para $n\geq 1$ definimos $\xi _n(x)=\begin{cases} 1 \quad \text{se} \quad x\in \mathbb {Q} \\ 1/n \quad \text{caso contrário} \end{cases}$

Essa sequência não converge pontualmente para a função constante zero, pois vale $1$ em todo racional para todo $n$, mas converge quase certamente para zero porque $\mathbb {Q}\cap [0,1]$ tem medida de Lebesgue nula.

Heurística 10.12 (math.exchange)

Imagine uma sequência de pagamentos diários que termina definitivamente na primeira ocorrência de um certo evento aleatório. Se esse evento tem probabilidade positiva e as tentativas são independentes, quase certamente ele ocorrerá em algum instante finito. Assim, o valor pago por dia converge quase certamente a zero.

Isso não significa que exista uma data determinística a partir da qual os pagamentos cessam. Em qualquer horizonte finito ainda pode haver probabilidade positiva de continuação. A convergência quase certa controla a trajetória inteira, mas não fornece um prazo uniforme.

Teorema 10.13 (Critério de Convergência Quase Certa)

Sejam $(\xi _n)_{n\geq 1}$ e $\xi $ variáveis aleatórias. Então $\xi _n\xrightarrow {q.c.}\xi $ se, e somente se, para todo $\epsilon \gt 0$,

\[ \P \bigl(|\xi _n-\xi |\geq \epsilon \ {\, \, \text{\textrm{ i.v.}} }\bigr)=0. \]

Equivalentemente, basta verificar essa condição para $\epsilon =1/k$, $k=1,2,\ldots $.

Demonstração ▼

Para $k,n\geq 1$, ponha $A_{k,n}=\{ |\xi _n-\xi |\geq 1/k\} $. Pela definição de convergência de sequências reais,

\[ \{ \xi _n\not\to \xi \} =\bigcup _{k=1}^{\infty }\bigcap _{n=1}^{\infty } \bigcup _{m=n}^{\infty }A_{k,m} =\bigcup _{k=1}^{\infty }\{ A_{k,n}\ {\, \, \text{\textrm{ i.v.}} }\} . \]

Se $\xi _n\to \xi $ quase certamente, o evento à esquerda tem probabilidade zero; logo cada evento $\{ A_{k,n}\ {\, \, \text{\textrm{ i.v.}} }\} $ tem probabilidade zero. Reciprocamente, se todos esses eventos têm probabilidade zero, sua união enumerável também tem probabilidade zero, e portanto $\xi _n\to \xi $ quase certamente.

Por fim, a condição para todos os $\epsilon \gt 0$ implica imediatamente a condição para $\epsilon =1/k$. Para a recíproca, dado $\epsilon \gt 0$, escolha $k$ com $1/k\leq \epsilon $ e use $\{ |\xi _n-\xi |\geq \epsilon \} \subseteq A_{k,n}$.

Teorema 10.14

Se, para todo $\epsilon \gt 0$,

\[ \sum _{n=1}^{\infty }\P (|\xi _n-\xi |\gt \epsilon )\lt \infty , \]

então $\xi _n\xrightarrow {q.c.}\xi $.

Demonstração ▼

Para cada $k\geq 1$, aplique o primeiro lema de Borel–Cantelli aos eventos $A_n^{(k)}=\{ |\xi _n-\xi |\gt 1/k\} $. A hipótese fornece $\sum _n\P (A_n^{(k)})\lt \infty $, logo $\P (A_n^{(k)}\ \mathrm{i.v.})=0$. Fora da união desses eventos-limite, para todo $k$ temos eventualmente $|\xi _n-\xi |\leq 1/k$; logo $\xi _n\to \xi $. Portanto, $\xi _n\xrightarrow {q.c.}\xi $.

Exemplo 10.15

Seja $(\xi _n)_{n\geq 1}$ uma sequência tal que

\begin{equation*} \xi _n = \left\{ \begin{array}{l l} -\frac{1}{n} & \quad \textrm{com probabilidade } \frac{1}{2} \\ & \quad \\ \frac{1}{n} & \quad \textrm{com probabilidade } \frac{1}{2} \end{array} \right. \end{equation*}

Então $\xi _n \ \xrightarrow {q.c.}\ 0.$

Pelo teorema anterior basta mostrar que

\begin{align*} \sum _{n=1}^{\infty } \P \big(|\xi _n| \gt \epsilon \big) \lt \infty . \end{align*}

Como $|\xi _n|=1/n$, a desigualdade $|\xi _n|\gt \epsilon $ só pode ocorrer para $n\lt 1/\epsilon $. Logo temos

\begin{align*} \sum _{n=1}^{\infty } \P \big(|\xi _n| \gt \epsilon \big) & \leq \sum _{n=1}^{\lfloor 1/\epsilon \rfloor } \P \big(|\xi _n| \gt \epsilon \big) \\ & \leq \lfloor 1/\epsilon \rfloor \lt \infty . \end{align*}

Exemplo 10.16 (Corcovas deslizantes)

Em $\Omega =[0,1]$, com a medida de Lebesgue, para cada $m\geq 2$, particione $[0,1]$ em $m$ intervalos mensuráveis disjuntos $I_{m,1},\ldots ,I_{m,m}$, cada um com medida $1/m$, e enumere em blocos as funções indicadoras

\[ \mathbb {1}_{I_{2,1}},\mathbb {1}_{I_{2,2}}, \mathbb {1}_{I_{3,1}},\ldots ,\mathbb {1}_{I_{3,3}},\ldots . \]

Denote a sequência resultante por $(\xi _n)$. Em cada bloco, temos $\P (\xi _n=1)=1/m$; portanto, ao avançarmos pelos blocos, $\P (|\xi _n|\gt \epsilon )\to 0$ para todo $0\lt \epsilon \lt 1$. Assim, $\xi _n\to 0$ em probabilidade.

Por outro lado, em cada bloco e para cada $\omega \in [0,1]$, exatamente uma das indicadoras vale $1$ em $\omega $ e as demais valem $0$. Logo $(\xi _n(\omega ))$ assume os valores $0$ e $1$ infinitas vezes e não converge em nenhum ponto.

10.2.4 Convergência em $\mathcal L^p$

A convergência em $\L ^p$ controla o tamanho médio do erro, medido pela potência $p$.

Definição 10.17

Fixe $p\gt 0$. Uma sequência de variáveis aleatórias $\{ \xi _n\} _{n=1}^\infty $ converge em $\L ^p$ para a variável aleatória $\xi $ se

\[ \| \xi _n - \xi \| _p \rightarrow 0 \text{ quando } n \rightarrow \infty . \]

Em outras palavras

\[ \mathbf{E}|\xi _n - \xi |^p \rightarrow 0 \text{ quando } n \rightarrow \infty . \]

Para $0\lt p\lt 1$, a expressão $\| X\| _p=(\mathbf{E}|X|^p)^{1/p}$ não é uma norma, mas a mesma notação de convergência continua sendo útil.

Exemplo 10.18

Seja $X_n \sim \operatorname {Uni}\left(0, \frac{1}{n}\right)$. Então $X_n \xrightarrow {\L ^{p}}0$ para todo $p \geq 1$.

A densidade de $X_n$ é dada por

\begin{equation*} f_{X_n}(x) = \left\{ \begin{array}{l l} n & \quad 0 \leq x \leq \frac{1}{n} \\ & \quad \\ 0 & \quad \text{ caso contrário} \end{array} \right. \end{equation*}

Então

\begin{align*} \mathbf{E}\left(|X_n-0|^{p}\right) & =\int _{0}^{\frac{1}{n}} x^{p} n \hspace{10pt} dx \\ & = \frac{1}{(p+1) n^{p}} \rightarrow 0, \qquad \text{ para todo }p\geq 1. \end{align*}

Proposição 10.19

Se $0\lt p\leq q\lt \infty $ e $\xi _n\xrightarrow {\mathcal L^q}\xi $, então $\xi _n\xrightarrow {\mathcal L^p}\xi $.

Demonstração ▼

Se $p=q$, não há o que provar. Suponha $p\lt q$ e ponha $r=q/p\gt 1$, com expoente conjugado $r'$. Aplicando Hölder a $|\xi _n-\xi |^p\cdot 1$ e usando $\P (\Omega )=1$, obtemos

\[ \mathbf{E}|\xi _n-\xi |^p \leq \left(\mathbf{E}|\xi _n-\xi |^{pr}\right)^{1/r} \left(\mathbf{E}1^{r'}\right)^{1/r'} = \left(\mathbf{E}|\xi _n-\xi |^q\right)^{p/q}. \]

Logo

\[ \| \xi _n-\xi \| _p \leq \| \xi _n-\xi \| _q \longrightarrow 0. \]

Exemplo 10.20

Considere uma sequência $\{ X_n\} $ tal que

\begin{equation*} X_n = \left\{ \begin{array}{l l} n ^2 & \qquad \textrm{ com probabilidade } \frac{1}{n} \\ & \qquad \\ 0 & \qquad \textrm{ com probabilidade } 1- \frac{1}{n} \end{array} \right. \end{equation*}

Mostre que

$ X_n \xrightarrow {p} \ 0.$
$X_n$ não converge em $\L ^p$ para qualquer $p\geq 1$.

Para mostrar que $X_n \ \xrightarrow {p} \ 0$, podemos escrever, para qualquer $\epsilon \gt 0$

\begin{align*} \lim _{n \rightarrow \infty } \P \big(| X_n | \geq \epsilon \big) & = \lim _{n \rightarrow \infty } \P (X_n = n ^2) \\ & = \lim _{n \rightarrow \infty } \frac{1}{n} \\ & = 0. \end{align*}

Assim $X_n \xrightarrow {p} 0$.
Para qualquer $p\geq 1$, podemos escrever

\begin{align*} \lim _{n\to \infty }\mathbf{E}\left(|X_n|^p\right) & = \lim _{n\to \infty }\left(n^{2p}\frac1n\right) \\ & = \lim _{n \rightarrow \infty } n ^{2p-1} \\ & = \infty \qquad (\text{ pois $ p \geq 1 $}). \end{align*}

Portanto, $X_n$ não converge em $\L ^p$ para qualquer $p\geq 1$. Em particular, embora $X_n\xrightarrow {\P }0$, o valor esperado de $X_n$ não converge para $0$.

10.3 Comparando os Modos de Convergência

As noções anteriores não formam apenas uma lista: há uma hierarquia entre elas, embora algumas implicações dependam de hipóteses adicionais. As relações principais estão resumidas no diagrama:

\begin{tikzcd} \end{tikzcd} — Figura 10.3 Relação entre os modos de convergência em espaços de probabilidade.

\end{tikzcd} — Figura 10.3 Relação entre os modos de convergência em espaços de probabilidade.

Convergência quase certa implica convergência em probabilidade

Teorema 10.21 (Convergência q.c. e em Probabilidade)

Dados $\xi _n$ e $\xi $ variáveis aleatórias.

$\xi _n \rightarrow \xi $ q.c. implica $\xi _n \rightarrow \xi $ em probabilidade.
Se $\xi _n \rightarrow \xi $ em probabilidade, então existe uma subsequência $\xi _{n_k} \rightarrow \xi $ quase certamente.

Demonstração ▼

Suponha $\xi _n\to \xi $ q.c. e fixe $\epsilon \gt 0$. Ponha $A_n=\{ |\xi _n-\xi |\gt \epsilon \} $ e $B_N=\bigcup _{n\geq N}A_n$. Então $B_N\downarrow \limsup _n A_n$, cuja probabilidade é zero pelo Teorema 10.13. Como $\P (B_1)\leq 1\lt \infty $, a continuidade da probabilidade por cima dá $\P (B_N)\downarrow 0$. Para $n\geq N$, $A_n\subset B_N$; logo $\P (A_n)\to 0$.

Concluímos portanto que $ \xi _n \rightarrow \xi $ em probabilidade.
Suponha $ \xi _n \rightarrow \xi $ em probabilidade. Queremos encontrar uma subsequência que converge quase certamente.

Pela convergência em probabilidade, podemos escolher recursivamente $n_1\lt n_2\lt \cdots $ de modo que

\[ \P \left(|\xi _{n_k}-\xi |\gt \frac1k\right)\lt 2^{-k}, \qquad k=1,2,\ldots . \]

Como $\sum _k2^{-k}\lt \infty $, o primeiro lema de Borel–Cantelli mostra que $|\xi _{n_k}-\xi |\gt 1/k$ ocorre apenas finitas vezes, quase certamente. Portanto, $\xi _{n_k}\to \xi $ quase certamente.

Convergência em $\L ^p$ implica convergência em Probabilidade

Proposição 10.22

$\xi _n \stackrel{\L ^p}{\rightarrow } \xi $ implica $\xi _n \stackrel{\P }{\rightarrow } \xi $.

Demonstração ▼

Usando a desigualdade de Markov, temos, para todo $\epsilon \gt 0$,

\[ \P (|\xi _n - \xi | \gt \epsilon ) \leq \P (|\xi _n - \xi |^p \geq \epsilon ^p) \leq \dfrac {\mathbf{E}|\xi _n -\xi |^p}{\epsilon ^p} \rightarrow 0. \]

Vimos que se a sequência $\xi _n$ converge em $\L ^p$ para $\xi $ então a sequência também converge em probabilidade, porém a recíproca nem sempre é verdadeira.

Teorema 10.23 (Convergência dominada em probabilidade)

Se $p\gt 0$, $\xi _n\xrightarrow {\P }\xi $ e existe uma variável aleatória não negativa $\eta \in \L ^p$ tal que $|\xi _n|\leq \eta $ quase certamente para todo $n\geq 1$, então $\xi _n\xrightarrow {\mathcal L^p}\xi $.

Demonstração ▼

Toda subsequência $(\xi _{n_k})$ possui, pela parte anterior, uma subsubsequência $(\xi _{n_{k_j}})$ que converge para $\xi $ quase certamente. Ao passar ao limite nessa subsubsequência, obtemos $|\xi |\leq \eta $ quase certamente. Consequentemente,

\[ |\xi _{n_{k_j}}-\xi |^p \leq (|\xi _{n_{k_j}}|+|\xi |)^p \leq 2^p\eta ^p. \]

O lado direito é integrável e o lado esquerdo converge quase certamente para zero. Pelo Teorema da Convergência Dominada, $\mathbf{E}|\xi _{n_{k_j}}-\xi |^p\to 0$.

Assim, toda subsequência da sequência numérica $a_n=\mathbf{E}|\xi _n-\xi |^p$ possui uma subsubsequência convergente a zero. Se $a_n$ não convergisse a zero, haveria uma subsequência limitada inferiormente por alguma constante positiva, uma contradição. Logo $a_n\to 0$.

Teorema 10.24 (Lema de Scheffé para variáveis não negativas)

Sejam $(\xi _n)$ e $\xi $ variáveis aleatórias não negativas e integráveis. Se $\xi _n\xrightarrow {q.c.}\xi $ e $\mathbf{E}[\xi _n]\to \mathbf{E}[\xi ]$, então $\xi _n\xrightarrow {\mathcal L^1}\xi $.

Demonstração ▼

Decompondo nos conjuntos $\{ \xi _n\leq \xi \} $ e $\{ \xi _n\gt \xi \} $,

\begin{align*} \mathbf{E}|\xi _n-\xi | & =\mathbf{E}\big[(\xi -\xi _n)\mathbb {1}_{\{ \xi _n\leq \xi \} }\big] +\mathbf{E}\big[(\xi _n-\xi )\mathbb {1}_{\{ \xi _n\gt \xi \} }\big]\\ & =2\mathbf{E}\big[(\xi -\xi _n)\mathbb {1}_{\{ \xi _n\leq \xi \} }\big] +\mathbf{E}[\xi _n]-\mathbf{E}[\xi ]. \end{align*}

Além disso, $0\leq (\xi -\xi _n)\mathbb {1}_{\{ \xi _n\leq \xi \} }\leq \xi $, e esse termo converge quase certamente para zero. A convergência dominada e a hipótese sobre as esperanças mostram que os dois termos da última expressão tendem a zero.

Convergência em Probabilidade implica Convergência em Distribuição

Teorema 10.25

Se uma sequência de variáveis aleatórias $\xi _n$ converge em probabilidade para uma variável aleatória $\xi $, então $\xi _n$ também converge em distribuição para $\xi $.

Demonstração ▼

Tome $\epsilon \gt 0$ e note que, como $\xi _n\xrightarrow {\P }\xi $, então

\[ \lim _{n\to \infty }\P (|\xi _n-\xi |\gt \epsilon )=0. \]

Fixado também $\delta \gt 0$, existe $n_0\geq 1$ tal que

\[ \P (|\xi _n-\xi |\gt \epsilon )\lt \delta , \]

para todo $n\geq n_0$.

Se $\xi _n\leq x$ e $|\xi _n-\xi |\leq \epsilon $, então $\xi \leq x+\epsilon $. Logo, para $n\geq n_0$,

\[ \P (\xi _n\leq x)\leq \P (\xi \leq x+\epsilon )+\delta . \]

Concluímos assim que

\[ \limsup _n\P (\xi _n\leq x)\leq \P (\xi \leq x+\epsilon ), \]

para todo $\epsilon \gt 0$.

De modo análogo, se $\xi \leq x-\epsilon $ e $|\xi _n-\xi |\leq \epsilon $, então $\xi _n\leq x$. Portanto,

\[ \P (\xi \leq x-\epsilon )\leq \P (\xi _n\leq x)+\delta . \]

Segue então que para todo $\epsilon \gt 0$,

\[ \P (\xi \leq x-\epsilon )\leq \liminf _n\P (\xi _n\leq x) \leq \limsup _n\P (\xi _n\leq x)\leq \P (\xi \leq x+\epsilon ). \]

Tomando $x$ como ponto de continuidade de $F_\xi $ e fazendo $\epsilon \downarrow 0$, encontramos

\[ \lim _n\P (\xi _n\leq x)=\P (\xi \leq x), \]

concluindo o resultado.

O núcleo conceitual do capítulo termina aqui. As implicações acima dizem como os quatro modos se relacionam; os exemplos anteriores mostram por que as recíprocas falham sem hipóteses adicionais. A partir deste ponto, mudamos de pergunta: em vez de comparar definições, passamos a desenvolver ferramentas para reconhecer limites em distribuição e extrair subsequências convergentes.

10.4 Ferramentas para convergência de leis

Há dois mecanismos principais nesta segunda parte. Skorokhod permite realizar leis convergentes num espaço comum, com convergência quase certa. Helly e tightness fornecem compacidade: permitem extrair subsequências e impedir que massa escape para o infinito. Estas ferramentas, juntamente com o critério de unicidade de limites subsequenciais, serão usadas novamente no capítulo do Teorema do Limite Central.

10.4.1 Representação de Skorokhod

A convergência em distribuição compara leis, não trajetórias, e por isso não exige que as variáveis estejam no mesmo espaço. O Teorema de Representação de Skorokhod mostra até onde podemos inverter essa fraqueza: em um espaço adequado, é possível realizar cópias com as mesmas leis que convergem quase certamente.

Teorema 10.26 (Teorema de Representação de Skorokhod)

Suponha que $\xi _n\xrightarrow d\xi $. Então existem variáveis aleatórias $\xi _n'$ com a mesma distribuição que $\xi _n$ e uma variável aleatória $\xi '$ com a mesma distribuição que $\xi $, tais que

\[ \xi _n'\xrightarrow {q.c.}\xi '. \]

Demonstração ▼

Sejam $F_n$ e $F$ as funções de distribuição de $\xi _n$ e $\xi $, respectivamente. Em $(0,1)$, munido da medida de Lebesgue, considere a variável uniforme $U(u)=u$ e defina

\[ \xi _n'=F_n^*(U)\qquad \text{e}\qquad \xi '=F^*(U), \]

onde as estrelas denotam as inversas generalizadas. Pela Proposição 6.9, $\xi _n'\stackrel d=\xi _n$ e $\xi '\stackrel d=\xi $.

Resta provar a convergência quase certa. Fixe $u\in (0,1)$ em que $F^*$ é contínua e fixe $\varepsilon \gt 0$. Como uma função monótona possui no máximo uma quantidade enumerável de descontinuidades, podemos escolher um ponto de continuidade $x_-$ de $F$ tal que

\[ F^*(u)-\varepsilon \lt x_-\lt F^*(u). \]

Pela caracterização $F^*(u)\leq x\Longleftrightarrow u\leq F(x)$, a desigualdade $x_-\lt F^*(u)$ implica $F(x_-)\lt u$. Como $F_n(x_-)\to F(x_-)$, temos $F_n(x_-)\lt u$ para todo $n$ suficientemente grande e, novamente pela mesma caracterização,

\[ F_n^*(u)\gt x_-\gt F^*(u)-\varepsilon . \]

Daí, $\liminf _nF_n^*(u)\geq F^*(u)$.

Para obter a desigualdade oposta, a continuidade de $F^*$ em $u$ permite escolher $u'\in (u,1)$ tão próximo de $u$ que $F^*(u')\lt F^*(u)+\varepsilon /2$. Escolha então um ponto de continuidade $x_+$ de $F$ no intervalo

\[ F^*(u')\lt x_+\lt F^*(u)+\varepsilon . \]

Como $F^*(u')\leq x_+$, temos $u'\leq F(x_+)$. Portanto, $F_n(x_+)\to F(x_+)$ e, como $u'\gt u$, vale $F_n(x_+)\gt u$ para todo $n$ suficientemente grande. Segue que

\[ F_n^*(u)\leq x_+\lt F^*(u)+\varepsilon , \]

e assim $\limsup _nF_n^*(u)\leq F^*(u)$. Concluímos que $F_n^*(u)\to F^*(u)$ em todo ponto de continuidade de $F^*$.

Pelo Corolário 6.11, o conjunto $D_{F^*}$ das descontinuidades de $F^*$ é no máximo enumerável. Como $U$ é uniforme, $\P (U\in D_{F^*})=0$. Logo

\[ \xi _n'=F_n^*(U)\longrightarrow F^*(U)=\xi ' \quad \text{quase certamente}, \]

como queríamos.

10.4.2 Seleção de Helly, tightness e Prokhorov

O Princípio de Seleção de Helly fornece uma forma de compacidade para funções de distribuição, mas exige uma ressalva: o limite obtido pode perder massa no infinito e, portanto, não ser ele próprio uma função de distribuição.

Teorema 10.27 (Princípio de Seleção de Helly)

Seja $(F_n)$ uma sequência de funções de distribuição. Então existem uma subsequência $(F_{n_k})$ e uma função limitada, contínua à direita e não decrescente $F$ tais que

\[ F_{n_k}(x)\longrightarrow F(x)\quad \text{em todo ponto de continuidade $x$ de $F$.} \]

Demonstração ▼

Enumere os racionais como $\mathbb {Q}=\{ q_1,q_2,\ldots \} $. Como cada sequência $(F_n(q_j))_{n\geq 1}$ toma valores em $[0,1]$, aplicações sucessivas de Bolzano–Weierstrass e o argumento diagonal fornecem uma subsequência $(F_{n_k})$ para a qual $F_{n_k}(q)$ converge para todo $q\in \mathbb {Q}$. Escreva

\[ G(q)=\lim _{k\to \infty }F_{n_k}(q),\qquad q\in \mathbb {Q}. \]

A monotonicidade das funções $F_{n_k}$ implica que $G$ é não decrescente.

Defina, para $x\in \mathbb {R}$,

\[ F(x)=\inf \{ G(q):q\in \mathbb {Q},\ q\gt x\} . \]

É imediato que $F$ toma valores em $[0,1]$ e é não decrescente. Além disso, se $L=\inf _{y\gt x}F(y)$, então $L\geq F(x)$. Reciprocamente, dado $\varepsilon \gt 0$, escolha $q\in \mathbb {Q}$, $q\gt x$, tal que $G(q)\lt F(x)+\varepsilon $ e depois escolha $y$ com $x\lt y\lt q$. Como o racional $q$ participa do ínfimo que define $F(y)$,

\[ L\leq F(y)\leq G(q)\lt F(x)+\varepsilon . \]

Logo $L=F(x)$, o que prova a continuidade à direita de $F$.

Resta provar a convergência. Fixe $x\in \mathbb {R}$ e $\varepsilon \gt 0$. Pela definição de $F(x)$, existe $q\in \mathbb {Q}$, $q\gt x$, tal que $G(q)\lt F(x)+\varepsilon /2$. Para $k$ suficientemente grande, $F_{n_k}(q)\lt F(x)+\varepsilon $ e, pela monotonicidade,

\[ F_{n_k}(x)\leq F_{n_k}(q)\lt F(x)+\varepsilon . \]

Portanto, $\limsup _kF_{n_k}(x)\leq F(x)$.

Suponha agora que $x$ seja ponto de continuidade de $F$. Escolha $r\lt x$ de modo que $F(r)\gt F(x)-\varepsilon /2$ e um racional $q$ com $r\lt q\lt x$. Da definição de $F(r)$,

\[ G(q)\geq F(r)\gt F(x)-\varepsilon /2. \]

Para $k$ suficientemente grande, $F_{n_k}(q)\gt F(x)-\varepsilon $ e, novamente pela monotonicidade,

\[ F_{n_k}(x)\geq F_{n_k}(q)\gt F(x)-\varepsilon . \]

Assim, $\liminf _kF_{n_k}(x)\geq F(x)$. As duas estimativas provam que $F_{n_k}(x)\to F(x)$ em todo ponto de continuidade de $F$.

O princípio de seleção de Helly diz que, dada $(F_n)_{n\geq 1}$, alguma subsequência $F_{n_k}(x)$ converge para uma função $F(x)$ em todos os pontos de continuidade de $F$. A função limite é não decrescente e contínua à direita, mas ainda pode não ser uma função de distribuição.

Falta garantir que

\[ \lim _{x\to \infty }F(x)=1\quad \mbox{ e }\quad \lim _{x\to -\infty }F(x)=0. \]

O princípio de Helly, sozinho, não garante essas duas igualdades: à medida que $n$ cresce, pode haver massa de probabilidade escapando para $+\infty $ ou para $-\infty $, como mostra o exemplo abaixo.

Exemplo 10.28

Se $U$ é uniforme em $[0,1]$ e $\delta ,\epsilon \gt 0$ satisfazem $\delta +\epsilon \lt 1$, defina

\[ X_n:=-n\cdot \mathbb {1}_{\{ U\lt \delta \} }+n\cdot \mathbb {1}_{\{ U\gt 1-\epsilon \} }, \]

para $n\ge 1$.

Para todo $t\gt 0$,

\begin{align*} \lim \limits _{n\to \infty }\P (X_n\gt t)& =\P (U\gt 1-\epsilon )=\epsilon , \quad \text{ e }\\ \lim \limits _{n\to \infty }\P (X_n\lt -t)& =\P (U\lt \delta )=\delta , \end{align*}

de modo que quando $n\to \infty $ uma “massa” de probabilidade $\epsilon $ está sendo perdida em $+\infty $ e $\delta $ em $-\infty $.

Consequentemente,

\[ \lim \limits _{n\to \infty }F_{X_n}(x)=\begin{cases} \delta & ,\mbox{ para }x\lt 0; \\ 1-\epsilon & ,\mbox{ para }x\ge 0, \end{cases} \]

que é uma função não-decrescente e contínua pela direita, mas não é uma função distribuição.

Uma forma de resolver esse problema é garantir que a massa de probabilidade fique quase toda contida em um intervalo limitado, uniformemente ao longo da sequência. Isto é, para todo $\epsilon \gt 0$ devem existir $a,b\in \mathbb {R}$ tais que $\P (a\lt X_n\leq b)\gt 1-\epsilon $ para todo $n\geq 1$.

Esta propriedade é denominada tightness e está precisamente definida abaixo.

Definição 10.29 (Tightness)

Diremos que uma família $\{ \mu _i:i\in I\} $ de medidas de probabilidade em $(\mathbb {R},\mathcal{B}(\mathbb {R}))$ é tight se, para todo $\epsilon \gt 0$, existe um intervalo compacto $[a,b]$ tal que

\[ \mu _i([a,b])\gt 1-\epsilon \qquad \text{para todo }i\in I. \]

Analogamente, uma família $\{ X_i:i\in I\} $ de variáveis aleatórias é tight se a família de suas distribuições $\{ \P _{X_i}:i\in I\} $ é tight. Usaremos a mesma terminologia para a família correspondente de funções de distribuição.

Proposição 10.30 (Convergência em distribuição implica tightness)

Se $X_n\xrightarrow dX$, então a família $\{ X_n:n\geq 1\} $ é tight.

Demonstração ▼

Fixe $\varepsilon \gt 0$ e escreva $F_n$ e $F$ para as funções de distribuição de $X_n$ e $X$. Escolha pontos de continuidade $a\lt b$ de $F$ tais que

\[ F(a)\lt \frac{\varepsilon }{4}, \qquad F(b)\gt 1-\frac{\varepsilon }{4}. \]

Como $F_n(a)\to F(a)$ e $F_n(b)\to F(b)$, para todo $n$ suficientemente grande,

\[ \P (a\lt X_n\leq b)=F_n(b)-F_n(a)\gt 1-\varepsilon . \]

Restam apenas finitos índices. Para cada um deles, a continuidade por baixo em $\{ |X_j|\leq M\} \uparrow \Omega $ permite escolher um intervalo compacto que contenha massa maior que $1-\varepsilon $. Tome então um único intervalo compacto que contenha todos esses intervalos e também $[a,b]$. Esse intervalo funciona simultaneamente para todo $n$.

Teorema 10.31 (Teorema de Prokhorov em $\mathbb {R}$)

Se $(\P _n)$ é uma sequência tight de medidas de probabilidade em $(\mathbb {R},\mathcal{B}(\mathbb {R}))$, então existem uma subsequência $(\P _{n_k})$ e uma medida de probabilidade $\P $ tais que $\P _{n_k}$ converge fracamente para $\P $.

Demonstração ▼

Seja $F_n(x)=\P _n((-\infty ,x])$. Pelo princípio de seleção de Helly, existem uma subsequência $(F_{n_k})$ e uma função $F:\mathbb {R}\to [0,1]$, não decrescente e contínua à direita, tais que $F_{n_k}(x)\to F(x)$ em todo ponto de continuidade de $F$.

Fixe $\varepsilon \gt 0$. Pela tightness, existe $[a_0,b_0]$ tal que $\P _n([a_0,b_0])\gt 1-\varepsilon $ para todo $n$. Como $F$ possui no máximo uma quantidade enumerável de descontinuidades, podemos escolher pontos de continuidade $a\lt a_0$ e $b\gt b_0$. Então

\[ F(b)-F(a) =\lim _{k\to \infty }\bigl(F_{n_k}(b)-F_{n_k}(a)\bigr) =\lim _{k\to \infty }\P _{n_k}((a,b]) \geq 1-\varepsilon . \]

Se $L_-:=\lim _{x\to -\infty }F(x)$ e $L_+:=\lim _{x\to \infty }F(x)$, segue que $L_+-L_-\geq 1-\varepsilon $. Como isso vale para todo $\varepsilon \gt 0$ e $0\leq L_-\leq L_+\leq 1$, necessariamente $L_-=0$ e $L_+=1$.

Portanto, $F$ é uma função de distribuição. Pela Proposição 6.9, existe uma variável aleatória $X$ com função de distribuição $F$; seja $\P $ a lei de $X$. A convergência obtida nos pontos de continuidade de $F$ é precisamente $\P _{n_k}\Rightarrow \P $.

Assim, tomando $X$ uma variável aleatória com função distribuição $F$, mostramos o seguinte resultado.

Proposição 10.32

Se $(X_n)_{n\geq 1}$ é uma sequência tight de variáveis aleatórias, então existem uma subsequência $(n_k)$ e uma variável aleatória $X$ tais que $X_{n_k}\xrightarrow dX$.

Demonstração ▼

A família das distribuições $(\P _{X_n})$ é tight. Pelo teorema anterior, alguma subsequência $(\P _{X_{n_k}})$ converge fracamente para uma medida de probabilidade $\P $. No espaço canônico $(\mathbb {R},\mathcal{B}(\mathbb {R}),\P )$, a aplicação identidade define uma variável aleatória $X$ com lei $\P $. Pela definição de convergência em distribuição, $X_{n_k}\xrightarrow dX$.

Exemplo 10.33

Sejam $X_1,X_2,\ldots $ variáveis aleatórias independentes, identicamente distribuídas e integráveis, e ponha $S_n=X_1+\cdots +X_n$. Pela desigualdade triangular,

\[ \mathbf{E}|S_n|\leq \sum _{j=1}^n\mathbf{E}|X_j|=n\mathbf{E}|X_1|. \]

A desigualdade de Markov fornece, para todo $t\gt 0$,

\[ \P \left(\left|\frac{S_n}{n}\right|\gt t\right) \leq \frac{\mathbf{E}|S_n|}{nt} \leq \frac{\mathbf{E}|X_1|}{t}. \]

O último termo tende a zero quando $t\to \infty $, uniformemente em $n$. Logo $(S_n/n)_{n\geq 1}$ é tight e, pela proposição anterior, possui uma subsequência convergente em distribuição.

A tightness impede que a massa escape e garante limites ao menos ao longo de subsequências. Para obter a convergência da sequência inteira, resta mostrar que todas as subsequências convergentes conduzem ao mesmo limite.

Proposição 10.34 (Critério de unicidade)

Seja $(X_n)_{n\geq 1}$ uma sequência tight. Suponha que existe uma variável aleatória $X$ tal que toda subsequência de $(X_n)$ que converge em distribuição tem como limite $X$. Então $X_n\xrightarrow dX$.

Demonstração ▼

Denote por $F$ a função de distribuição de $X$ e por $F_n$ a de $X_n$. Se $X_n$ não convergisse em distribuição para $X$, existiriam um ponto de continuidade $x$ de $F$, uma constante $\epsilon \gt 0$ e uma subsequência $(n_k)$ tais que

\[ |F_{n_k}(x)-F(x)|\geq \epsilon \qquad \text{para todo }k. \]

A subsequência $(X_{n_k})$ continua tight. Pela Proposição 10.32, ela possui uma subsubsequência convergente em distribuição; pela hipótese, seu limite é $X$. Logo $F_{n_{k_i}}(x)\to F(x)$, contradizendo a desigualdade anterior.

Esses modos de convergência serão usados repetidamente nos teoremas-limite.

Exercício 10.1

Seja $(\xi _n)_{n\geq 1}$ uma sequência de variáveis aleatórias tal que

\[ \xi _n\sim \operatorname {Ge}_0\left(\frac{\lambda }{n}\right), \qquad n\gt \lambda , \]

onde $\lambda \gt 0$ e $\operatorname {Ge}_0(p)$ conta o número de fracassos antes do primeiro sucesso. Defina $\eta _n=\xi _n/n$. Calcule $\P (\eta _n\gt x)$ e mostre que $\eta _n$ converge em distribuição para uma variável exponencial de taxa $\lambda $.

Ver solução

Para $x\geq 0$,

\[ \P (\eta _n\gt x) =\left(1-\frac\lambda n\right)^{\lfloor nx\rfloor +1} \longrightarrow e^{-\lambda x}; \]

para $x\lt 0$ a cauda vale um. Portanto as funções de distribuição convergem em todos os pontos para a da exponencial de taxa $\lambda $.

Exercício 10.2

Sejam $(\xi _n)$ e $(\eta _n)$ duas sequências de variáveis aleatórias definidas no mesmo espaço de probabilidade. Suponha que

\[ \xi _n\xrightarrow {\P }\xi \qquad \text{e}\qquad \eta _n\xrightarrow {\P }\eta . \]

Prove que $\xi _n+\eta _n\xrightarrow {\P }\xi +\eta $.

Ver solução

Pela desigualdade triangular e pela união,

Exercício 10.3

Considere uma sequência $(\xi _n)$ tal que

\[ \xi _n= \begin{cases} n,& \text{com probabilidade }1/n^2,\\ 0,& \text{com probabilidade }1-1/n^2. \end{cases} \]

Mostre que:

$\xi _n\xrightarrow {\P }0$.
$\xi _n\xrightarrow {\L ^r}0$ para $0\lt r\lt 2$.
$\xi _n$ não converge para zero em $\L ^r$ para $r\geq 2$.
$\xi _n\xrightarrow {q.c.}0$.

Ver solução

Para $0\lt \varepsilon \lt n$, $\P (|\xi _n|\gt \varepsilon )=n^{-2}\to 0$. Além disso, $\mathbf{E}|\xi _n|^r=n^{r-2}$, que tende a zero exatamente para $r\lt 2$ (vale um para $r=2$ e diverge para $r\gt 2$). Por fim, $\sum _n\P (\xi _n\neq 0)=\sum _n n^{-2}\lt \infty $; Borel–Cantelli implica que apenas finitos $\xi _n$ são não nulos, quase certamente.

Exercício 10.4

Suponha que $\xi _n\xrightarrow {\L ^r}\xi $ para $r\geq 1$. Mostre que

\[ \mathbf{E}|\xi _n|^r\longrightarrow \mathbf{E}|\xi |^r. \]

Ver solução

A desigualdade triangular reversa em $L^r$ fornece

\[ \bigl|\| \xi _n\| _r-\| \xi \| _r\bigr| \leq \| \xi _n-\xi \| _r\longrightarrow 0. \]

Elevando à potência $r$, obtemos a convergência dos momentos.

Exercício 10.5

Suponha que $\xi _n\xrightarrow d\xi $ e $\eta _n\xrightarrow {\P }c$, onde $c$ é constante. Prove que

\[ \eta _n\xi _n\xrightarrow d c\xi . \]

Ver solução

A convergência em distribuição torna $(\xi _n)$ tight. Para $M\gt 0$,

Escolha primeiro $M$ grande e depois $n$ grande: o termo de erro $D_n=(\eta _n-c)\xi _n$ converge em probabilidade para zero. Por mudança de escala nas funções de distribuição, $c\xi _n\xrightarrow d c\xi $. Para concluir, escreva $\eta _n\xi _n=c\xi _n+D_n$ e tome $x$ ponto de continuidade de $F_{c\xi }$ e $\delta \gt 0$ com $x\pm \delta $ também pontos de continuidade (eles são densos). Então

\[ \P (\eta _n\xi _n\leq x)\leq \P (c\xi _n\leq x+\delta )+\P (|D_n|\gt \delta ), \qquad \P (\eta _n\xi _n\leq x)\geq \P (c\xi _n\leq x-\delta )-\P (|D_n|\gt \delta ). \]

Tomando $\limsup $ e $\liminf $ e depois $\delta \downarrow 0$, a continuidade de $F_{c\xi }$ em $x$ dá $\P (\eta _n\xi _n\leq x)\to F_{c\xi }(x)$.

Exercício 10.6

Prove o Teorema da Aplicação Contínua para a convergência em probabilidade: se $g:\mathbb {R}\to \mathbb {R}$ é contínua, então

\[ \xi _n\xrightarrow {\P }\xi \quad \Longrightarrow \quad g(\xi _n)\xrightarrow {\P }g(\xi ). \]

Ver solução

Fixe $a\gt 0$ e seja $\eta \gt 0$. Escolha $K$ tal que $\P (|\xi |\gt K)\lt \eta $. Pela continuidade uniforme de $g$ em $[-K-1,K+1]$, existe $0\lt \delta \leq 1$ tal que, para $x,y$ nesse compacto,

\[ |x-y|\lt \delta \quad \Longrightarrow \quad |g(x)-g(y)|\lt a. \]

Fazendo $n\to \infty $, o limite superior é no máximo $\eta $. Como $\eta \gt 0$ é arbitrário, a probabilidade acima tende a zero.

Exercício 10.7

Seja $(\xi _n)$ uma sequência de variáveis aleatórias mutuamente independentes que converge em probabilidade para $\xi $. Mostre que $\xi $ é constante quase certamente.

Dica. Escolha duas subsequências com índices disjuntos. Seus pares permanecem independentes, mas convergem em probabilidade para $(\xi ,\xi )$. Conclua que duas cópias independentes com a lei de $\xi $ são iguais quase certamente.

Ver solução

Escolha índices disjuntos $n_k,m_k$. Então $(\xi _{n_k},\xi _{m_k})\to _{\P }(\xi ,\xi )$. Por outro lado, cada par tem lei $\mu _{n_k}\otimes \mu _{m_k}$ e as marginais convergem fracamente para a lei $\mu $ de $\xi $; logo a lei-limite do par é $\mu \otimes \mu $. Portanto duas cópias independentes $X,Y\sim \mu $ satisfazem $X=Y$ quase certamente. Para todo boreliano $A$, isso implica $0=\P (X\in A,Y\notin A)=\mu (A)(1-\mu (A))$; assim $\mu $ só assume valores $0$ e $1$ e é uma massa de Dirac.

Exercício 10.8

Prove que, se $\xi _n\xrightarrow {\L ^2}\xi $, então

\[ \operatorname {Var}(\xi _n)\longrightarrow \operatorname {Var}(\xi ). \]

Ver solução

Convergência em $L^2$ implica convergência das normas $L^2$ e também em $L^1$, pois $\| Y\| _1\leq \| Y\| _2$. Logo $\mathbf{E}[\xi _n^2]\to \mathbf{E}[\xi ^2]$ e $\mathbf{E}[\xi _n]\to \mathbf{E}[\xi ]$. Passe ao limite em $\operatorname {Var}(\xi _n)=\mathbf{E}[\xi _n^2]-\mathbf{E}[\xi _n]^2$.

Exercício 10.9

Mostre diretamente que a convergência em $\L ^p$ implica convergência em probabilidade para todo $p\gt 0$. Dê um contraexemplo para a recíproca, por exemplo quando $p=1$.

Ver solução

Por Markov,

\[ \P (|\xi _n-\xi |\gt \varepsilon ) \leq \varepsilon ^{-p}\mathbf{E}|\xi _n-\xi |^p\longrightarrow 0. \]

A recíproca falha para $\xi _n=n$ com probabilidade $1/n$ e $0$ caso contrário: $\xi _n\to _{\P }0$, mas $\mathbf{E}|\xi _n|=1$, logo não há convergência em $L^1$.

Exercício 10.10

Considere variáveis aleatórias $\xi _1,\xi _2,\ldots $ com funções de distribuição $F_1,F_2,\ldots $. Suponha que $\xi _n\xrightarrow d\xi $ e que a função de distribuição $F$ de $\xi $ seja contínua. Prove que $F_n\to F$ uniformemente, isto é,

\[ \| F_n-F\| _\infty :=\sup _{x\in \mathbb {R}}|F_n(x)-F(x)|\longrightarrow 0. \]

Ver solução

Dado $\varepsilon \gt 0$, escolha $a\lt b$ com $F(a)\lt \varepsilon $ e $F(b)\gt 1-\varepsilon $. Pela continuidade uniforme de $F$ em $[a,b]$, escolha uma partição $a=x_0\lt \cdots \lt x_m=b$ tal que $F(x_j)-F(x_{j-1})\lt \varepsilon $. A convergência pontual nos finitos $x_j$ torna $|F_n(x_j)-F(x_j)|\lt \varepsilon $. Monotonicidade, espremendo $F_n(x)$ entre os valores nos extremos da célula, dá $|F_n(x)-F(x)|\lt 2\varepsilon $ em $[a,b]$; as caudas dão a mesma cota fora. Logo a convergência é uniforme.

Exercício 10.11

Considere variáveis aleatórias de valores inteiros $\xi _1,\xi _2,\ldots $ e uma variável aleatória $\xi $ também de valores inteiros. Mostre que $\xi _n\xrightarrow d\xi $ se, e somente se,

\[ \P (\xi _n=k)\longrightarrow \P (\xi =k) \qquad \text{para todo }k\in \mathbb Z. \]

Na volta, justifique por que a massa não pode escapar para o infinito.

Ver solução

Se $\xi _n\to _d\xi $, os pontos $k\pm 1/2$ são continuidades de $F_\xi $ e

\[ \P (\xi _n=k)=F_n(k+1/2)-F_n(k-1/2)\to \P (\xi =k). \]

Na volta, dado $\varepsilon \gt 0$, escolha $K$ com $\P (|\xi |\leq K)\gt 1-\varepsilon $. A convergência das finitas massas em $[-K,K]$ implica $\P (|\xi _n|\leq K)\gt 1-2\varepsilon $ para $n$ grande; logo não há fuga de massa. Somando as massas até $\lfloor x\rfloor $ e controlando as duas caudas, obtemos $F_n(x)\to F(x)$ em todo ponto de continuidade de $F$.

Exercício 10.12

Considere variáveis aleatórias independentes $\xi _1,\xi _2,\ldots $, uniformemente distribuídas em $[0,1]$, e defina $Z_n=\max _{k\leq n}\xi _k$.

Prove que $Z_n\to 1$ em probabilidade.
Prove que $Z_n\to 1$ quase certamente.

Ver solução

Para $0\lt \varepsilon \lt 1$, $\P (Z_n\leq 1-\varepsilon )=(1-\varepsilon )^n\to 0$, o que prova convergência em probabilidade. Além disso, $Z_n$ é crescente e limitada por $1$, logo converge quase certamente para algum $Z\leq 1$. Por continuidade por cima, $\P (Z\leq 1-\varepsilon )=\lim _n(1-\varepsilon )^n=0$. Intersectando sobre $\varepsilon =1/m$, concluímos $Z=1$ quase certamente.

Exercício 10.13

Da hipergeométrica à binomial. Para cada $n\geq 5$, uma urna contém $n$ bolas azuis e $n$ bolas vermelhas. Retiram-se dez bolas, sem reposição, e $X_n$ denota o número de bolas azuis retiradas. Determine a lei de $X_n$ e prove que

\[ X_n\xrightarrow {\mathrm d}\operatorname {Binomial}(10,1/2). \]

Ver solução

Para $k=0,\ldots ,10$, a contagem de subconjuntos dá

\[ \P (X_n=k)=\frac{\binom nk\binom n{10-k}}{\binom {2n}{10}}. \]

Equivalentemente, usando fatoriais decrescentes,

\[ \P (X_n=k)=\binom {10}{k} \frac{(n)_k(n)_{10-k}}{(2n)_{10}} \longrightarrow \binom {10}{k}2^{-10}. \]

Como o suporte finito é comum a todas as variáveis, a convergência das massas prova a convergência em distribuição.

Exercício 10.14 (title=Lema de Scheffé,difficulty=3)

Sejam $f_n,f\ge 0$ integráveis, $f_n\to f$ quase certamente e

\[ \int f_n\, d\mu \longrightarrow \int f\, d\mu \lt \infty . \]

Prove que $\| f_n-f\| _1\to 0$. Sugestão: $|f_n-f|=f_n+f-2\min \{ f_n,f\} $.

Ver solução

Temos $\min \{ f_n,f\} \to f$ quase certamente e $0\le \min \{ f_n,f\} \le f\in L^1$. Pela Convergência Dominada,

\[ \int \min \{ f_n,f\} \to \int f. \]

Assim

\[ \| f_n-f\| _1 =\int f_n+\int f-2\int \min \{ f_n,f\} \longrightarrow 0. \]

Exercício 10.15 (title=Teorema de Egorov,difficulty=3)

Se $\mu (\Omega )\lt \infty $ e $f_n\to f$ quase certamente, prove que, para todo $\varepsilon \gt 0$, existe $A$ com $\mu (A)\lt \varepsilon $ tal que $f_n\to f$ uniformemente em $A^c$.

Sugestão: para $m,N\ge 1$, use

\[ E_{m,N}=\bigcup _{n\ge N}\{ |f_n-f|\gt 1/m\} . \]

Ver solução

Fora de um conjunto nulo, $\bigcap _NE_{m,N}=\varnothing $. Como $E_{m,N}\downarrow $ em $N$ e $\mu (\Omega )\lt \infty $, temos $\mu (E_{m,N})\to 0$. Escolha $N_m$ tal que $\mu (E_{m,N_m})\lt \varepsilon 2^{-m}$ e ponha $A=\bigcup _mE_{m,N_m}$. Então $\mu (A)\lt \varepsilon $. Se $x\notin A$, para todo $m$ e $n\ge N_m$ vale $|f_n(x)-f(x)|\le 1/m$, o que é convergência uniforme em $A^c$.

Exercício 10.16 (title=Ruído gaussiano que desaparece,difficulty=2)

Suponha $X_n\xrightarrow d X$. Para cada $n$, seja $Z_n\sim N(0,1/n)$, independente de $X_n$. Prove que

\[ X_n+Z_n\xrightarrow d X. \]

Que parte do argumento realmente usa a gaussianidade de $Z_n$?

Ver solução

Como $\mathbf{E}Z_n^2=1/n$, Chebyshev dá $Z_n\to 0$ em probabilidade. Por Slutsky, $X_n+Z_n\Rightarrow X$. A gaussianidade não é essencial: basta $Z_n\to 0$ em probabilidade.

Exercício 10.17 (title=Construção quantílica de Skorokhod na reta,difficulty=4)

Suponha $F_n(x)\to F(x)$ nos pontos de continuidade de $F$. Defina

\[ Q_n(u)=\inf \{ x:F_n(x)\ge u\} ,\qquad Q(u)=\inf \{ x:F(x)\ge u\} . \]

Se $U\sim \operatorname {Uniforme}(0,1)$, prove:

$Q_n(U)$ tem distribuição $F_n$ e $Q(U)$ tem distribuição $F$;
se $u$ é ponto de continuidade de $Q$, então $Q_n(u)\to Q(u)$;
consequentemente, $Q_n(U)\to Q(U)$ quase certamente.

Ver solução

A identidade

\[ \{ Q_n(U)\le x\} =\{ U\le F_n(x)\} \]

dá $\P (Q_n(U)\le x)=F_n(x)$. Para um ponto de continuidade $u$ de $Q$, escolha $x_-\lt Q(u)\lt x_+$, pontos de continuidade de $F$, com $F(x_-)\lt u\lt F(x_+)$. Para $n$ grande, $F_n(x_-)\lt u\lt F_n(x_+)$, logo $x_-\lt Q_n(u)\le x_+$. Fazendo $x_\pm \to Q(u)$, obtemos a convergência. Como $Q$ é monótona, tem no máximo enumeravelmente muitos pontos de descontinuidade; um uniforme não cai nesse conjunto com probabilidade positiva.

Exercício 10.18 (title=Grafos aleatórios: limite de Poisson para vértices isolados,difficulty=4)

Tome

\[ p_n=\frac{\log n+c}{n},\qquad c\in \mathbb R, \]

e seja $I_n$ o número de vértices isolados de $G(n,p_n)$.

Para $k$ fixo, mostre que

\[ \mathbf{E}[(I_n)_k] =(n)_k(1-p_n)^{k(n-k)+\binom k2}. \]
Prove que

\[ \mathbf{E}[(I_n)_k]\longrightarrow e^{-ck}. \]
Use o critério de convergência por momentos fatoriais para concluir

\[ I_n\xrightarrow d\operatorname {Poisson}(e^{-c}). \]

Ver solução

O fatorial $(I_n)_k$ conta $k$ vértices isolados ordenados. Para um $k$-tuplo fixo, devem estar ausentes todas as arestas entre esses vértices e o complemento, num total $k(n-k)$, e também as $\binom k2$ arestas internas. Isso dá

\[ \mathbf{E}[(I_n)_k] =(n)_k(1-p_n)^{k(n-k)+\binom k2}. \]

Como $\log (n)_k=k\log n+o(1)$ e $\log (1-p_n)=-p_n+O(p_n^2)$,

\[ \log \mathbf{E}[(I_n)_k] =k\log n-k(\log n+c)+o(1)\to -kc. \]

Logo os momentos fatoriais convergem para $(e^{-c})^k$, que são os momentos fatoriais de $\operatorname {Poisson}(e^{-c})$. O critério correspondente conclui a convergência em distribuição.

Modos de Convergência

10.1 Duas convergências determinísticas

10.1.1 Convergência pontual

10.1.2 Convergência uniforme

10.2 Convergência em Espaços de Probabilidade

10.2.1 Convergência em Distribuição

10.2.2 Convergência em Probabilidade

10.2.3 Convergência Quase Certa

10.2.4 Convergência em \(\mathcal L^p\)

10.3 Comparando os Modos de Convergência

Convergência quase certa implica convergência em probabilidade

Convergência em \(\L ^p\) implica convergência em Probabilidade

Convergência em Probabilidade implica Convergência em Distribuição

10.4 Ferramentas para convergência de leis

10.4.1 Representação de Skorokhod

10.4.2 Seleção de Helly, tightness e Prokhorov