Em teoria das probabilidades, existem várias noções diferentes de convergência de variáveis aleatórias. A convergência de sequências de variáveis aleatórias a alguma variável aleatória limite é um importante conceito em teoria das probabilidades e tem aplicações na estatística e nos processos estocásticos. Os mesmos conceitos são conhecidos em matemática geral como convergência estocástica e formalizam a ideia de que é possível esperar que uma sequência de eventos essencialmente aleatórios ou imprevisíveis às vezes mantenha um comportamento essencialmente imutável quando itens suficientemente distantes na sequência são estudados. As possíveis noções diferentes de convergência se relacionam a como tal comportamento pode ser caracterizado: dois comportamentos prontamente entendidos são que a sequência eventualmente assume um valor constante e que os valores na sequência continuam mudando, mas podem ser descritos por uma distribuição de probabilidade imutável.

Plano de fundo A expressão "convergência estocástica" formaliza a ideia de que é possível esperar que uma sequência de eventos essencialmente aleatórios ou imprevisíveis siga eventualmente um padrão. Este padrão pode ser, por exemplo, Convergência no sentido clássico de um valor fixado, talvez ele mesmo vindo de um evento aleatório; Uma semelhança crescente dos eventos ao que uma função puramente determinística produziria; Uma preferência crescente em direção a um certo valor observado; Uma "aversão" crescente a se afastar demais de um certo valor observado; A distribuição de probabilidade que descreve o próximo valor observado pode ficar cada vez mais semelhante a uma certa distribuição.

Alguns padrões teóricos, menos óbvios, podem ser: A série formada pelo cálculo do valor esperado da distância entre o valor observado e um valor particular pode convergir a zero; A variância da variável aleatória que descreve o seguinte evento fica cada vez menor. Estes outros tipos de padrões que podem surgir estão refletidos em diferentes tipos de convergência estocástica que têm sido estudados.

Enquanto a discussão acima diz respeito à convergência de uma única série a um valor limitante, a noção de convergência de duas séries uma em direção a outra também é importante. No entanto, é fácil lidar com isto estudando a sequência definida como a diferença ou como a razão das duas séries.

Por exemplo, se a média de variáveis aleatórias independentes , , todas tendo média e variância iguais e finitas, é dada por

então conforme tende ao infinito, converge em probabilidade à média comum das variáveis aleatórias . Este resultado é conhecido como lei fraca dos grandes números. Outras formas de convergência são importantes em outros teoremas úteis, incluindo o teorema central do limite.

Ao longo do que se segue, assume-se que é uma sequência de variáveis aleatórias, é uma variável aleatória e todas elas estão definidas no mesmo espaço de probabilidade .

Convergência em distribuição

Com este modo de convergência, nós esperamos ver o próximo valor observado em uma sequência de experimentos aleatórios cada vez mais bem modelado por uma dada distribuição de probabilidade.

A convergência em distribuição é a forma mais fraca de convergência, já que é implicada por todos os outros tipos de convergência mencionados nesta página. Entretanto, a convergência em distribuição é usada com muita regularidade na prática. Mais frequentemente, ela surge da aplicação do teorema central do limite.

Definição Uma sequência de variáveis aleatórias de valores reais converge em distribuição, converge fracamente ou converge em lei a uma variável aleatória se

para todo número no qual é contínua. Aqui, e são as funções distribuição acumulada das variáveis aleatórias e respectivamente.

A exigência de que apenas os pontos de continuidade de sejam considerados é essencial. Por exemplo, se for distribuída uniformemente nos intervalos, , então, esta sequência converge em distribuição a uma variável aleatória degenerada . De fato, para todo quando e para todo quando . Entretanto, para esta variável aleatória limitante, , ainda que para todo . Assim, a convergência das funções distribuição acumulada falha no ponto , em que é descontínua.

A convergência em distribuição pode ser denotada como

em que é a lei (distribuição de probabilidade) de . Por exemplo, se tiver distribuição normal padrão, podemos escrever .

Para vetores aleatórios , a convergência em distribuição é definida de forma semelhante. Dizemos que esta sequência converge em distribuição a um vetor aleatório se

para todo que for um conjunto continuidade de .

A definição de convergência em distribuição pode ser estendida de vetores aleatórios a elementos aleatórios mais gerais em espaços métricos arbitrários, até mesmo a "variáveis aleatórias" não mensuráveis — uma situação que ocorre, por exemplo, no estudo de processos empíricos. Isto é a convergência fraca de leis sem que leis sejam definidas — exceto assintoticamente.

Neste caso, o termo convergência fraca é preferível e dizemos que uma sequência de elementos aleatórios converge fracamente a (denotado como ) se

para todas as funções contínuas limitadas . Aqui, denota o valor esperado externo, que é o valor esperado da menor função mensurável que domina .

Propriedades Já que , a convergência em distribuição significa que a probabilidade de que esteja em um dado intervalo é aproximadamente igual à probabilidade de que o valor de esteja neste intervalo, sendo suficientemente grande. Em geral, a convergência em distribuição não implica que a sequência de funções densidade de probabilidade correspondentes também convergirá. Como um exemplo, podem-se considerar variáveis aleatórias com densidades . Estas variáveis aleatórias convergem em distribuição a uma uniforme , enquanto suas densidades não convergem de qualquer forma. Entretanto, o lema de Scheffé implica que a convergência das funções densidade de probabilidade implica convergência em distribuição. O lema de Portmanteau oferece várias definições equivalentes de convergência em distribuição. Ainda que estas definições sejam menos intuitivas, elas são usadas para provar uma série de teoremas estatísticos. O teorema afirma que converge em distribuição a se e somente só qualquer uma das afirmações seguintes for verdadeira: para todas as funções limitadas, contínuas (em que denota o valor esperado); para todas as funções limitadas e de Lipschitz ƒ; para toda função semicontínua superior limitada a partir de cima; para toda função semicontínua inferior limitada a partir de baixo; para todos os conjuntos fechados ; para todos os conjuntos abertos ; para todos os conjuntos continuidade da variável aleatória . O teorema de Mann-Wald afirma que, para uma função contínua , se a sequência convergir em distribuição a , então converge em distribuição a . Entretanto, a convergência em distribuição de a e de a não implica, em geral, a convergência em distribuição de a ou de a . O teorema da continuidade de Lévy afirma que a sequência converge em distribuição a se e somente se a sequência das funções características correspondentes convergir pontualmente à função característica de . A convergência em distribuição é metrizável pela métrica de Lévy-Prokhorov. Uma ligação natural à convergência em distribuição é o teorema da representação de Skorokhod.

Convergência em probabilidade

A ideia básica por trás deste tipo de convergência é que a probabilidade de um valor observado "incomum" se torna cada vez menor conforme a sequência progride.

O conceito de convergência em probabilidade é usado muito frequentemente em estatística. Por exemplo, um estimador é considerado consistente se convergir em probabilidade à quantidade sendo estimada. A convergência em probabilidade é também o tipo de convergência estabelecido pela lei fraca dos grandes números.

Definição Uma sequência de variáveis aleatórias converge em probabilidade em direção à variável aleatória se para todo

Formalmente, considere qualquer e qualquer . Considere a probabilidade de que esteja fora de um intervalo de confiança de raio e em torno de . Então, para que convirja em probabilidade a , deve existir um número (que dependerá de e ) tal que, para todo , .

A convergência em probabilidade é denotada colocando-se a letra sobre uma seta indicando convergência ou o operador de limite de probabilidade :

Para elementos aleatórios em um espaço métrico separável , a convergência em probabilidade é definida de forma semelhante por

Propriedades A convergência em probabilidade implica convergência em distribuição. Na direção oposta, a convergência em distribuição implica a convergência em probabilidade quando a variável aleatória limitante for uma constante. A convergência em probabilidade não implica convergência quase certa. O teorema de Mann-Wald afirma que, para toda função contínua , se , então também . A convergência em probabilidade define uma topologia no espaço de variáveis aleatórias sobre um espaço de probabilidade fixado. Esta topologia é metrizável pela métrica de Ky Fan:

ou .

Convergência quase certa

Este é o tipo de convergência estocástica mais semelhante à convergência pontual conhecida a partir da análise real elementar.

Definição Dizer que a sequência converge quase certamente, quase em todo lugar, com probabilidade 1 ou fortemente em direção a significa que

Isto significa que os valores de se aproximam do valor de no sentido de que os eventos para os quais não converge a têm probabilidade zero. Usando o espaço de probabilidade e o conceito da variável aleatória como uma função de a R, isto equivale à afirmação

Usando a noção do limite inferior de uma sequência de conjuntos, a convergência quase certa pode ser definida como:

A convergência quase certa é frequentemente denotada colocando-se as letras sobre uma seta indicando convergência,

Para elementos aleatórios genéricos em um espaço métrico , a convergência quase certa é definida de forma semelhante:

Propriedades A convergência quase certa implica convergência em probabilidade pelo lema de Fatou e, por isso, implica convergência em distribuição. É a noção de convergência usada na lei forte dos grandes números. O conceito de convergência quase certa não vem de uma topologia sobre o espaço de variáveis aleatórias. Isto significa que não há topologia no espaço de variáveis aleatórias tal que as sequências quase certamente convergentes são exatamente as sequências convergentes em relação àquela topologia. Em particular, não há métrica de convergência quase certa.

Convergência certa Dizer que a sequência de variáveis aleatórias definida ao longo do mesmo espaço de probabilidade (isto é, um processo aleatório) converge certamente, em todo lugar ou pontualmente a significa que

em que é o espaço amostral do espaço de probabilidade subjacente sobre o qual as variáveis aleatórias são definidas.

Esta é a noção de convergência pontual de uma sequência de funções estendida a uma sequência de variáveis aleatórias, lembrando que as variáveis aleatórias são elas mesmas funções.

A convergência certa de uma variável aleatória implica todos os outros tipos de convergência descritos acima. A diferença entre a convergência quase certa e a convergência certa está nos conjuntos com probabilidade zero. Por isso, o conceito de convergência certa de variáveis aleatórias é muito raramente usado.

Convergência em média Dado um número real , dizemos que a sequência converge na -ésima média ou na norma Lr à variável aleatória se os -ésimos momentos absolutos e de e existem e

em que o operador denota o valor esperado. A convergência na -ésima média nos diz que o valor esperado da -ésima potência da diferença entre e converge a zero.

Este tipo de convergência é frequentemente denotado colocando-se Lr sobre uma seta indicando convergência:

Os casos mais importantes de convergência na -ésima média são: