Em estatística, a distância de Bhattacharyya é uma grandeza que representa uma noção de similaridade entre duas distribuições de probabilidade. Ela está intimamente relacionada ao coeficiente de Bhattacharyya, que é uma medida da quantidade de sobreposição entre duas amostras ou populações estatísticas.
Não é uma métrica, apesar de ser chamada de "distância", pois não obedece à desigualdade triangular.
História Tanto a distância de Bhattacharyya quanto o coeficiente de Bhattacharyya recebem o nome de Anil Kumar Bhattacharyya, um estatístico que trabalhou na década de 1930 no Instituto Indiano de Estatística. Ele desenvolveu esse método através de uma série de artigos. Ele desenvolveu o método para medir a distância entre duas distribuições não normais e ilustrou isso com as populações multinomiais clássicas. Este trabalho, embora tenha sido submetido para publicação em 1941, apareceu quase cinco anos depois em Sankhya. Consequentemente, o Professor Bhattacharyya começou a trabalhar no desenvolvimento de uma métrica de distância para distribuições de probabilidade que são absolutamente contínuas em relação à medida de Lebesgue e publicou seu progresso em 1942, nos Anais do Congresso Indiano de Ciência, e o trabalho final apareceu em 1943 no Bulletin da Calcutta Mathematical Society.
Definição
Para distribuições de probabilidade e no mesmo domínio discreto , a distância de Bhattacharyya é definida como
onde
é o coeficiente de Bhattacharyya para distribuições de probabilidade discretas.
Para distribuições de probabilidade contínuas, com e onde e são as funções densidade de probabilidade, o coeficiente de Bhattacharyya é definido como
Mais geralmente, dadas duas medidas de probabilidade em um espaço mensurável , seja uma medida (sigma-finita) tal que e são absolutamente contínuas em relação a , isto é, e para funções densidade de probabilidade com respeito a definidas -quase em toda parte. Tal medida, até mesmo uma medida de probabilidade, sempre existe, por exemplo, . Então define-se a medida de Bhattacharyya em por
Ela não depende da medida , pois se escolhermos uma medida tal que e outra medida sejam absolutamente contínuas, isto é, e , então
e similarmente para . Temos então
Finalmente definimos o coeficiente de Bhattacharyya
Pelo exposto, a quantidade não depende de , e pela desigualdade de Cauchy, . Usando e ,
Caso gaussiano Sejam , , onde é a distribuição normal com média e variância ; então
E em geral, dadas duas distribuições normais multivariadas ,
onde Observe que o primeiro termo é uma distância de Mahalanobis ao quadrado.
Propriedades e .
não obedece à desigualdade triangular, embora a distância de Hellinger obedeça.
Limites para o erro de Bayes
A distância de Bhattacharyya pode ser usada para limitar superior e inferiormente a taxa de erro de Bayes:Nielsen, Frank. Generalized Bhattacharyya and Chernoff upper bounds on Bayes error using quasi-arithmetic means. Pattern Recognition Letters 42 (2014): 25-34.
onde e é a probabilidade a posteriori.Devroye, L., Gyorfi, L. & Lugosi, G. A Probabilistic Theory of Pattern Recognition. Discrete Appl Math 73, 192–194 (1997).
Aplicações O coeficiente de Bhattacharyya quantifica a "proximidade" de duas amostras estatísticas aleatórias.
Dadas duas sequências das distribuições , coloque-as em buckets, e seja a frequência das amostras de no bucket igual a , e similarmente para ; então o coeficiente de Bhattacharyya amostral é
que é um estimador de . A qualidade da estimação depende da escolha dos buckets; poucos buckets superestimariam , enquanto muitos o subestimariam.
Uma tarefa comum em classificação é estimar a separabilidade das classes. A menos de um fator multiplicativo, a distância de Mahalanobis ao quadrado é um caso especial da distância de Bhattacharyya quando as duas classes são normalmente distribuídas com as mesmas variâncias. Quando duas classes têm médias semelhantes, mas variâncias significativamente diferentes, a distância de Mahalanobis seria próxima de zero, enquanto a distância de Bhattacharyya não seria.
O coeficiente de Bhattacharyya é usado na construção de códigos polares.
A distância de Bhattacharyya é usada na extração e seleção de características,Euisun Choi, Chulhee Lee, "Feature extraction based on the Bhattacharyya distance", Pattern Recognition, Volume 36, Issue 8, August 2003, Pages 1703–1709 processamento de imagens,François Goudail, Philippe Réfrégier, Guillaume Delyon, "Bhattacharyya distance as a contrast parameter for statistical processing of noisy optical images", JOSA A, Vol. 21, Issue 7, pp. 1231−1240 (2004) reconhecimento de locutor,Chang Huai You, "An SVM Kernel With GMM-Supervector Based on the Bhattacharyya Distance for Speaker Recognition", Signal Processing Letters, IEEE, Vol 16, Is 1, pp. 49-52 agrupamento de fones,Mak, B., "Phone clustering using the Bhattacharyya distance", Spoken Language, 1996. ICSLP 96. Proceedings., Fourth International Conference on, Vol 4, pp. 2005–2008 vol.4, 3−6 Oct 1996 e em genética.
Ver também
Ângulo de Bhattacharyya Divergência de Kullback–Leibler Distância de Hellinger Distância de Mahalanobis Limite de Chernoff Entropia de Rényi F-divergência Fidelidade de estados quânticos
Referências
Ligações externas
Intuição estatística da distância de Bhattacharyya Algumas propriedades da distância de Bhattacharyya
Categoria:Estatística Categoria:Probabilidade e estatística