Distance de Bhattacharyya

En statistiques, la distance de Bhattacharyya est une mesure de la similarité de deux distributions de probabilités discrètes. Elle est reliée au coefficient de Bhattacharyya, qui est une mesure statistique du recouvrement de deux ensembles d'échantillons. Cette mesure est la plus utilisée pour la mise en correspondance entre deux observations basées sur l'histogramme de couleur. Cette mesure est régulièrement utilisée dans des problèmes de classification, en particulier dans le domaine de la vision par ordinateur.

Le nom de la distance et du coefficient proviennent du statisticien indien A. Bhattacharya (en), qui travaillait dans les années 1930 à l'Institut indien de statistiques. Le coefficient peut être utilisé pour déterminer la proximité relative des deux ensembles considérés. Il est utilisé pour mesurer la séparabilité de classes en classification automatique.

Définition

Pour deux distributions de probabilité discrète p et q définies sur le même espace de probabilité, la distance de Bhattacharyya est calculée par :

$D_{B}(p,q)=-\ln \left(BC(p,q)\right)$

où :

$BC(p,q)=\sum _{x\in X}{\sqrt {p(x)q(x)}}$

est le coefficient de Bhattacharyya.

Pour des distributions de probabilité continues, le coefficient est défini par :

$BC(p,q)=\int {\sqrt {p(x)q(x)}}\,dx$

Dans les deux cas, $0\leq BC\leq 1$ et $0\leq D_{B}\leq \infty$. La distance de Bhattacharyya n'obéit pas à l'inégalité triangulaire, au contraire de la distance de Hellinger, définie à partir de la distance de Bhattacharyya par ${\sqrt {1-BC}}$.

Pour des distributions gaussiennes multivariées $p_{i}=N(m_{i},P_{i})$,

$D_{B}={1 \over 8}(m_{1}-m_{2})^{T}P^{-1}(m_{1}-m_{2})+{1 \over 2}\ln \,\left({\det P \over {\sqrt {\det P_{1}\,\det P_{2}}}}\right)$,

où $m_{i}$ et $P_{i}$ sont les moyennes et les covariances des distributions, et $P={P_{1}+P_{2} \over 2}$ .

Cette écriture montre que dans le cas gaussien, le premier terme de la distance de Bhattacharyya est relié à la distance de Mahalanobis.

Notes et références

• (en) Cet article est partiellement ou en totalité issu de l’article de Wikipédia en anglais intitulé « Bhattacharyya distance » (voir la liste des auteurs).

Voir aussi

Articles connexes

• Distance de Hellinger
• Divergence de Kullback-Leibler
• Distance en variation totale (probabilités)
• Inégalité de Chernoff
• Entropie de Renyi

Bibliographie

• (en) F. Nielsen et S. Boltz, « The Burbea-Rao and Bhattacharyya centroids », ArXiv:1004.5049v1,‎ 2010 (lire en ligne)
• (en) Thomas Kailath (en), « The Divergence and Bhattacharyya Distance Measures in Signal Selection », IEEE Transactions on Communication Technology, vol. 15, n^o 1,‎ 1967, p. 52–60 (DOI 10.1109/TCOM.1967.1089532)
• (en) A. Djouadi, O. Snorrason et F. Garber, « The quality of Training-Sample estimates of the Bhattacharyya coefficient », IEEE Transactions on Pattern Analysis and Machine Intelligence, vol. 12, n^o 1,‎ 1990, p. 92-97 (DOI 10.1109/34.41388)