Test de Kolmogorov-Smirnov

Pour les articles homonymes, voir Smirnov.

Cet article est une ébauche concernant les probabilités et la statistique.

Vous pouvez partager vos connaissances en l’améliorant (comment ?) selon les recommandations des projets correspondants.

Test de Kolmogorov-Smirnov

Type	Test non-paramétrique (d)
Inventeurs	Andreï Kolmogorov, Nikolai Smirnov
Nommé en référence à	Andreï Kolmogorov, Nikolai Smirnov

modifier - modifier le code - modifier Wikidata

En statistiques, le test de Kolmogorov-Smirnov est un test d'hypothèse utilisé pour déterminer si un échantillon suit bien une loi donnée connue par sa fonction de répartition continue, ou bien si deux échantillons suivent la même loi. Le test de Kolmogorov-Smirnov est par exemple utilisé pour tester la qualité d'un générateur de nombres aléatoires^[1].

Principe

On modélise une loi donnée par sa fonction de répartition F (voir courbe rouge sur la figure). La fonction de répartition associe à tout x (en abscisses), la probabilité qu'une variable suivant cette loi soit plus petite que x (en ordonnées). Le test consiste alors à comparer la fonction de répartition de la loi (fonction de répartition théorique) à la fonction de répartition empirique F_n (en bleu). Cette dernière est une fonction de répartition obtenue en attribuant la probabilité 1/n à chacun des n éléments de l'échantillon. On mesure alors la différence entre les deux courbes. Si cette différence est inférieure à un seuil, alors on décide que l'échantillon provient bien de cette loi donnée. Plus précisément, on rejette l'hypothèse que l'échantillon provienne de la loi s'il y a une valeur de x pour laquelle |F_n(x) - F(x)| est grande.

Définition formelle

Soit ${\displaystyle X_{1},\ldots ,X_{n}}$ n variables iid définies sur un espace de probabilité ${\displaystyle (\Omega ,{\mathcal {A}},\mathbb {P} )}$, à valeurs dans ${\displaystyle \mathbb {R} }$, avec pour fonction de répartition F. La fonction de répartition empirique ${\displaystyle F_{n}}$ de l'échantillon ${\displaystyle X_{1},\ldots ,X_{n}}$ est définie par :

${\displaystyle \forall x\in \mathbb {R} ,F_{n}(x)={\frac {\mathrm {nombre~d'{\acute {e}}l{\acute {e}}ments} \,\leq x\,\mathrm {dans~l'{\acute {e}}chantillon} }{n}}={\frac {1}{n}}\sum _{i=1}^{n}\mathbf {1} _{X_{i}\leq x}}$

où ${\displaystyle \mathbf {1} _{A}}$ est la fonction indicatrice de l'événement A.

Notons bien que ${\displaystyle F_{n}(x)}$ est une variable aléatoire, car elle dépend des valeurs de l'échantillon ${\displaystyle X_{1},\ldots ,X_{n}}$. On a la convergence suivante :

${\displaystyle \mathbb {P} \left[\sup _{x}|F_{n}(x)-F(x)|>{\frac {c}{\sqrt {n}}}\right]{\xrightarrow[{n\to \infty }]{}}\alpha (c)=2\sum _{r=1}^{+\infty }(-1)^{r-1}\exp(-2c^{2}r^{2})}$

pour toute constante c > 0. Le terme α(c) vaut 0,05 pour c = 1,36.

Remarquons que la limite à droite ne dépend pas de F. Cela découle du fait que ${\displaystyle {\sqrt {n}}(F_{n}(x)-F(x))}$ converge en loi vers un pont brownien changé de temps par l'inverse F⁻¹ de F. La série α(c) se déduit des propriétés de ce dernier processus.

Il est ainsi facile de proposer un test d'hypothèse pour décider si un échantillon provient bien d'une loi donnée, ou si deux échantillons ont la même loi, lorsque leurs fonctions de répartitions sont continues.

On peut aussi considérer ${\displaystyle \max _{x}(F_{n}(x)-F(x))}$ et ${\displaystyle \max _{x}(F(x)-F_{n}(x))}$.

Mise en œuvre

• ks.test avec R.
• scipy.stats.kstest avec Python pour déterminer si un échantillon suit une loi donnée
• scipy.stats.ks_2samp avec Python pour déterminer si deux échantillons suivent la même loi de distributions
• ksmirnov avec Stata
• kstest avec Matlab.

Voir aussi

• Andreï Kolmogorov
• Nikolaï Vassilievitch Smirnov
• Test de normalité
• Test de Jarque-Bera
• Test de Kuiper
• Test de Shapiro-Wilk
• Test d'Anderson-Darling
• Test de Cramer-Von Mises

Références

• (en) Galen R. Shorack et Jon A. Wellner, Empirical Processes With Applications to Statistics, Philadelphie, Society for Industrial & Applied Mathematics, 4 septembre 2009, 998 p. (ISBN 978-0-89871-684-9 et 0-89871-684-5, LCCN 2009025143, lire en ligne).

• (en) David Williams, Weighing the Odds: a Course in Probability and Statistics, Cambridge University Press, 2001, 548 p. (ISBN 0-521-80356-X).

Notes et références

Liens externes

• (en) « Calculation of the Smirnov-Kolmogorov table »
• Exemple de table : http://dlc.erieri.com/onlinetextbook/index.cfm?fuseaction=textbook.appendix&FileName=Table7

v · m Tests statistiques
Tests de comparaison d'une seule variable	Pour un échantillon Test Z Test t pour un échantillon Test des signes Test des rangs signés de Wilcoxon Estimateur de Hodges-Lehmann Pour deux échantillons Test F Test de Student Test t de Welch Test U de Mann-Whitney Test du χ² d'homogénéité Test de McNemar Test de la médiane Pour 3 échantillons ou plus Analyse de la variance (ANOVA) Test de Kruskal-Wallis ANOVA de Friedman Test de Bartlett Test de Levene Test de Brown-Forsythe
Tests de comparaison de deux variables	Deux variables quantitatives : Tests de corrélation Corrélation de Pearson Corrélation de Spearman Corrélation de Kendall Deux variables qualitatives Test exact de Fisher Test du χ² d'indépendance Test Gamma Plus de deux variables Concordance de Kendall Analyse de variance multivariée Test Q de Cochran
Tests d'adéquation à une loi	Test de Kolmogorov-Smirnov Test du χ² d'adéquation Test de Jarque-Bera Test de Lilliefors Test d'Anderson-Darling Test de D'Agostino Test de Cramer-Von Mises
Tests d'appartenance à une famille de lois	Test de Shapiro-Wilk
Autres tests	Test du rapport de vraisemblance
Tests non-paramétriques Tests paramétriques Table d'utilisation des tests statistiques

v · m Index du projet probabilités et statistiques

Théorie des probabilités Bases théoriques Principes généraux Axiomes des probabilités Espace probabilisable Probabilité Événement Tribu Indépendance Variable aléatoire Espérance Variables iid Convergence de lois Théorème central limite Loi des grands nombres Théorème de Borel-Cantelli Calcul stochastique Marche aléatoire Chaîne de Markov Processus stochastique Processus de Markov Martingale Mouvement brownien Équation différentielle stochastique Lois de probabilité Lois continues Loi exponentielle Loi normale Loi uniforme Loi de Student Loi de Fisher Loi du χ² Lois discrètes Loi de Bernoulli Loi binomiale Loi de Poisson Loi géométrique Loi hypergéométrique Mélange entre statistiques et probabilités Intervalle de confiance Interprétations de la probabilité Bayésianisme Théorie des statistiques Statistiques descriptives Bases théoriques Une statistique Caractère Échantillon Erreur type Intervalle de confiance Fonction de répartition empirique Théorème de Glivenko-Cantelli Inférence bayésienne Régression linéaire Méthode des moindres carrés Analyse des données Corrélation Tableaux Tableau de contingence Tableau disjonctif complet Table de Burt Visualisation de données Histogramme Diagramme à barres Graphique en aires Diagramme circulaire Treemap Boîte à moustaches Nuage de points Graphique à bulles Diagramme en cascade Graphique en entonnoir Diagramme de Kiviat Corrélogramme Graphique en forêt Diagramme branche-et-feuille Heat map Sparkline Paramètres de position Moyenne arithmétique Mode Médiane Quantile Quartile Décile Centile Paramètres de dispersion Étendue Écart moyen Variance Écart type Déviation absolue moyenne Écart interquartile Coefficient de variation Paramètres de forme Coefficient d'asymétrie Coefficient d'aplatissement Statistiques inductives Bases théoriques Hypothèse nulle Estimateur Signification statistique Sensibilité et spécificité Courbe ROC Nombre de sujets nécessaires Valeur p Contraste (statistiques) Statistique de test Taille d'effet Puissance statistique Tests paramétriques Test d'hypothèse Test de Bartlett Test de normalité Test de Fisher d'égalité de deux variances Test d'Hausman Test d'Anderson-Darling Test de Banerji Test de Durbin-Watson Test de Goldfeld et Quandt Test de Jarque-Bera Test de Mood Test de Lilliefors Test de Wald Test T pour des échantillons indépendants Test T pour des échantillons appariés Test de corrélation de Pearson Tests non-paramétriques Test U de Mann-Whitney Test de Kruskal-Wallis Test exact de Fisher Test de Kolmogorov-Smirnov Test de Shapiro-Wilk Test de Chow Test de McNemar Test de Spearman Tau de Kendall Test Gamma Test des suites de Wald-Wolfowitz Test de la médiane Test des signes ANOVA de Friedman Concordance de Kendall Test Q de Cochran Test des rangs signés de Wilcoxon Test de Sargan Application Économétrie Mécanique statistique Jeu de hasard Biomathématique Biostatistique Mathématiques financières

• Portail des probabilités et de la statistique