Retour au blog

Loi des Grands Nombres : Convergence des Variables Aléatoires

Huit exercices corrigés, de la loi faible démontrée par Bienaymé-Tchebychev à la loi forte, avec le piège de la compensation et le cas du maximum.

Cet article a été rédigé à des fins pédagogiques. Les informations présentées peuvent évoluer. Nous t’invitons à vérifier auprès de sources officielles.

Niveau : moyen. Durée estimée : 90 min. 8 exercices avec corrections détaillées.

Rappel des notions clés

La moyenne $\overline{X}_n = \frac{1}{n}\sum_{k=1}^{n} X_k$ de $n$ variables aléatoires indépendantes et de même loi (on dit i.i.d.), d'espérance $m$, se rapproche de $m$ quand $n$ grandit : c'est la loi des grands nombres. Pour la démontrer ou l'appliquer, calcule $E(\overline{X}_n)$ et $V(\overline{X}_n)$, puis utilise l'inégalité de Bienaymé-Tchebychev. Exemple : en lançant un dé équilibré, la fréquence des 6 tend vers $\frac{1}{6}$.

Avant de citer une loi des grands nombres, vérifie ses hypothèses : indépendance, même loi, variance finie pour la loi faible démontrée par Bienaymé-Tchebychev, espérance finie pour la loi forte. Quand la loi de $X_n$ est connue, calcule directement la probabilité d'écart au lieu de la majorer.

Définition : $X_n$ converge en probabilité vers $a$ si $P(|X_n - a| \geq \varepsilon) \to 0$ pour tout $\varepsilon > 0$. $X_n$ converge presque sûrement vers $X$ si $P(X_n \to X) = 1$ : la suite converge sauf sur un événement de probabilité nulle. La convergence presque sûre entraîne la convergence en probabilité.

Formules à retenir :

  • Si les $X_k$ sont indépendantes, d'espérance $m$ et de variance $\sigma^2$ : $E(\overline{X}_n) = m$ et $V(\overline{X}_n) = \frac{\sigma^2}{n}$.
  • Markov, pour $Y \geq 0$ et $a > 0$ : $P(Y \geq a) \leq \frac{E(Y)}{a}$.
  • Bienaymé-Tchebychev : $P(|X - E(X)| \geq \varepsilon) \leq \frac{V(X)}{\varepsilon^2}$.
  • Loi faible : $P(|\overline{X}_n - m| \geq \varepsilon) \xrightarrow[n \to +\infty]{} 0$ pour tout $\varepsilon > 0$.
  • Loi forte : $\overline{X}_n \to m$ presque sûrement.

Piège classique : la loi des grands nombres parle de la moyenne $\frac{S_n}{n}$, pas de la somme $S_n = X_1 + \dots + X_n$. Elle ne dit pas que l'écart $S_n - nm$ devient petit, et le hasard ne « compense » pas une série : les tirages restent indépendants.

En prépa MP et MPI, le programme officiel de mathématiques s'arrête à la loi faible, pour des variables discrètes : les notions de convergence et les variables à densité y sont hors programme. Les exercices 1 à 5 sont pour toi, les exercices 6 à 8 relèvent de la licence.

Exercices : niveau facile

Exercice 1 : Soit $(X_k)_{k \geq 1}$ une suite de variables i.i.d. d'espérance $m$ et de variance $\sigma^2$ finie, et $\overline{X}_n = \frac{1}{n}\sum_{k=1}^{n} X_k$. Calcule $E(\overline{X}_n)$ et $V(\overline{X}_n)$, puis démontre que $P(|\overline{X}_n - m| \geq \varepsilon) \to 0$ pour tout $\varepsilon > 0$.

Correction :

Méthode : espérance et variance de la moyenne, puis Bienaymé-Tchebychev.

Par linéarité, $E(\overline{X}_n) = \frac{1}{n}\sum_{k=1}^{n} E(X_k) = m$. Les $X_k$ sont indépendantes, donc la variance de leur somme est la somme des variances : $V(\overline{X}_n) = \frac{1}{n^2}\sum_{k=1}^{n} V(X_k) = \frac{\sigma^2}{n}$.

L'inégalité de Bienaymé-Tchebychev appliquée à $\overline{X}_n$ donne $$P(|\overline{X}_n - m| \geq \varepsilon) \leq \frac{\sigma^2}{n\varepsilon^2} \xrightarrow[n \to +\infty]{} 0.$$

$E(\overline{X}_n) = m$, $V(\overline{X}_n) = \frac{\sigma^2}{n}$, et $\overline{X}_n$ converge en probabilité vers $m$ : c'est la loi faible des grands nombres.

Le $\frac{1}{n}$ sort de la variance au carré : l'oublier donne $V(\overline{X}_n) = \sigma^2$, et plus aucune convergence.

Exercice 2 : Tu lances $n$ fois un dé équilibré, les lancers étant indépendants, et tu notes $F_n$ la fréquence des 6 obtenus. Écris $F_n$ comme une moyenne de variables de Bernoulli, puis montre que $P\left(\left|F_n - \frac{1}{6}\right| \geq \varepsilon\right) \to 0$ pour tout $\varepsilon > 0$.

Correction :

Méthode : une variable indicatrice par lancer, c'est-à-dire une variable qui vaut 1 si l'événement se produit et 0 sinon.

Pose $Y_k = 1$ si le $k$-ième lancer donne 6, et $Y_k = 0$ sinon. Les $Y_k$ sont indépendantes et suivent la loi de Bernoulli $\mathcal{B}\left(\frac{1}{6}\right)$ : $E(Y_k) = \frac{1}{6}$ et $V(Y_k) = \frac{1}{6} \times \frac{5}{6} = \frac{5}{36}$, finie.

Le nombre de 6 est $\sum_{k=1}^{n} Y_k$, donc $F_n = \frac{1}{n}\sum_{k=1}^{n} Y_k$. L'exercice 1 donne $$P\left(\left|F_n - \tfrac{1}{6}\right| \geq \varepsilon\right) \leq \frac{5}{36\,n\varepsilon^2} \xrightarrow[n \to +\infty]{} 0.$$

$F_n$ converge en probabilité vers $\frac{1}{6}$ : la fréquence d'un événement tend vers sa probabilité.

Exercice 3 : Tu lances $n$ fois une pièce équilibrée, de façon indépendante, et $S_n$ est le nombre de pile obtenus. Un joueur affirme que, d'après la loi des grands nombres, l'écart $S_n - \frac{n}{2}$ finit par devenir petit, et donc qu'après une série de face, pile devient plus probable.

a) Calcule $E\left(S_n - \frac{n}{2}\right)$ et $V\left(S_n - \frac{n}{2}\right)$.

b) Pour $n$ impair, que vaut $P\left(S_n = \frac{n}{2}\right)$ ?

c) Conclus sur l'affirmation du joueur.

Correction :

Méthode : séparer l'écart des moyennes, $\frac{S_n}{n} - \frac{1}{2}$, de l'écart des sommes, $S_n - \frac{n}{2}$.

a) $S_n$ suit la loi binomiale $\mathcal{B}\left(n, \frac{1}{2}\right)$, donc $E(S_n) = \frac{n}{2}$ et $V(S_n) = \frac{n}{4}$. D'où $E\left(S_n - \frac{n}{2}\right) = 0$ et $V\left(S_n - \frac{n}{2}\right) = \frac{n}{4}$ : son écart type, $\frac{\sqrt{n}}{2}$, grandit avec $n$.

b) $S_n$ est entier et $\frac{n}{2}$ ne l'est pas, donc $P\left(S_n = \frac{n}{2}\right) = 0$ : l'écart ne s'annule jamais, il reste au moins égal à $\frac{1}{2}$ en valeur absolue.

c) La loi des grands nombres porte sur $\frac{S_n}{n} - \frac{1}{2} = \frac{1}{n}\left(S_n - \frac{n}{2}\right)$ : c'est la division par $n$ qui écrase l'écart. Et les lancers étant indépendants, pile garde la probabilité $\frac{1}{2}$ après n'importe quelle série. On démontre même que la différence entre le nombre de pile et le nombre de face prend presque sûrement des valeurs aussi grandes que l'on veut, dans un sens comme dans l'autre (Le Gall, chapitre 10).

Le joueur se trompe : la moyenne converge par dilution, pas par compensation.

Exercices : niveau moyen

Exercice 4 : Pour estimer la proportion inconnue $p$ d'habitants d'une ville favorables à un projet, on interroge $n$ habitants tirés au hasard, de façon indépendante et avec remise. On note $F_n$ la proportion de « oui » dans l'échantillon. Trouve une taille $n$ qui garantit $P(|F_n - p| \geq 0{,}05) \leq 0{,}05$, quelle que soit la valeur de $p$.

Correction :

Méthode : Bienaymé-Tchebychev, puis une majoration de $p(1-p)$ qui ne dépend pas de $p$.

$F_n$ est la moyenne de $n$ variables de Bernoulli $\mathcal{B}(p)$ indépendantes : $E(F_n) = p$ et $V(F_n) = \frac{p(1-p)}{n}$. Or $p(1-p) = \frac{1}{4} - \left(p - \frac{1}{2}\right)^2 \leq \frac{1}{4}$, donc $$P(|F_n - p| \geq 0{,}05) \leq \frac{p(1-p)}{n \times 0{,}05^2} \leq \frac{1}{4n \times 0{,}0025} = \frac{100}{n}.$$

Et $\frac{100}{n} \leq 0{,}05 \iff n \geq 2\,000$.

Interroger $n = 2\,000$ personnes suffit.

Bienaymé-Tchebychev majore large : $2\,000$ est une taille suffisante, pas la plus petite possible.

Exercice 5 : Pour tout $n \geq 1$, $X_n$ est une variable aléatoire telle que $E(X_n) = 1 + \frac{1}{n}$ et $V(X_n) = \frac{1}{n}$.

a) Calcule $E\left((X_n - 1)^2\right)$.

b) Déduis-en, avec l'inégalité de Markov, que $P(|X_n - 1| \geq \varepsilon) \to 0$ pour tout $\varepsilon > 0$.

Correction :

Méthode : Markov appliquée à $(X_n - 1)^2$, car Bienaymé-Tchebychev mesure l'écart à $E(X_n)$, pas à 1.

a) En écrivant $X_n - 1 = \left(X_n - E(X_n)\right) + \frac{1}{n}$ et en développant, le terme croisé a une espérance nulle : $$E\left((X_n - 1)^2\right) = V(X_n) + \frac{1}{n^2} = \frac{1}{n} + \frac{1}{n^2}.$$

b) Pour $\varepsilon > 0$, $|X_n - 1| \geq \varepsilon \iff (X_n - 1)^2 \geq \varepsilon^2$. Markov appliquée à la variable positive $(X_n - 1)^2$ donne $$P(|X_n - 1| \geq \varepsilon) \leq \frac{1}{\varepsilon^2}\left(\frac{1}{n} + \frac{1}{n^2}\right) \xrightarrow[n \to +\infty]{} 0.$$

$X_n$ converge en probabilité vers 1.

Exercice 6 : $U$ suit la loi uniforme sur $[0\,;\,1]$ et $X_n = U^n$ pour $n \geq 1$.

a) Pour $\varepsilon \in \,]0\,;\,1[$, calcule $P(X_n \geq \varepsilon)$, puis montre que $X_n$ converge en probabilité vers 0.

b) Montre que la convergence a aussi lieu presque sûrement.

Correction :

Méthode : la loi de $U$ est connue, donc tu calcules la probabilité d'écart au lieu de la majorer.

a) La fonction $t \mapsto t^{1/n}$ est croissante sur $[0\,;\,+\infty[$, donc $U^n \geq \varepsilon \iff U \geq \varepsilon^{1/n}$, et $$P(X_n \geq \varepsilon) = P\left(U \geq \varepsilon^{1/n}\right) = 1 - \varepsilon^{1/n} =1 - e^{\frac{\ln \varepsilon}{n}} \xrightarrow[n \to +\infty]{} 1 - e^0 = 0.$$ Comme $X_n \geq 0$, c'est aussi $P(|X_n| \geq \varepsilon)$. Pour $\varepsilon \geq 1$, $P(X_n \geq \varepsilon) \leq P(U = 1) = 0$.

b) Sur l'événement $\{U < 1\}$, de probabilité 1, la suite géométrique $U^n$ tend vers 0. Donc $P(X_n \to 0) = 1$.

$X_n$ converge vers 0 presque sûrement, donc aussi en probabilité.

Retiens que b) suffisait pour la convergence en probabilité : la convergence presque sûre l'entraîne.

Exercices : niveau difficile

Exercice 7 : Les $X_k$ sont i.i.d. de loi uniforme sur $[-1\,;\,1]$, donc d'espérance nulle, et $M_n = \max(X_1, \dots, X_n)$.

a) Calcule $P(M_n \leq x)$ pour $x \in [-1\,;\,1]$.

b) Montre que $M_n$ converge en probabilité vers 1.

c) Un camarade affirme : « puisque $E(X_k) = 0$, si $M_n$ a une limite, c'est 0. » Qu'en penses-tu ?

Correction :

Méthode : $\{M_n \leq x\} = \bigcap_{k=1}^{n} \{X_k \leq x\}$, puis l'indépendance.

a) $P(M_n \leq x) = \prod_{k=1}^{n} P(X_k \leq x) = \left(\frac{x+1}{2}\right)^n$.

b) Comme $M_n \leq 1$, pour $0 < \varepsilon < 2$ : $$P(|M_n - 1| \geq \varepsilon) = P(M_n \leq 1 - \varepsilon) = \left(1 - \frac{\varepsilon}{2}\right)^n \xrightarrow[n \to +\infty]{} 0,$$ car $0 < 1 - \frac{\varepsilon}{2} < 1$. Pour $\varepsilon \geq 2$, $P(|M_n - 1| \geq \varepsilon) \leq P(M_n \leq -1) = 0$.

c) Il se trompe : la limite est 1. La loi des grands nombres concerne la moyenne $\overline{X}_n$, qui tend bien vers 0 ; le maximum, lui, tend vers la borne droite des valeurs possibles.

$M_n$ converge en probabilité vers 1, et non vers $E(X_k) = 0$.

Exercice 8 : Les $U_k$ sont i.i.d. de loi uniforme sur $]0\,;\,1]$, et $G_n = (U_1 U_2 \cdots U_n)^{1/n}$ est leur moyenne géométrique.

a) Calcule $E(\ln U_1)$.

b) Montre que $G_n$ converge presque sûrement et donne sa limite.

c) Compare avec la limite de la moyenne $\overline{U}_n = \frac{1}{n}\sum_{k=1}^{n} U_k$.

Correction :

Méthode : le logarithme transforme le produit en moyenne, la loi forte s'applique, puis l'exponentielle, continue, ramène à $G_n$.

a) $E(\ln U_1) = \int_0^1 \ln t \, dt = \big[t \ln t - t\big]_0^1 = -1$, car $t \ln t \to 0$ en 0. L'intégrale converge absolument, donc $\ln U_1$ a une espérance finie.

b) $\ln G_n = \frac{1}{n}\sum_{k=1}^{n} \ln U_k$, moyenne de variables i.i.d. d'espérance finie. La loi forte donne $\ln G_n \to -1$ presque sûrement, et par continuité de l'exponentielle, $G_n \to e^{-1}$ presque sûrement.

c) La loi forte donne $\overline{U}_n \to E(U_1) = \frac{1}{2}$ presque sûrement. Les deux limites diffèrent : $e^{-1} \approx 0{,}37 < \frac{1}{2}$.

$G_n \to e^{-1} \approx 0{,}37$ presque sûrement, alors que $\overline{U}_n \to \frac{1}{2}$.

Ne fais pas passer le logarithme à travers l'espérance : $E(\ln U_1) = -1$, alors que $\ln E(U_1) = \ln \frac{1}{2} \approx -0{,}69$.

Bilan et conseils

Ce qu'il faut retenir : pour une convergence en probabilité, calcule la probabilité d'écart si la loi est connue (exercices 6 et 7), sinon majore-la par Markov ou Bienaymé-Tchebychev (exercices 1, 4 et 5). Et souviens-toi que la loi des grands nombres parle de la moyenne : ni de la somme, ni du maximum.

Sources

Ministère de l'Enseignement supérieur, de la Recherche et de l'Innovation, Classes préparatoires MP et MPI : programme de mathématiques (2021), partie « Variables aléatoires discrètes ».

Jean-François Le Gall, Intégration, Probabilités et Processus Aléatoires, cours de l'École normale supérieure (2006), chapitre 10 « Convergence de variables aléatoires ».

Tu peux partager cette page librement, en citant ORBITECH AI Academy avec son lien.