L'essentiel à connaître
$X_n$ converge en probabilité vers $X$, noté $X_n\xrightarrow{P}X$, si pour tout $\varepsilon>0$, $P(|X_n-X|\geqslant\varepsilon)\to 0$ : avec une probabilité qui tend vers $1$, $X_n$ est à moins de $\varepsilon$ de $X$. $X_n$ converge en loi vers $X$, noté $X_n\xrightarrow{\mathcal L}X$, si $F_{X_n}(x)\to F_X(x)$ en tout point $x$ où $F_X$ est continue, avec $F_X(x)=P(X\leqslant x)$ la fonction de répartition : seules les lois se rapprochent.
Exemple : si $X$ suit la loi $\mathcal N(0,1)$ et $X_n=-X$, $X_n$ a la loi de $X$ par symétrie, donc converge en loi vers $X$. Mais $|X_n-X|=2|X|$ ne tend pas vers $0$ : aucune convergence en probabilité.
Propriété : la convergence en probabilité entraîne la convergence en loi. La réciproque est fausse, sauf si la limite est une constante $c$ : alors $X_n\xrightarrow{\mathcal L}c$ entraîne $X_n\xrightarrow{P}c$. Pour des variables à valeurs dans $\mathbb N$, $X_n\xrightarrow{\mathcal L}X$ équivaut à $P(X_n=k)\to P(X=k)$ pour tout entier $k$ (cours de licence 3 de l'université de Strasbourg).
Les deux grands théorèmes portent sur des $X_i$ indépendantes, de même loi, d'espérance $\mu$ et de variance $\sigma^2>0$ finie, avec $S_n=X_1+\dots+X_n$ et $\overline{X}_n=\frac{S_n}{n}$. La loi faible des grands nombres affirme que $\overline{X}_n\xrightarrow{P}\mu$. Elle découle de l'inégalité de Bienaymé-Tchebychev, $P(|Y-E(Y)|\geqslant\varepsilon)\leqslant\frac{V(Y)}{\varepsilon^2}$, appliquée à $\overline{X}_n$, dont la variance vaut $\frac{\sigma^2}{n}$.
Formule : théorème central limite (TCL) : $\dfrac{S_n-n\mu}{\sigma\sqrt{n}}\xrightarrow{\mathcal L}\mathcal N(0,1)$. Pour $n$ grand, on approche donc $P(S_n\leqslant a)$ par $\Phi\left(\frac{a-n\mu}{\sigma\sqrt{n}}\right)$, où $\Phi$ est la fonction de répartition de $\mathcal N(0,1)$.
Pour trouver une limite en loi, calcule $F_{X_n}(x)$ ou $P(X_n>x)$, puis fais tendre $n$ vers l'infini. Retiens aussi une limite classique : si $X_n$ suit la loi binomiale $\mathcal B\left(n,\frac{\lambda}{n}\right)$, alors $X_n$ converge en loi vers la loi de Poisson $\mathcal P(\lambda)$.
Piège classique : la convergence en loi ne dit rien du lien entre les variables. Si $X_n\xrightarrow{\mathcal L}X$ et $Y_n\xrightarrow{\mathcal L}Y$, rien n'assure que $X_n+Y_n\xrightarrow{\mathcal L}X+Y$. De même, $X_n\xrightarrow{P}X$ n'entraîne pas $E(X_n)\to E(X)$.
Quiz : teste tes connaissances
Les questions montent en difficulté : les trois dernières sont les plus piégeuses.
Question 1 : Que signifie $X_n\xrightarrow{P}X$ ?
Réponse : B. C'est la définition : l'écart $|X_n-X|$ reste sous $\varepsilon$ avec une probabilité qui tend vers $1$. A en demande trop : $X_n=X+\frac{1}{n}$ converge en probabilité vers $X$, alors que $P(X_n=X)=0$ pour tout $n$.
Question 2 : On note $F_n$ et $F$ les fonctions de répartition de $X_n$ et de $X$. Que signifie $X_n\xrightarrow{\mathcal L}X$ ?
Réponse : D. Seuls comptent les points où $F$ est continue. A est le piège : là où $F$ saute, $F_n(x)$ peut ne pas tendre vers $F(x)$ alors que les lois se rapprochent.
Question 3 : Quel lien est vrai pour toute suite $(X_n)$ et toute variable $X$ ?
Réponse : C. C'est le théorème du cours : des valeurs proches donnent des lois proches. A est faux : $X_n=-X$, avec $X$ de loi $\mathcal N(0,1)$, converge en loi vers $X$ sans converger en probabilité.
Question 4 : Les $X_i$ sont indépendantes, de même loi, d'espérance $\mu$ et de variance $\sigma^2$ finie. Vers quoi $\overline{X}_n=\frac{X_1+\dots+X_n}{n}$ converge-t-elle en probabilité ?
Réponse : A. C'est la loi faible des grands nombres : $V(\overline{X}_n)=\frac{\sigma^2}{n}$ tend vers $0$, donc la moyenne se resserre autour de $\mu$. C est le piège : la loi normale vient du TCL, qui porte sur $\frac{\sqrt{n}}{\sigma}(\overline{X}_n-\mu)$, pas sur $\overline{X}_n$ seule.
Question 5 : On lance 100 fois une pièce équilibrée, et $Y$ est la fréquence de pile obtenue. Quel majorant de $P(|Y-0{,}5|\geqslant 0{,}1)$ donne l'inégalité de Bienaymé-Tchebychev ?
Réponse : C. $E(Y)=0{,}5$ et $V(Y)=\frac{0{,}5\times 0{,}5}{100}=0{,}0025$, donc le majorant vaut $\frac{0{,}0025}{0{,}1^2}=0{,}25$. A vient d'un carré oublié : on divise par $\varepsilon^2=0{,}01$, pas par $\varepsilon=0{,}1$.
Question 6 : Les $X_i$ sont indépendantes, de même loi, d'espérance $2$ et de variance $9$, et $S_n=X_1+\dots+X_n$. Quelle suite converge en loi vers $\mathcal N(0,1)$ ?
Réponse : B. $E(S_n)=2n$ et $V(S_n)=9n$ : on centre par $2n$, puis on divise par l'écart-type $\sqrt{9n}=3\sqrt{n}$. A est le piège : diviser par $3n$ donne $\frac{\overline{X}_n-2}{3}$, qui tend vers $0$ par la loi des grands nombres.
Question 7 : Pour $n\geqslant 3$, $X_n$ suit la loi binomiale $\mathcal B\left(n,\frac{3}{n}\right)$. Vers quelle loi $X_n$ converge-t-elle en loi ?
Réponse : D. Pour tout entier $k$, $P(X_n=k)=\binom{n}{k}\left(\frac{3}{n}\right)^k\left(1-\frac{3}{n}\right)^{n-k}$ tend vers $e^{-3}\frac{3^k}{k!}$, ce qui suffit pour des variables entières. A est le piège : le TCL porte sur des variables de loi fixe, alors qu'ici le paramètre $\frac{3}{n}$ change avec $n$.
Question 8 : On sait que $X_n\xrightarrow{\mathcal L}2$, où $2$ désigne la variable constante égale à $2$. Que peut-on en déduire ?
Réponse : A. Quand la limite en loi est une constante, la convergence en probabilité suit : c'est la réciproque partielle du cours. B est le piège : $X_n=2+\frac{1}{n}$ converge en loi vers $2$, mais $P(X_n=2)=0$ pour tout $n$.
Question 9 : $X_n$ suit la loi uniforme sur $\left\{\frac{1}{n}\,;\,\frac{2}{n}\,;\,\dots\,;\,1\right\}$. Que dire de la suite $(X_n)$ ?
Réponse : A. Pour $x\in[0\,;\,1]$, la fonction de répartition de $X_n$ vaut $\frac{\lfloor nx\rfloor}{n}$ ($\lfloor nx\rfloor$ est la partie entière de $nx$), comprise entre $x-\frac{1}{n}$ et $x$ : elle tend vers $x$, fonction de répartition de la loi uniforme sur $[0\,;\,1]$. B est le piège : des lois discrètes peuvent converger vers une loi à densité, comme dans le TCL appliqué à des lancers de pièce.
Question 10 : On lance 400 fois une pièce équilibrée, et $S$ compte les piles. Avec $\Phi$ la fonction de répartition de $\mathcal N(0,1)$, que vaut environ $P(S\leqslant 220)$ d'après le TCL ?
Réponse : D. $E(S)=400\times 0{,}5=200$ et $V(S)=400\times 0{,}5\times 0{,}5=100$, donc l'écart-type vaut $10$ et $P(S\leqslant 220)\approx\Phi\left(\frac{220-200}{10}\right)=\Phi(2)$. B divise par la variance au lieu de l'écart-type, et A prend $\sqrt{400}$ comme écart-type en oubliant le facteur $0{,}5\times 0{,}5$.
Question 11 : $U_1,\dots,U_n$ sont indépendantes, de loi uniforme sur $[0\,;\,1]$, et $M_n=\max(U_1,\dots,U_n)$. Vers quelle loi $n(1-M_n)$ converge-t-elle en loi ?
Réponse : B. Pour $x\geqslant 0$ et $n\geqslant x$, $P(n(1-M_n)>x)=P\left(M_n<1-\frac{x}{n}\right)=\left(1-\frac{x}{n}\right)^n$, qui tend vers $e^{-x}$ : c'est la loi exponentielle de paramètre $1$. D est le piège : $1-M_n$ tend bien vers $0$, mais le facteur $n$ compense exactement cette chute.
Question 12 : $X$ suit la loi $\mathcal N(0,1)$ et, pour tout $n$, $X_n=X$ et $Y_n=-X$. Les deux suites convergent en loi vers $X$. Vers quelle loi $X_n+Y_n$ converge-t-elle ?
Réponse : C. $X_n+Y_n=X-X=0$ pour tout $n$. B est le piège : il additionne les limites en loi ($X+X=2X$, de loi $\mathcal N(0,4)$). C'est interdit, car la loi d'une somme dépend du lien entre les deux variables, que leurs lois seules ne donnent pas.
Question 13 : $X_n$ vaut $n$ avec la probabilité $\frac{1}{n}$, et $0$ sinon. Quelle affirmation est vraie ?
Réponse : B. Pour $\varepsilon>0$, $P(|X_n|\geqslant\varepsilon)\leqslant P(X_n=n)=\frac{1}{n}\to 0$, et $E(X_n)=n\times\frac{1}{n}=1$. A est le piège : la convergence en probabilité ne passe pas aux espérances, car une valeur rare mais énorme suffit à maintenir l'espérance à $1$.
Question 14 : $X_n$ est la variable constante $\frac{1}{n}$, et $F$ la fonction de répartition de la constante $0$. Pour tout $n$, $P(X_n\leqslant 0)=0$, alors que $F(0)=1$. Que conclure ?
Réponse : D. Pour $x<0$, $P(X_n\leqslant x)=0=F(x)$, et pour $x>0$, $P(X_n\leqslant x)=1=F(x)$ dès que $\frac{1}{n}\leqslant x$. Seul le point $0$ résiste, et la définition l'exclut car $F$ n'y est pas continue. A est le piège : il oublie cette exclusion, alors que la suite converge même en probabilité.
Sources
Laurent Gardes, Probabilités et intégration, cours de licence 3, université de Strasbourg, 2022, chapitre 2 « Convergence de variables aléatoires ».