Espérance et variance d'une somme · Échantillons, inégalités de concentration, loi des grands nombres
Une variable aléatoire décrit une expérience ; en pratique on en répète beaucoup : on lance deux dés et l'on additionne, on assure dix mille clients, on interroge mille personnes. Ce chapitre étudie ce qui se passe quand on additionne des variables aléatoires. L'espérance s'additionne toujours ; la variance s'additionne seulement pour des variables indépendantes. Appliqué à un échantillon de $n$ répétitions, ce résultat explique pourquoi la moyenne observée se resserre autour de l'espérance quand $n$ grandit : son écart-type est divisé par $\sqrt{n}$. Les inégalités de Bienaymé-Tchebychev et de concentration en donnent une version chiffrée, et la loi des grands nombres en est la conclusion : la fréquence d'un événement tend vers sa probabilité. C'est le fondement des sondages, des assurances et du contrôle de qualité.
Somme de variables aléatoires et linéarité de l'espérance (Tle)
Soit $X$ et $Y$ deux variables aléatoires définies sur un même univers, et $a$, $b$ deux réels.
Définitions :
$X + Y$ est la variable aléatoire qui à chaque issue associe la somme des valeurs de $X$ et de $Y$ ; $aX + b$ associe $a$ fois la valeur de $X$, plus $b$.
Linéarité de l'espérance :
$E(X + Y) = E(X) + E(Y)$ et $E(aX + b) = a\,E(X) + b$, sans aucune hypothèse d'indépendance.
Variance d'une transformation affine :
$V(aX + b) = a^{2}\,V(X)$ et $\sigma(aX + b) = |a|\,\sigma(X)$ : ajouter une constante ne disperse pas, multiplier par $a$ multiplie l'écart-type par $|a|$.
On lance deux dés équilibrés ; $X$ et $Y$ sont les résultats et $S = X + Y$ la somme. $E(X) = E(Y) = 3{,}5$, donc $E(S) = 7$ sans avoir à écrire la loi de $S$ (onze valeurs). Le gain $G = 2X - 3$ a pour espérance $2 \times 3{,}5 - 3 = 4$.
Exercice 1 — Espérance et variance d'une somme, étape par étape (Tle)
On lance deux dés équilibrés ; $X$ et $Y$ désignent les résultats.
$V(T) = V(X)$ et $E(T) = E(X) + 10 = 13{,}5$ : décaler toutes les valeurs de $10$ déplace la moyenne sans changer la dispersion.
Variance d'une somme de variables indépendantes (Tle)
Indépendance :
$X$ et $Y$ sont indépendantes si, pour toutes valeurs $x$ et $y$, $P(X = x \text{ et } Y = y) = P(X = x) \times P(Y = y)$. C'est le cas quand elles décrivent deux expériences sans influence l'une sur l'autre (deux dés, deux tirages avec remise).
Théorème :
si $X$ et $Y$ sont indépendantes, $V(X + Y) = V(X) + V(Y)$, et donc $\sigma(X + Y) = \sqrt{V(X) + V(Y)}$.
Attention :
sans indépendance, la formule est fausse en général : $V(X + X) = V(2X) = 4V(X) \neq 2V(X)$. Les écarts-types, eux, ne s'additionnent jamais.
Exercice 2 — Additionner des variances (Tle)
Pour la somme $S$ de deux dés, calculer $V(S)$ et $\sigma(S)$ (arrondi au centième).
Soit $D = X - Y$ la différence des deux dés. Calculer $E(D)$ et $V(D)$ (on pourra écrire $D = X + (-Y)$).
$X$ suit $\mathcal{B}(10 \,;\, 0{,}3)$ et $Y$ suit $\mathcal{B}(5 \,;\, 0{,}3)$, indépendantes. Quelle est la loi de $X + Y$ ? Vérifier la cohérence avec les formules d'espérance et de variance.
Donner un exemple de deux variables $X$ et $Y$ de même variance non nulle telles que $V(X + Y) = 0$. Sont-elles indépendantes ?
▶ Solution — Exercice 2
Les dés sont indépendants : $V(S) = \dfrac{35}{12} + \dfrac{35}{12} = \dfrac{35}{6} \approx 5{,}83$ et $\sigma(S) \approx 2{,}42$.
$E(D) = E(X) - E(Y) = 0$. $-Y$ a pour variance $(-1)^{2} V(Y) = V(Y)$ et reste indépendante de $X$ : $V(D) = V(X) + V(Y) = \dfrac{35}{6}$. La différence est aussi dispersée que la somme.
$X$ compte les succès de $10$ épreuves de Bernoulli indépendantes de paramètre $0{,}3$, $Y$ ceux de $5$ autres épreuves indépendantes des premières : $X + Y$ compte les succès de $15$ épreuves indépendantes, donc suit $\mathcal{B}(15 \,;\, 0{,}3)$. Vérification : $E(X) + E(Y) = 3 + 1{,}5 = 4{,}5 = 15 \times 0{,}3$ et $V(X) + V(Y) = 2{,}1 + 1{,}05 = 3{,}15 = 15 \times 0{,}3 \times 0{,}7$. ✓
$Y = -X$ : $X + Y = 0$, de variance nulle, alors que $V(X) + V(Y) = 2V(X) \neq 0$. Elles ne sont pas indépendantes (connaître $X$ détermine $Y$), ce qui explique l'échec de la formule.
Échantillon de taille $n$, somme et moyenne (Tle)
Un échantillon de taille $n$ d'une variable $X$ est une liste $X_1, X_2, …, X_n$ de variables indépendantes suivant toutes la loi de $X$ (répétition de la même expérience). On note $\mu = E(X)$ et $\sigma = \sigma(X)$.
la moyenne d'un échantillon vise juste (espérance $\mu$) et se resserre autour de $\mu$ quand $n$ augmente, mais lentement : pour diviser $\sigma(M_n)$ par $10$, il faut multiplier $n$ par $100$.
Cas de Bernoulli :
si $X$ suit $\mathcal{B}(p)$, alors $S_n$ suit $\mathcal{B}(n \,;\, p)$ : on retrouve $E = np$ et $V = np(1 - p)$. La moyenne $M_n$ est alors la fréquence de succès.
Exercice 3 — Somme et moyenne d'un échantillon, étape par étape (Tle)
À un jeu, le gain $X$ d'une partie (en euros) a pour espérance $0{,}5$ et pour écart-type $2$. Un joueur fait $n = 100$ parties indépendantes ; $S_{100}$ est son gain total et $M_{100}$ son gain moyen par partie.
Combien de parties faudrait-il pour que $\sigma(M_n) \leqslant 0{,}05$ ?
On note $X_i$ la variable qui vaut $1$ si la partie $i$ est gagnée (probabilité $p$) et $0$ sinon. Quelle est la loi de $X_1 + \cdots + X_n$ ? Retrouver son espérance et sa variance à partir de celles de $X_1$.
Les $X_i$ suivent $\mathcal{B}(p)$, indépendantes : la somme suit $\mathcal{B}(n \,;\, p)$. Comme $E(X_1) = p$ et $V(X_1) = p(1 - p)$, on obtient $E = np$ et $V = np(1 - p)$ : les formules de la loi binomiale sont un cas particulier des formules d'échantillon.
Inégalités de concentration et loi des grands nombres (Tle)
Inégalité de Bienaymé-Tchebychev :
pour toute variable $X$ et tout réel $\delta > 0$,
$$
P\left(|X - E(X)| \geqslant \delta\right) \leqslant \dfrac{V(X)}{\delta^{2}}.
$$
Elle majore la probabilité de s'écarter de l'espérance d'au moins $\delta$, quelle que soit la loi.
Inégalité de concentration :
pour la moyenne $M_n$ d'un échantillon de $X$,
$$
P\left(|M_n - \mu| \geqslant \delta\right) \leqslant \dfrac{V(X)}{n\,\delta^{2}}.
$$
Loi (faible) des grands nombres :
pour tout $\delta > 0$, $P\left(|M_n - \mu| \geqslant \delta\right)$ tend vers $0$ quand $n$ tend vers $+\infty$ : la moyenne d'un grand échantillon est, avec une probabilité proche de $1$, aussi proche de $\mu$ que l'on veut. En particulier la fréquence d'un événement tend vers sa probabilité.
Lecture :
ces inégalités donnent des majorants, souvent grossiers ; leur force est de ne rien supposer sur la loi de $X$.
Méthode : utiliser une inégalité de concentration
Identifier $\mu = E(X)$, $V(X)$ et l'écart $\delta$ toléré (l'événement doit s'écrire $|M_n - \mu| \geqslant \delta$ ou $|X - E(X)| \geqslant \delta$).
Appliquer l'inégalité pour majorer la probabilité de l'écart, ou passer au contraire pour minorer $P(|M_n - \mu| < \delta)$.
Pour dimensionner un échantillon, résoudre $\dfrac{V(X)}{n\,\delta^{2}} \leqslant$ (seuil voulu) en $n$.
$X$ a pour espérance $10$ et pour variance $4$. Alors $P(|X - 10| \geqslant 4) \leqslant \dfrac{4}{16} = 0{,}25$ : la probabilité que $X$ sorte de $\mathopen{]}6 \,;\, 14\mathclose{[}$ est au plus $0{,}25$, donc $P(6 < X < 14) \geqslant 0{,}75$.
Exercice 4 — Appliquer l'inégalité de Bienaymé-Tchebychev (Tle)
Soit $X$ une variable aléatoire suivant la loi $\mathcal{B}(20 \,;\, 0{,}5)$.
Calculer $E(X)$ et $V(X)$.
Majorer $P(|X - 10| \geqslant 5)$ à l'aide de l'inégalité de Bienaymé-Tchebychev.
À l'aide de la calculatrice, on trouve $P(X \leqslant 5) \approx 0{,}0207$. En déduire la valeur exacte approchée de $P(|X - 10| \geqslant 5)$ et commenter la qualité du majorant.
Que donne l'inégalité pour $\delta = 2$ ? Que peut-on en conclure ?
$|X - 10| \geqslant 5$ signifie $X \leqslant 5$ ou $X \geqslant 15$ ; par symétrie de la loi $\mathcal{B}(20 \,;\, 0{,}5)$, ces deux événements ont la même probabilité : $P \approx 2 \times 0{,}0207 \approx 0{,}041$. Le majorant $0{,}2$ est cinq fois trop grand : l'inégalité est vraie mais grossière, car elle ne tient pas compte de la forme de la loi.
$\dfrac{5}{4} = 1{,}25 > 1$ : l'inégalité ne dit rien d'utile (une probabilité est toujours inférieure à $1$). Elle n'a d'intérêt que pour $\delta > \sigma(X)$.
Exercice 5 — Inégalité de concentration et loi des grands nombres (Tle)
On lance $n$ fois une pièce équilibrée et l'on note $F_n$ la fréquence de « pile » obtenue.
Justifier que $F_n$ est la moyenne d'un échantillon d'une variable $X$ dont on précisera l'espérance et la variance.
Montrer que $P(|F_n - 0{,}5| \geqslant 0{,}1) \leqslant \dfrac{25}{n}$. Que vaut ce majorant pour $n = 100$ ? pour $n = 1\,000$ ?
On lance maintenant un dé et $G_n$ est la fréquence du « 6 ». Quelle taille garantit $P\left(\left|G_n - \dfrac{1}{6}\right| \geqslant 0{,}05\right) \leqslant 0{,}01$ ?
Énoncer ce que dit la loi des grands nombres dans ces deux situations.
▶ Solution — Exercice 5
$F_n = \dfrac{X_1 + \cdots + X_n}{n}$ où $X_i$ vaut $1$ si le $i$-ième lancer donne pile, $0$ sinon : les $X_i$ sont indépendantes de loi $\mathcal{B}(0{,}5)$, avec $E(X) = 0{,}5$ et $V(X) = 0{,}5 \times 0{,}5 = 0{,}25$.
Inégalité de concentration avec $\delta = 0{,}1$ : $P(|F_n - 0{,}5| \geqslant 0{,}1) \leqslant \dfrac{0{,}25}{n \times 0{,}01} = \dfrac{25}{n}$. Pour $n = 100$ : $0{,}25$ ; pour $n = 1\,000$ : $0{,}025$.
$\dfrac{25}{n} \leqslant 0{,}01 \iff n \geqslant 2\,500$ lancers.
Quand $n$ devient grand, la probabilité que la fréquence de pile s'écarte de $0{,}5$ de plus de $0{,}1$ (ou de tout écart fixé) tend vers $0$ ; de même la fréquence du 6 se rapproche de $\dfrac{1}{6}$. La fréquence observée tend vers la probabilité : c'est ce qui justifie d'estimer une probabilité inconnue par une fréquence sur un grand échantillon.
Exercice 6 — Problème en contexte : contrôle de qualité (Tle)
Une machine produit des pièces dont $2$ % sont défectueuses, indépendamment les unes des autres. On prélève un lot de $500$ pièces ; $S$ est le nombre de pièces défectueuses et $F = \dfrac{S}{500}$ la proportion observée.
Quelle est la loi de $S$ ? Calculer $E(S)$, $V(S)$ et $\sigma(S)$ (arrondi au centième).
Majorer la probabilité que le lot contienne au moins $20$ pièces défectueuses.
Majorer $P(|F - 0{,}02| \geqslant 0{,}01)$.
Quelle taille de lot faudrait-il pour que cette probabilité soit majorée par $0{,}05$ ?
$F$ est la moyenne d'un échantillon de taille $500$ d'une variable de Bernoulli de variance $0{,}02 \times 0{,}98 = 0{,}0196$ : $P(|F - 0{,}02| \geqslant 0{,}01) \leqslant \dfrac{0{,}0196}{500 \times 0{,}0001} = 0{,}392$.
Exercice 7 — Problème en contexte : pourquoi une assurance mutualise (Tle)
Pour un assuré, le coût annuel $X$ des sinistres (en euros) a pour espérance $200$ et pour écart-type $1\,000$. L'assureur fait payer une prime de $230$ € à chacun de ses $n$ assurés, supposés indépendants. On note $S_n$ le coût total et $M_n$ le coût moyen par assuré.
Exprimer $E(S_n)$, $\sigma(S_n)$ et $\sigma(M_n)$ en fonction de $n$. Calculer $\sigma(M_n)$ pour $n = 100$, $10\,000$ et $1\,000\,000$.
L'assureur est en perte si $S_n > 230n$. Montrer que cet événement entraîne $|S_n - 200n| \geqslant 30n$, puis majorer sa probabilité en fonction de $n$.
Calculer ce majorant pour $n = 10\,000$ et $n = 100\,000$. Conclure sur l'intérêt d'avoir beaucoup d'assurés.
▶ Solution — Exercice 7
$E(S_n) = 200n$, $\sigma(S_n) = 1\,000\sqrt{n}$ et $\sigma(M_n) = \dfrac{1\,000}{\sqrt{n}}$ : $100$ € pour $n = 100$, $10$ € pour $n = 10\,000$, $1$ € pour $n = 1\,000\,000$. Le coût moyen par assuré devient presque certain.
$S_n > 230n \iff S_n - 200n > 30n$, ce qui entraîne $|S_n - 200n| \geqslant 30n$. Par Bienaymé-Tchebychev avec $\delta = 30n$ : $P(\text{perte}) \leqslant \dfrac{V(S_n)}{(30n)^{2}} = \dfrac{10^{6}\,n}{900\,n^{2}} = \dfrac{10^{6}}{900\,n} \approx \dfrac{1\,111}{n}$.
$n = 10\,000$ : au plus $0{,}11$ ; $n = 100\,000$ : au plus $0{,}011$. Plus le nombre d'assurés est grand, plus le coût moyen se concentre autour de $200$ € et plus la prime de $230$ € couvre les sinistres avec une probabilité proche de $1$ : c'est la mutualisation, application directe de la loi des grands nombres.
Erreurs classiques à éviter
Erreur
Exemple faux
Correction
Additionner les variances sans indépendance
« $V(X + X) = 2V(X)$ »
$V(2X) = 4V(X)$ ; la formule exige l'indépendance
Additionner les écarts-types
« $\sigma(X + Y) = \sigma(X) + \sigma(Y)$ »
ce sont les variances qui s'ajoutent : $\sigma(X + Y) = \sqrt{V(X) + V(Y)}$
Oublier le carré dans $V(aX)$
« $V(3X) = 3V(X)$ »
$V(3X) = 9V(X)$ et $\sigma(3X) = 3\sigma(X)$
Confondre somme et moyenne
« $\sigma(M_n) = \sqrt{n}\,\sigma$ »
c'est $\sigma(S_n)$ ; pour la moyenne, $\sigma(M_n) = \dfrac{\sigma}{\sqrt{n}}$
Lire une inégalité comme une égalité
« $P(|X - 10| \geqslant 4) = 0{,}25$ »
l'inégalité de Bienaymé-Tchebychev donne un majorant, souvent très large
Exercice 8 — QCM (Tle)
Pour chaque question, une seule réponse est correcte.
Si $E(X) = 2$ et $E(Y) = 5$, alors $E(X + Y)$ vaut :
A. $10$
B. $3{,}5$
C. $7$ seulement si $X$ et $Y$ sont indépendantes
D. $7$ dans tous les cas
Si $X$ et $Y$ sont indépendantes avec $V(X) = 3$ et $V(Y) = 1$, alors $V(X - Y)$ vaut :
A. $2$
B. $4$
C. $3$
D. $16$
Pour la moyenne $M_n$ d'un échantillon de taille $n$ d'une variable d'écart-type $\sigma$, on a $\sigma(M_n) = $
A. $\dfrac{\sigma}{n}$
B. $\sqrt{n}\,\sigma$
C. $\dfrac{\sigma}{\sqrt{n}}$
D. $\sigma$
Si $E(X) = 5$ et $V(X) = 2$, l'inégalité de Bienaymé-Tchebychev donne $P(|X - 5| \geqslant 2) \leqslant$
A. $0{,}5$
B. $1$
C. $0{,}25$
D. $2$
▶ Solution — Exercice 8
Réponse D. La linéarité de l'espérance ne demande aucune hypothèse.
A : $10 = 2 \times 5$ serait un produit, sans rapport.
B : $3{,}5$ est la moyenne des deux espérances, pas leur somme.
C : l'indépendance n'est nécessaire que pour la variance.
Réponse B. $X - Y = X + (-Y)$ avec $V(-Y) = V(Y)$ : $V(X - Y) = 3 + 1 = 4$.
A : on ne soustrait jamais des variances ; une variance est toujours positive.
C : la variance de $Y$ a été oubliée.
D : $16 = 4^{2}$ confond variance et carré.
Réponse C. $V(M_n) = \dfrac{\sigma^{2}}{n}$, donc $\sigma(M_n) = \dfrac{\sigma}{\sqrt{n}}$.
A : c'est la variance qui est divisée par $n$, pas l'écart-type.
B : c'est l'écart-type de la somme $S_n$.
D : la moyenne est moins dispersée que $X$ ; c'est tout l'intérêt d'un échantillon.
Réponse A. $\dfrac{V(X)}{\delta^{2}} = \dfrac{2}{4} = 0{,}5$.
B : le majorant $1$ est toujours vrai mais n'est pas celui donné par l'inégalité.
C : $0{,}25 = \dfrac{1}{\delta^{2}}$ oublie la variance.
D : une probabilité ne dépasse pas $1$ ; $2 = \dfrac{V(X)}{\delta}$ oublie le carré.
Exercice 9 — Vrai ou faux ?
Pour chaque affirmation, dire si elle est vraie ou fausse et justifier :
$E(X + Y) = E(X) + E(Y)$ même si $X$ et $Y$ ne sont pas indépendantes.
$V(X + Y) = V(X) + V(Y)$ pour toutes variables aléatoires $X$ et $Y$.
$V(2X) = 2V(X)$.
L'écart-type de la moyenne $M_n$ d'un échantillon tend vers $0$ quand $n$ tend vers $+\infty$.
D'après la loi des grands nombres, $M_n$ est égale à $E(X)$ dès que $n$ est assez grand.
Une variable de loi $\mathcal{B}(n \,;\, p)$ est une somme de $n$ variables de Bernoulli indépendantes de paramètre $p$.
L'inégalité de Bienaymé-Tchebychev donne la valeur exacte de $P(|X - E(X)| \geqslant \delta)$.
Si $X$ et $Y$ sont indépendantes, alors $\sigma(X + Y) \leqslant \sigma(X) + \sigma(Y)$.
▶ Solution — Exercice 9
Vrai. C'est la linéarité de l'espérance, valable sans hypothèse.
Faux. Contre-exemple $Y = X$ : $V(2X) = 4V(X) \neq 2V(X)$. La formule exige l'indépendance.