Fiche d'exercices : Loi des grands nombres

1. Somme de deux variables.\begin{aligned}E(X + Y) &= E(X) + E(Y) && \quad \text{par linéarité de l'espérance} \\ &= 4 + 1 \\ &= \mathbf{5}\end{aligned}\begin{aligned}V(X + Y) &= V(X) + V(Y) && \quad \text{car } X \text{ et } Y \text{ sont indépendantes} \\ &= 2 + 3 \\ &= \mathbf{5}\end{aligned}2. Transformation affine.\begin{aligned}E(5X - 2) &= 5\,E(X) - 2 && \quad \text{par linéarité de l'espérance} \\ &= 5 \times 4 - 2 \\ &= \mathbf{18}\end{aligned}\begin{aligned}V(5X) &= 5^2\,V(X) && \quad \text{car } \text{la constante sort au carré} \\ &= 25 \times 2 \\ &= \mathbf{50}\end{aligned}

On note X_1,\ \ldots,\ X_{30} les 30 variables de l'énoncé, de sorte que {X = X_1 + \cdots + X_{30}}.

1. L'espérance.
Chaque variable aléatoire X_i suit une loi de Bernoulli de paramètre p = 0{,}4, donc E(X_i) = 0{,}4 :\begin{aligned}E(X) &= E(X_1 + X_2 + \cdots + X_{30}) \\ &= E(X_1) + E(X_2) + \cdots + E(X_{30}) && \quad \text{par linéarité de l'espérance} \\ &= 30 \times 0{,}4 \\ &= \mathbf{12}\end{aligned}2. La variance.
Chaque variable aléatoire X_i suit une loi de Bernoulli de paramètre p = 0{,}4 :\begin{aligned}V(X_i) &= p(1 - p) \\ &= 0{,}4 \times 0{,}6 \\ &= 0{,}24\end{aligned}\begin{aligned}V(X) &= V(X_1 + X_2 + \cdots + X_{30}) \\ &= V(X_1) + V(X_2) + \cdots + V(X_{30}) && \quad \text{car } \text{les variables sont indépendantes} \\ &= 30 \times 0{,}24 \\ &= \mathbf{7{,}2}\end{aligned}

Remarque : on retrouve bien les formules du cours pour une loi binomiale, à savoir E(X) = np et V(X) = np(1 - p).

Par définition, la moyenne d'un échantillon de taille 9 est {M_9 = \dfrac{X_1 + X_2 + \cdots + X_9}{9}}, où les X_i suivent toutes la loi de X, et sont indépendantes.

1. Pour n = 9.\begin{aligned}E(M_9) &= E\left(\dfrac{X_1 + X_2 + \cdots + X_9}{9}\right) \\ &= \dfrac{1}{9}\big(E(X_1) + E(X_2) + \cdots + E(X_9)\big) && \quad \text{par linéarité de l'espérance} \\ &= \dfrac{1}{9} \times 9 \times E(X) && \quad \text{car } \text{chaque } X_i \text{ suit la loi de } X \\ &= 1 \times E(X) \\ &= \mathbf{12}\end{aligned}\begin{aligned}V(M_9) &= V\left(\dfrac{X_1 + X_2 + \cdots + X_9}{9}\right) \\ &= \dfrac{1}{9^2} \times V(X_1 + X_2 + \cdots + X_9) && \quad \text{car } \text{la constante sort au carré} \\ &= \dfrac{1}{81}\big(V(X_1) + V(X_2) + \cdots + V(X_9)\big) && \quad \text{car } \text{les variables sont indépendantes} \\ &= \dfrac{1}{81} \times 9 \times V(X) && \quad \text{car } \text{chaque } X_i \text{ suit la loi de } X \\ &= \dfrac{V(X)}{9} \\ &= \dfrac{9}{9} \\ &= \mathbf{1}\end{aligned}\begin{aligned}\sigma(M_9) &= \sqrt{V(M_9)} && \quad \text{par définition de l'écart-type} \\ &= \sqrt{1} \\ &= \mathbf{1}\end{aligned}2. La taille n cherchée.
On a d'abord besoin de l'écart-type de X :\begin{aligned}\sigma(X) &= \sqrt{V(X)} && \quad \text{par définition de l'écart-type} \\ &= \sqrt{9} \\ &= 3\end{aligned}Le calcul du 1. se refait avec n à la place de 9 : V(M_n) = \dfrac{V(X)}{n}, donc en prenant la racine :\begin{aligned}\sigma(M_n) &= \dfrac{\sigma(X)}{\sqrt{n}} \\ &= \dfrac{3}{\sqrt{n}}\end{aligned}On cherche n tel que cet écart-type vaille 0,3 :\begin{aligned}\dfrac{3}{\sqrt{n}} = 0{,}3 &\iff \sqrt{n} = \dfrac{3}{0{,}3} \\ &\iff \sqrt{n} = 10 \\ &\iff n = \mathbf{100}\end{aligned}

Diviser l'écart-type par 10 demande donc 100 fois plus de données : c'est toute la difficulté des sondages.

Avant tout calcul, on relit l'énoncé comme en seconde : |X - 50| est la distance entre X et 50. L'événement |X - 50| \geq 10 décrit donc les valeurs situées à au moins 10 du centre :1. C'est exactement la forme de l'inégalité de concentration (dite de Bienaymé-Tchebychev), qui majore la probabilité de s'écarter de l'espérance d'au moins un rayon donné :
P(|X - E(X)| \geq \delta) \leq \dfrac{V(X)}{\delta^2}.
Ici E(X) = 50, V(X) = 25 et \delta = 10 :\begin{aligned}P(|X - 50| \geq 10) &\leq \dfrac{V(X)}{\delta^2} && \quad \text{d'après l'inégalité de concentration} \\ &\leq \dfrac{25}{10^2} \\ &\leq \dfrac{25}{100} \\ &\leq \mathbf{0{,}25}\end{aligned}2. Sur la figure, la zone bleue est exactement le contraire de la zone rose : passer de l'une à l'autre, c'est passer au complémentaire.\begin{aligned}P(40 < X < 60) &\geq 1 - P(|X - 50| \geq 10) && \quad \text{par passage au complémentaire} \\ &\geq 1 - 0{,}25 \\ &\geq \mathbf{0{,}75}\end{aligned}

1. L'énoncé donne E(X) = 10, et l'écart demandé est \delta = 5 :\begin{aligned}P(|X - 10| \geq 5) &\leq \dfrac{V(X)}{\delta^2} && \quad \text{d'après l'inégalité de concentration} \\ &\leq \dfrac{5}{5^2} \\ &\leq \dfrac{5}{25} \\ &\leq \mathbf{0{,}2}\end{aligned}2. Le majorant est correct, mais il vaut près de cinq fois la vraie valeur :\begin{aligned}\dfrac{0{,}2}{0{,}041} &\approx \mathbf{4{,}9}\end{aligned}

C'est normal : l'inégalité de concentration vaut pour toutes les lois, sans rien savoir de X à part son espérance et sa variance. Elle est donc forcément prudente. Elle sert à garantir, pas à approcher : quand on connaît la loi (ici une binomiale), on calcule la valeur exacte.

1. L'inégalité s'applique à M_n, pas à X : c'est la fréquence observée qu'on veut encadrer. Il faut donc SA variance, celle calculée à l'exercice 3 :\begin{aligned}V(M_n) &= \dfrac{V(X)}{n} && \quad \text{d'après l'exercice 3} \\ &= \dfrac{0{,}25}{n}\end{aligned}L'espérance de M_n vaut E(X) = 0{,}5, et l'écart demandé est \delta = 0{,}05 :\begin{aligned}P(|M_n - 0{,}5| \geq 0{,}05) &\leq \dfrac{V(M_n)}{\delta^2} && \quad \text{d'après l'inégalité de concentration} \\ &\leq \dfrac{0{,}25}{n \times 0{,}05^2} \\ &\leq \dfrac{0{,}25}{n \times 0{,}0025} \\ &\leq \dfrac{\mathbf{100}}{n}\end{aligned}2. On cherche la taille n qui rend ce majorant au plus égal à 0,1 :\begin{aligned}\dfrac{100}{n} \leq 0{,}1 &\iff 100 \leq 0{,}1\,n && \quad \text{car } n > 0 \\ &\iff n \geq \dfrac{100}{0{,}1} \\ &\iff n \geq \mathbf{1000}\end{aligned}

Interprétation du résultat : mille lancers suffisent pour garantir, au sens de Tchebychev, une fréquence de pile comprise entre 0,45 et 0,55 avec une probabilité d'au moins 0,9.

1. La valeur limite et le théorème.
Chaque lancer donne un résultat X équiprobable dans \{1{,}\,2{,}\,3{,}\,4{,}\,5{,}\,6\}, et M_N est la moyenne d'un échantillon de taille N de la loi de X :\begin{aligned}E(X) &= \dfrac{1 + 2 + 3 + 4 + 5 + 6}{6} \\ &= \dfrac{21}{6} \\ &= \mathbf{3{,}5}\end{aligned}C'est la loi des grands nombres qui l'affirme : pour tout \delta > 0,\begin{aligned}\displaystyle\lim_{N \to +\infty} P\big(|M_N - E(X)| \geq \delta\big) &= 0\end{aligned}autrement dit la probabilité que la moyenne observée s'écarte de E(X) de plus de δ tend vers 0. M_N se stabilise donc vers 3,5.

Remarque : 3,5 n'est aucune des six faces du dé. La moyenne d'un très grand nombre de lancers n'a aucune raison d'être une valeur possible pour UN lancer.

2. Les deux valeurs simulées.
Dire « 3,52 est plus proche de 3,5 que 3,81 » ne suffit pas : encore faut-il comparer chaque écart à la fluctuation attendue pour cette taille d'échantillon, c'est-à-dire à \sigma(M_N). Il faut donc d'abord la variance de X :\begin{aligned}E(X^2) &= \dfrac{1^2 + 2^2 + 3^2 + 4^2 + 5^2 + 6^2}{6} \\ &= \dfrac{91}{6}\end{aligned}\begin{aligned}V(X) &= E(X^2) - \big(E(X)\big)^2 && \quad \text{par la formule de la variance} \\ &= \dfrac{91}{6} - 3{,}5^2 \\ &= \dfrac{35}{12} \\ &\approx 2{,}917\end{aligned}\begin{aligned}\sigma(X) &= \sqrt{V(X)} && \quad \text{par définition de l'écart-type} \\ &\approx \mathbf{1{,}708}\end{aligned}L'exercice 3 a établi que V(M_N) = \dfrac{V(X)}{N}, d'où en prenant la racine :\begin{aligned}\sigma(M_N) &= \dfrac{\sigma(X)}{\sqrt{N}}\end{aligned}On peut alors mesurer chaque écart observé en nombre d'écarts-types :

• pour N = 100, \sigma(M_{100}) \approx 0{,}171 alors que l'écart observé vaut 0,31, soit environ 1,8 écart-type ;
• pour N = 10 000, \sigma(M_{10\,000}) \approx 0{,}017 alors que l'écart observé vaut 0,02, soit environ 1,2 écart-type.

Les deux écarts sont du même ordre que la fluctuation attendue : ces valeurs sont donc parfaitement cohérentes. On voit au passage ce que dit vraiment la loi des grands nombres : ce n'est pas l'écart de 0,31 qui est anormal à N = 100, c'est qu'un tel écart devienne pratiquement impossible à N = 10 000, où l'écart-type a été divisé par 10 parce que \sqrt{N} a été multiplié par 10.

3. Le principe de Monte-Carlo.
L'idée tient en une phrase : une probabilité est une espérance. Si A est l'événement dont on cherche la probabilité p, on pose Y la variable aléatoire qui vaut 1 quand A se produit et 0 sinon. Y suit une loi de Bernoulli de paramètre p, donc E(Y) = p.
Simuler N fois l'expérience et relever la proportion de fois où A s'est produit, c'est exactement calculer la moyenne M_N d'un échantillon de taille N de la loi de Y. La loi des grands nombres s'applique donc à cette proportion : elle se stabilise vers E(Y) = p.
C'est tout le principe des méthodes de Monte-Carlo : quand un calcul de probabilité est trop difficile à mener, on le remplace par un grand nombre de simulations. Et l'inégalité de concentration donne même le N nécessaire pour une précision voulue, exactement comme à l'exercice 6.

1. On réutilise les deux résultats de l'exercice 3. La variable de Bernoulli associée a pour paramètre p = 0{,}3, donc E(X) = 0{,}3 :\begin{aligned}E(M_n) &= E(X) && \quad \text{d'après l'exercice 3} \\ &= \mathbf{0{,}3}\end{aligned}\begin{aligned}V(M_n) &= \dfrac{V(X)}{n} && \quad \text{d'après l'exercice 3} \\ &= \dfrac{\mathbf{0{,}21}}{n}\end{aligned}2. Avec n = 2100 et un écart \delta = 0{,}02 :\begin{aligned}P(|M_n - 0{,}3| \geq 0{,}02) &\leq \dfrac{V(M_n)}{\delta^2} && \quad \text{d'après l'inégalité de concentration} \\ &\leq \dfrac{0{,}21}{2100 \times 0{,}02^2} \\ &\leq \dfrac{0{,}21}{0{,}84} \\ &\leq \mathbf{0{,}25}\end{aligned}3. Interprétation du résultat : « Avec 2100 sondés, la probabilité que la fréquence observée s'éloigne de plus de 0,02 de la vraie proportion 0,3, autrement dit qu'elle sorte de [0{,}28\,;0{,}32], est d'au plus 25 %. »

Remarque : en pratique cette probabilité est bien plus faible, comme à l'exercice 5. L'inégalité de concentration garantit, elle n'optimise pas.