Fiche de cours Logimaths | Terminale spécialité
Fiche de cours : Loi des grands nombres
Pourquoi la moyenne d'un grand échantillon colle à l'espérance
I. Sommes de variables aléatoires
Espérance et variance d'une somme
Pour des variables aléatoires X, Y et des réels a, b :
- linéarité de l'espérance (toujours vraie) : E(X + Y) = E(X) + E(Y) et E(aX + b) = aE(X) + b ;
- variance : V(aX + b) = a^2 V(X) (le a passe au carré, et le b disparaît) ;
- si X et Y sont indépendantes : V(X + Y) = V(X) + V(Y).
Pourquoi le a passe au carré
La variance mesure l'écart moyen à la moyenne. Suis un même échantillon, puis le même multiplié par 2, puis par 3 : les points s'écartent, la moyenne se décale, et chaque écart est multiplié par le même facteur.Deux détails du dessin disent la même chose, et c'est voulu : chaque trait d'écart est coupé en 2 puis en 3 morceaux égaux à l'écart de départ, et la cote rose de droite empile la même brique 2 puis 3 fois. On ne compare pas des longueurs à l'œil : on compte.
Deux autres choses se lisent :
1. on cherche de combien on s'écarte en moyenne de la moyenne. Or un écart est signé, et les écarts se compensent : les roses annulent exactement les bleus, la somme vaut 0 pour tous les échantillons du monde et ne mesurerait rien. On somme donc les écarts au carré, pour qu'ils ne soient plus signés, avant de moyenner ;
2. un écart multiplié par a devient, une fois au carré, un écart multiplié par a^2. La variance suit donc le carré du facteur, pas le facteur.
Et pourquoi prendre ensuite la racine carrée ? Parce que le carré a un prix : il change l'unité. Si X est une longueur en cm, chaque écart est en cm, mais son carré est en cm² : la variance ne mesure plus une longueur, elle mesure une aire. Impossible de la comparer aux données, ni de l'interpréter. En prenant \sigma(X) = \sqrt{V(X)} on revient en cm, et la phrase redevient lisible : « les valeurs s'écartent en moyenne de tant de centimètres ». C'est pour ça que l'écart-type est ce qu'on cite dans les résultats, pas la variance.
Deux autres choses se lisent :
1. on cherche de combien on s'écarte en moyenne de la moyenne. Or un écart est signé, et les écarts se compensent : les roses annulent exactement les bleus, la somme vaut 0 pour tous les échantillons du monde et ne mesurerait rien. On somme donc les écarts au carré, pour qu'ils ne soient plus signés, avant de moyenner ;
2. un écart multiplié par a devient, une fois au carré, un écart multiplié par a^2. La variance suit donc le carré du facteur, pas le facteur.
À toi de jouer. Déplace le curseur et regarde les trois nombres bouger ensemble : l'écart maximal suit a, la variance suit a².
Et pourquoi prendre ensuite la racine carrée ? Parce que le carré a un prix : il change l'unité. Si X est une longueur en cm, chaque écart est en cm, mais son carré est en cm² : la variance ne mesure plus une longueur, elle mesure une aire. Impossible de la comparer aux données, ni de l'interpréter. En prenant \sigma(X) = \sqrt{V(X)} on revient en cm, et la phrase redevient lisible : « les valeurs s'écartent en moyenne de tant de centimètres ». C'est pour ça que l'écart-type est ce qu'on cite dans les résultats, pas la variance.
Pourquoi le b disparaît
Même échantillon, augmenté de 7. L'erreur classique est de croire qu'ajouter une constante « déplace les points, donc change la dispersion ». Regarde ce que devient la moyenne :La flèche rose est tout l'argument : la moyenne monte de 7 elle aussi. Or un écart ne se mesure pas dans l'absolu, mais par rapport à la moyenne : si les valeurs et la moyenne montent d'autant, aucun écart ne change. Les traits sont identiques à gauche et à droite, la cote a la même hauteur, et la variance vaut 11 des deux côtés.
Le nuage n'est ni plus ni moins dispersé : il est le même, plus haut. C'est pour ça que le b n'apparaît pas dans V(aX + b) = a^2 V(X).
Le nuage n'est ni plus ni moins dispersé : il est le même, plus haut. C'est pour ça que le b n'apparaît pas dans V(aX + b) = a^2 V(X).
À toi de jouer. Fais monter b autant que tu veux : tout le nuage monte, la moyenne aussi, et la variance affichée ne bouge pas d'un chiffre.
🎮 Entraîne-toi : espérances et variances de sommes
L'espérance s'additionne toujours ; la variance sort les constantes AU CARRÉ.
II. La moyenne d'un échantillon
Échantillon et variable moyenne Mn
Un échantillon de taille n est une liste (X_1, X_2, \dots, X_n) de variables indépendantes de même loi que X. La variable aléatoire moyenne est : M_n = \dfrac{X_1 + X_2 + \dots + X_n}{n}.
C'est la moyenne qu'on observerait en répétant n fois l'expérience.
C'est la moyenne qu'on observerait en répétant n fois l'expérience.
Le théorème clé : la moyenne fluctue de moins en moins
- E(M_n) = E(X) : la moyenne vise juste ;
- V(M_n) = \dfrac{V(X)}{n} et \sigma(M_n) = \dfrac{\sigma(X)}{\sqrt{n}} : la dispersion fond quand n grandit.
🎮 Entraîne-toi : V(Mn) = V(X)/n
Divise la variance par la taille de l'échantillon (et l'écart-type par √n).
III. L'inégalité de Bienaymé-Tchebychev
Majorer les grands écarts
Pour toute variable aléatoire X et tout réel \delta > 0 : P\big(|X - E(X)| \geq \delta\big) \leq \dfrac{V(X)}{\delta^2}.
En mots : la probabilité de s'écarter de l'espérance d'au moins δ est majorée par la variance divisée par δ².
Sa force : aucune hypothèse sur la loi de X. Espérance et variance suffisent. On peut majorer sans savoir si X est binomiale, uniforme ou quoi que ce soit d'autre ; c'est rare et précieux.
Sa faiblesse : c'est la même chose. Devant être vraie pour toutes les lois, elle doit tenir pour la pire d'entre elles : elle n'exploite donc rien de ce qu'on sait de X. Le majorant tombe presque toujours très au-dessus de la vraie valeur. L'exemple ci-dessous donne 0,25 là où la vraie probabilité vaut environ 0,045, soit cinq fois moins.
À retenir : elle sert à garantir (« pas plus de tant »), jamais à approcher. Dès qu'on connaît la loi, on calcule la valeur exacte.
En mots : la probabilité de s'écarter de l'espérance d'au moins δ est majorée par la variance divisée par δ².
Sa force : aucune hypothèse sur la loi de X. Espérance et variance suffisent. On peut majorer sans savoir si X est binomiale, uniforme ou quoi que ce soit d'autre ; c'est rare et précieux.
Sa faiblesse : c'est la même chose. Devant être vraie pour toutes les lois, elle doit tenir pour la pire d'entre elles : elle n'exploite donc rien de ce qu'on sait de X. Le majorant tombe presque toujours très au-dessus de la vraie valeur. L'exemple ci-dessous donne 0,25 là où la vraie probabilité vaut environ 0,045, soit cinq fois moins.
À retenir : elle sert à garantir (« pas plus de tant »), jamais à approcher. Dès qu'on connaît la loi, on calcule la valeur exacte.
Exemple rédigé
X suit B(20 ; 0,1) : E(X) = 2, V(X) = 1,8. Avec \delta = 2\sigma(X) : \begin{aligned}P\big(|X - 2| \geq 2\sigma\big) &\leq \dfrac{V(X)}{4V(X)} \\ &= 0{,}25\end{aligned}
La simulation donne environ 0,045 : l'inégalité est vraie mais loin d'être optimale, et c'est une question classique (« que constate-t-on ? »).
La simulation donne environ 0,045 : l'inégalité est vraie mais loin d'être optimale, et c'est une question classique (« que constate-t-on ? »).
🎮 Entraîne-toi : le majorant de Bienaymé-Tchebychev
Majorant = V(X) divisé par δ².
Traduire une phrase ⇄ une inégalité
Une écriture comme {P\big(|X - 2| \geq 3\big) \leq 0{,}2} contient deux signes d'inégalité. Ils ne parlent pas de la même chose, et c'est tout le sujet :
Dans l'autre sens, on relit chaque signe à sa place : le \geq de la valeur absolue redonne « l'écart est d'au moins… », le \leq extérieur redonne « a au plus telle probabilité ».
Le piège. Ce qui est majoré, c'est une probabilité, jamais X. {P\big(|X - 2| \geq 3\big) \leq 0{,}2} ne garantit pas que X reste entre −1 et 5 : il dit seulement qu'un écart d'au moins 3 arrive au plus une fois sur cinq. Rien n'interdit à X de s'écarter beaucoup ; c'est seulement rare.
- celui à l'intérieur de P(\ldots) décrit l'événement : |X - 2| \geq 3 signifie « X s'écarte d'au moins 3 de la valeur 2 » ;
- celui à l'extérieur porte sur la probabilité de cet événement : elle vaut au plus 0,2.
| Dans la phrase | Où ? | Ce qu'on écrit |
|---|---|---|
| « l'écart entre X et 2 est d'au moins 3 » | l'événement | |X - 2| \geq 3 |
| « X s'éloigne de son espérance d'au moins δ » | l'événement | |X - E(X)| \geq \delta |
| « cette probabilité est au plus 0,2 » (= « est majorée par », « est inférieure ou égale à ») | la probabilité | P(\ldots) \leq 0{,}2 |
Le piège. Ce qui est majoré, c'est une probabilité, jamais X. {P\big(|X - 2| \geq 3\big) \leq 0{,}2} ne garantit pas que X reste entre −1 et 5 : il dit seulement qu'un écart d'au moins 3 arrive au plus une fois sur cinq. Rien n'interdit à X de s'écarter beaucoup ; c'est seulement rare.
🎮 Entraîne-toi : d'une phrase à l'inégalité
« d'au moins » = ≥ dans la valeur absolue ; « majorée par » = ≤ sur la probabilité.
🎮 Entraîne-toi : de l'inégalité à la conclusion
Relis l'inégalité : c'est un encadrement de probabilité, pas une certitude.
IV. Concentration et loi des grands nombres
L'inégalité de concentration
Appliquée à la moyenne M_n (dont la variance est V(X)/n), Bienaymé-Tchebychev devient : {P\big(|M_n - E(X)| \geq \delta\big) \leq \dfrac{V(X)}{n\delta^2}}.
Usage phare : déterminer une taille d'échantillon garantissant une précision donnée (sondages, contrôle qualité).
Usage phare : déterminer une taille d'échantillon garantissant une précision donnée (sondages, contrôle qualité).
La loi des grands nombres
\displaystyle\lim_{n \to +\infty} P\big(|M_n - E(X)| \geq \delta\big) = 0 pour tout δ > 0 : quand la taille de l'échantillon explose, la moyenne observée finit par coller à l'espérance d'aussi près qu'on veut.
L'analogie de la pièce. Lance une pièce équilibrée et note la fréquence de pile. Sur 10 lancers, obtenir 7 piles n'a rien d'exceptionnel : la fréquence observée vaut 0,7, très loin de 0,5. Sur 1 000 000 de lancers, un tel écart devient impossible en pratique : l'inégalité de concentration donne déjà\begin{aligned}P\big(|M_{1\,000\,000} - 0{,}5| \geq 0{,}005\big) &\leq \dfrac{V(X)}{n\delta^2} && \quad \text{d'après l'inégalité de concentration} \\ &\leq \dfrac{0{,}25}{1\,000\,000 \times 0{,}005^2} \\ &\leq \dfrac{0{,}25}{25} \\ &\leq \mathbf{0{,}01}\end{aligned}autrement dit : la fréquence de pile tombe entre 0,495 et 0,505 avec une probabilité d'au moins 0,99. Ce n'est pas la pièce qui « se corrige » : c'est le nombre de lancers qui écrase l'écart.
C'est aussi ce qui autorise à estimer une probabilité inconnue en la simulant un très grand nombre de fois (méthodes de Monte-Carlo).
L'analogie de la pièce. Lance une pièce équilibrée et note la fréquence de pile. Sur 10 lancers, obtenir 7 piles n'a rien d'exceptionnel : la fréquence observée vaut 0,7, très loin de 0,5. Sur 1 000 000 de lancers, un tel écart devient impossible en pratique : l'inégalité de concentration donne déjà\begin{aligned}P\big(|M_{1\,000\,000} - 0{,}5| \geq 0{,}005\big) &\leq \dfrac{V(X)}{n\delta^2} && \quad \text{d'après l'inégalité de concentration} \\ &\leq \dfrac{0{,}25}{1\,000\,000 \times 0{,}005^2} \\ &\leq \dfrac{0{,}25}{25} \\ &\leq \mathbf{0{,}01}\end{aligned}autrement dit : la fréquence de pile tombe entre 0,495 et 0,505 avec une probabilité d'au moins 0,99. Ce n'est pas la pièce qui « se corrige » : c'est le nombre de lancers qui écrase l'écart.
C'est aussi ce qui autorise à estimer une probabilité inconnue en la simulant un très grand nombre de fois (méthodes de Monte-Carlo).
Exemple rédigé : dimensionner un échantillon
X suit une loi de Bernoulli de paramètre 0,2 :\begin{aligned}V(X) &= p(1 - p) \\ &= 0{,}2 \times 0{,}8 \\ &= 0{,}16\end{aligned}On veut que la probabilité de s'écarter d'au moins 0,17 de la moyenne soit au plus 0,05. Il suffit que le majorant de l'inégalité de concentration le soit :\begin{aligned}\dfrac{V(X)}{n\delta^2} \leq 0{,}05 &\iff \dfrac{0{,}16}{n \times 0{,}17^2} \leq 0{,}05 \\ &\iff \dfrac{0{,}16}{n \times 0{,}0289} \leq 0{,}05 \\ &\iff 0{,}16 \leq 0{,}05 \times 0{,}0289 \times n && \quad \text{car } n > 0 \\ &\iff 0{,}16 \leq 0{,}001445\,n \\ &\iff n \geq \dfrac{0{,}16}{0{,}001445} \\ &\approx 110{,}7\end{aligned}n est un nombre de personnes, donc un entier : il faut aller au-dessus de 110,7, et n = 111 suffit.
👆 ▶ À toi : E(X) = 3, V(X) = 0,2. Majore P(|M₁₀₀ − 3| ≥ 0,1) pour un échantillon de taille 100. Vérifie
Ici V(X) = 0{,}2, n = 100 et \delta = 0{,}1 :\begin{aligned}P\big(|M_{100} - 3| \geq 0{,}1\big) &\leq \dfrac{V(X)}{n\delta^2} && \quad \text{d'après l'inégalité de concentration} \\ &\leq \dfrac{0{,}2}{100 \times 0{,}1^2} \\ &\leq \dfrac{0{,}2}{100 \times 0{,}01} \\ &\leq \dfrac{0{,}2}{1} \\ &\leq \mathbf{0{,}2}\end{aligned}Avec un échantillon 100 fois plus grand :\begin{aligned}P\big(|M_{10\,000} - 3| \geq 0{,}1\big) &\leq \dfrac{0{,}2}{10\,000 \times 0{,}01} \\ &\leq \dfrac{0{,}2}{100} \\ &\leq \mathbf{0{,}002}\end{aligned}
Interprétation du résultat : en multipliant la taille de l'échantillon par 100, on divise le majorant par 100. C'est ça, « la moyenne se concentre ».
🎮 Entraîne-toi : trouver la taille d'échantillon
Résous V(X)/(n δ²) ≤ seuil : n ≥ V(X)/(seuil × δ²).