Estimation Statistique
Objets mathématiques utilisés en statistique
Un vecteur de données est de taille (la taille de l'échantillon). Ces données sont réalisées par des variables aléatoires .
est définie sur un univers . Si est fini, alors on dit que est une variable aléatoire discrète. Dans le cas contraire, est continue.
On note également les éléments de l'univers (appelés issues). Elles sont aléatoires, tout comme .
Une fonction de répartition d'une variable aléatoire est définie tel que :
Une fonction de masse d'une variable aléatoire est définie tel que :
On peut écrire la fonction de répartition à partir de la fonction de masse .
À faire :
- Def espérance
- Def Variance (plusieurs)
- théorème de transfert
Variables Aléatoires Usuelles Discrètes
Loi uniforme
Une variable aléatoire X suis une loi de uniforme ( ) si
Alors, et . On a également
Loi de Bernoulli
Une variable aléatoire suis une loi de Bernoulli ( ) si et
Alors, et
Loi Binomiale
Une variable aléatoire suis une loi Binomiale ( ) si
Alors, et
Une loi binomiale correspond à la répétition de n loi de Bernoulli .
Loi de Poisson
Une variable aléatoire suis une loi de Poisson ( ) si
Alors, et
Cette loi modélise des événements indépendants qui ont lieu peu souvent.
Variables Aléatoires Usuelles Continues
Loi Uniforme Continue
Une variable aléatoire X suis une loi de uniforme ( ) si
Loi Géométrique
Une variable aléatoire suis une loi Géométrique ( ) si . Alors,
Alors, et
Cette loi modélise des la répétition d'une épreuve de Bernoulli jusqu'à son premier succès.
Loi Normale
Une variable aléatoire suis une loi Géométrique ( ) si
Alors, et
Agrégation des variables aléatoires
Soit v.a. iid d'espérance et de variance . On note l'agrégation des variables aléatoires. Son espérance vaut et sa variance .
- Version faible :
- Version forte :
Avec une variable aléatoire agrégée (qu'on aime noter ), on peut appliquer le théorème central limite :
Il est principalement utilisé pour justifier la construction d'Intervalles de confiance.
L'agrégation de lancés de pièces tend vers la quantité , donc si on enlève l'espérance tend vers 0 (loi normal).
Propriétés sur les variables aléatoires
En statistiques, on travaille avec des variables aléatoires mutuellement indépendantes (1) et identiquement distribués (2). On abrège en iid.
Avec la notion de fonction de masse/densité :
Dépendance par rapport à des paramètres
Toute loi dépend d'un ou plusieurs paramètre(s) (que nous noterons ).
On note la fonction de densité/masse sachant . Une même loi avec des paramétrisations différentes donne des résultats différents.
Notion de statistique
Une statistique est une fonction quelconque des données .
Le but des statistiques est de faire parler les données. Un exemple de statistique serait la moyenne empirique ou le maximum .
En mathématiques, on aura besoin d'une loi de probabilité et/ou d'une variable aléatoire pour remplacer les données.
Un estimateur d'une grandeur est une statistique à valeur dans des possibles.
Elle prend en argument l'ensemble des variables aléatoires considérées .
La plupart du temps, les estimateurs nous serrons donnés.
Qualité d'un estimateur
On peut quantifier la qualité d'un estimateur avec les outils suivants :
Biais
On le note , et il mesure la précision de par rapport à . est dit sans biais si .
Variance d'un estimateur
quantifie les fluctuations de autour de son espérance .
Consistance
Si , alors est consistant pour .
Erreur Quadratique
L'erreur quadratique moyenne d'un estimateur de est noté et on a :
Le meilleur estimateur possible de est un estimateur sans biais et de variance minimal.