Soutenance de stage Laboratoire des Signaux et Systèmes Bornes inférieures bayésiennes de l'erreur quadratique moyenne. Application à la localisation de points de rupture. M2R ATSI Université Paris-Sud ENS Cachan CentraleSupélec Lucien Bacharach
Déroulement de la présentation 1. Estimation paramétrique (contexte déterministe) Performances en estimation Borne déterministe d estimation (Cramér-Rao) Exemple : cisoïde 2. Bornes bayésiennes Passage au bayésien, performances Les bornes bayésiennes Application à la cisoïde 3. Application au problème des points de rupture Contexte, modèle Résultats analytiques : expression des bornes Résultats simulations 4. Conclusions et perspectives
Déroulement de la présentation 1. Estimation paramétrique (contexte déterministe) Performances en estimation Borne déterministe d estimation (Cramér-Rao) Exemple : cisoïde 2. Bornes bayésiennes Passage au bayésien, performances Les bornes bayésiennes Application à la cisoïde 3. Application au problème des points de rupture Contexte, modèle Résultats analytiques : expression des bornes Résultats simulations 4. Conclusions et perspectives
Estimation paramétrique Paramètres Observations (bruitées) Performances Comment estimer? Quels algorithmes? Comment caractériser les performances? (quelle «distance» utiliser?) Applications : analyse spectrale, télécom, radar / sonar, imagerie, finance, etc.
Distribution des estimées Estimation paramétrique : performances Évaluer la qualité d un estimateur : Biais et variance de l estimateur : Mesure de la distance entre et Erreur quadratique moyenne Biais Variance
Estimation paramétrique : contexte déterministe Algorithme d estimation : maximum de vraisemblance Propriétés statistiques asymptotiques intéressantes : asymptotiquement efficace. Obtention d une valeur approchée de l EQM : simulations de Monte-Carlo (calculs lourds)
Performances : bornes inférieures de l EQM Limites ultimes de performances pour un estimateur? Bornes inférieures de l EQM : références Borne de Cramér-Rao pour un estimateur non-biaisé θ d un paramètre (scalaire) Borne simple à calculer, couramment utilisée.
Estimation paramétrique : fréquence d une exponentielle complexe (cisoïde) Modèle : Avec Estimateur du maximum de vraisemblance :
Estimation paramétrique : fréquence d une exponentielle complexe Critère Critère à fort RSB θ 0 = 0,25
Estimation paramétrique : fréquence d une exponentielle complexe Critère Critère à faible RSB : estimation biaisée
Estimation paramétrique : fréquence d une exponentielle complexe Borne de Cramér-Rao Modèle d observations gaussiennes à moyenne paramétrée : Formule de Slepian-Bang (simplification : 1 seul paramètre, variance indépendante de θ) Expression de la borne de Cramér-Rao
Estimation paramétrique : fréquence d une exponentielle complexe Borne de Cramér-Rao Bon comportement asymptotique de l estimation Phénomène de décrochement non prédit Borne trop optimiste à faible RSB
Déroulement de la présentation 1. Estimation paramétrique (contexte déterministe) Performances en estimation Borne déterministe d estimation (Cramér-Rao) Exemple : cisoïde 2. Bornes bayésiennes Passage au bayésien, performances Les bornes bayésiennes Application à la cisoïde 3. Application au problème des points de rupture Contexte, modèle Résultats analytiques : expression des bornes Résultats simulations 4. Conclusions et perspectives
Passage au bayésien Paramètre à estimer θ est désormais supposé aléatoire : Traduit l information dont on dispose a priori sur les paramètres Évaluation des performances? Notion d erreur quadratique moyenne globale Moyenne de l EQM locale par rapport à p θ. Estimateur du maximum a posteriori
Bornes bayésiennes : généralités et borne de Cramér-Rao bayésienne Weiss et Weinstein, 1988 : Pour toute fonction ψ vérifiant : Inégalité générale : Borne de Cramér-Rao bayésienne :
Bornes bayésiennes : borne de Weiss- Weinstein Borne de Weiss-Weinstein : Davantage de degrés de liberté : Maximisation par rapport à h et s borne précise
Bornes bayésiennes : retour à l exemple de la cisoïde
Performances : bornes inférieures de l EQM
Déroulement de la présentation 1. Estimation paramétrique (contexte déterministe) Performances en estimation Borne déterministe d estimation (Cramér-Rao) Exemple : cisoïde 2. Bornes bayésiennes Passage au bayésien, performances Les bornes bayésiennes Application à la cisoïde 3. Application au problème des points de rupture Contexte, modèle Résultats analytiques : expression des bornes Résultats simulations 4. Conclusions et perspectives
Application à l estimation de la localisation de points de rupture Variation brusque des paramètres statistiques d un signal Applications :
Estimation de points de rupture : modèle Modèle : Hypothèses : Signal échantillonné Échantillons indépendants Un seul point de rupture Paramètres statistiques du signal connus (moyenne, variance) Borne de Cramér-Rao non définie
Estimation de points de rupture : bornes Borne de Barankin déterministe Ne requiert pas de différenciation (contrairement à la borne de Cramér-Rao) Application à l estimation de points de rupture : Ferrari & Tourneret, 2003. Borne de Weiss-Weinstein (contexte bayésien) A priori uniforme : Expression de la borne
Estimation de points de rupture : cas de données gaussiennes Cas du changement de moyenne Expression de l estimateur du MAP :
Estimation de points de rupture : cas de données gaussiennes Expression de la borne de Weiss-Weinstein pour le changement de moyenne :
Estimation de points de rupture : cas de données gaussiennes Cas du changement de variance Expression de l estimateur du MAP Expression de la borne de Weiss-Weinstein
Estimation de points de rupture : cas de données gaussiennes Cas du changement de variance
Estimation de points de rupture : cas de données poissonniennes Changement du paramètre lambda Expression de l estimateur du MAP
Estimation de points de rupture : cas de données poissonniennes Écart plus faible avec la borne de Weiss-Weinstein que celle de Barankin
Déroulement de la présentation 1. Estimation paramétrique (contexte déterministe) Performances en estimation Borne déterministe d estimation (Cramér-Rao) Exemple : cisoïde 2. Bornes bayésiennes Passage au bayésien, performances Les bornes bayésiennes Application à la cisoïde 3. Application au problème des points de rupture Contexte, modèle Résultats analytiques : expression des bornes Résultats simulations 4. Conclusions et perspectives
Conclusions et perspectives Bilan Intérêts des bornes bayésiennes (Weiss-Weinstein) Prise en compte du support des paramètres Borne plus précise (décrochement) Peu de conditions de régularité nécessaires Application : points de rupture Contexte de séries gaussiennes et poissonniennes Gain en précision par rapport au contexte déterministe (Barankin) Perspectives Estimation de P points de rupture (P supposé connu) Paramètres du signal supposés inconnus Séries non indépendantes (type ARMA)