Soutenance de stage Laboratoire des Signaux et Systèmes

Transcription

1 Soutenance de stage Laboratoire des Signaux et Systèmes Bornes inférieures bayésiennes de l'erreur quadratique moyenne. Application à la localisation de points de rupture. M2R ATSI Université Paris-Sud ENS Cachan CentraleSupélec Lucien Bacharach

2 Déroulement de la présentation 1. Estimation paramétrique (contexte déterministe) Performances en estimation Borne déterministe d estimation (Cramér-Rao) Exemple : cisoïde 2. Bornes bayésiennes Passage au bayésien, performances Les bornes bayésiennes Application à la cisoïde 3. Application au problème des points de rupture Contexte, modèle Résultats analytiques : expression des bornes Résultats simulations 4. Conclusions et perspectives

3 Déroulement de la présentation 1. Estimation paramétrique (contexte déterministe) Performances en estimation Borne déterministe d estimation (Cramér-Rao) Exemple : cisoïde 2. Bornes bayésiennes Passage au bayésien, performances Les bornes bayésiennes Application à la cisoïde 3. Application au problème des points de rupture Contexte, modèle Résultats analytiques : expression des bornes Résultats simulations 4. Conclusions et perspectives

4 Estimation paramétrique Paramètres Observations (bruitées) Performances Comment estimer? Quels algorithmes? Comment caractériser les performances? (quelle «distance» utiliser?) Applications : analyse spectrale, télécom, radar / sonar, imagerie, finance, etc.

5 Distribution des estimées Estimation paramétrique : performances Évaluer la qualité d un estimateur : Biais et variance de l estimateur : Mesure de la distance entre et Erreur quadratique moyenne Biais Variance

6 Estimation paramétrique : contexte déterministe Algorithme d estimation : maximum de vraisemblance Propriétés statistiques asymptotiques intéressantes : asymptotiquement efficace. Obtention d une valeur approchée de l EQM : simulations de Monte-Carlo (calculs lourds)

7 Performances : bornes inférieures de l EQM Limites ultimes de performances pour un estimateur? Bornes inférieures de l EQM : références Borne de Cramér-Rao pour un estimateur non-biaisé θ d un paramètre (scalaire) Borne simple à calculer, couramment utilisée.

8 Estimation paramétrique : fréquence d une exponentielle complexe (cisoïde) Modèle : Avec Estimateur du maximum de vraisemblance :

9 Estimation paramétrique : fréquence d une exponentielle complexe Critère Critère à fort RSB θ 0 = 0,25

10 Estimation paramétrique : fréquence d une exponentielle complexe Critère Critère à faible RSB : estimation biaisée

11 Estimation paramétrique : fréquence d une exponentielle complexe Borne de Cramér-Rao Modèle d observations gaussiennes à moyenne paramétrée : Formule de Slepian-Bang (simplification : 1 seul paramètre, variance indépendante de θ) Expression de la borne de Cramér-Rao

12 Estimation paramétrique : fréquence d une exponentielle complexe Borne de Cramér-Rao Bon comportement asymptotique de l estimation Phénomène de décrochement non prédit Borne trop optimiste à faible RSB

13 Déroulement de la présentation 1. Estimation paramétrique (contexte déterministe) Performances en estimation Borne déterministe d estimation (Cramér-Rao) Exemple : cisoïde 2. Bornes bayésiennes Passage au bayésien, performances Les bornes bayésiennes Application à la cisoïde 3. Application au problème des points de rupture Contexte, modèle Résultats analytiques : expression des bornes Résultats simulations 4. Conclusions et perspectives

14 Passage au bayésien Paramètre à estimer θ est désormais supposé aléatoire : Traduit l information dont on dispose a priori sur les paramètres Évaluation des performances? Notion d erreur quadratique moyenne globale Moyenne de l EQM locale par rapport à p θ. Estimateur du maximum a posteriori

15 Bornes bayésiennes : généralités et borne de Cramér-Rao bayésienne Weiss et Weinstein, 1988 : Pour toute fonction ψ vérifiant : Inégalité générale : Borne de Cramér-Rao bayésienne :

16 Bornes bayésiennes : borne de Weiss- Weinstein Borne de Weiss-Weinstein : Davantage de degrés de liberté : Maximisation par rapport à h et s borne précise

17 Bornes bayésiennes : retour à l exemple de la cisoïde

18 Performances : bornes inférieures de l EQM

19 Déroulement de la présentation 1. Estimation paramétrique (contexte déterministe) Performances en estimation Borne déterministe d estimation (Cramér-Rao) Exemple : cisoïde 2. Bornes bayésiennes Passage au bayésien, performances Les bornes bayésiennes Application à la cisoïde 3. Application au problème des points de rupture Contexte, modèle Résultats analytiques : expression des bornes Résultats simulations 4. Conclusions et perspectives

20 Application à l estimation de la localisation de points de rupture Variation brusque des paramètres statistiques d un signal Applications :

21 Estimation de points de rupture : modèle Modèle : Hypothèses : Signal échantillonné Échantillons indépendants Un seul point de rupture Paramètres statistiques du signal connus (moyenne, variance) Borne de Cramér-Rao non définie

22 Estimation de points de rupture : bornes Borne de Barankin déterministe Ne requiert pas de différenciation (contrairement à la borne de Cramér-Rao) Application à l estimation de points de rupture : Ferrari & Tourneret, Borne de Weiss-Weinstein (contexte bayésien) A priori uniforme : Expression de la borne

23 Estimation de points de rupture : cas de données gaussiennes Cas du changement de moyenne Expression de l estimateur du MAP :

24 Estimation de points de rupture : cas de données gaussiennes Expression de la borne de Weiss-Weinstein pour le changement de moyenne :

25 Estimation de points de rupture : cas de données gaussiennes Cas du changement de variance Expression de l estimateur du MAP Expression de la borne de Weiss-Weinstein

26 Estimation de points de rupture : cas de données gaussiennes Cas du changement de variance

27 Estimation de points de rupture : cas de données poissonniennes Changement du paramètre lambda Expression de l estimateur du MAP

28 Estimation de points de rupture : cas de données poissonniennes Écart plus faible avec la borne de Weiss-Weinstein que celle de Barankin

29 Déroulement de la présentation 1. Estimation paramétrique (contexte déterministe) Performances en estimation Borne déterministe d estimation (Cramér-Rao) Exemple : cisoïde 2. Bornes bayésiennes Passage au bayésien, performances Les bornes bayésiennes Application à la cisoïde 3. Application au problème des points de rupture Contexte, modèle Résultats analytiques : expression des bornes Résultats simulations 4. Conclusions et perspectives

30 Conclusions et perspectives Bilan Intérêts des bornes bayésiennes (Weiss-Weinstein) Prise en compte du support des paramètres Borne plus précise (décrochement) Peu de conditions de régularité nécessaires Application : points de rupture Contexte de séries gaussiennes et poissonniennes Gain en précision par rapport au contexte déterministe (Barankin) Perspectives Estimation de P points de rupture (P supposé connu) Paramètres du signal supposés inconnus Séries non indépendantes (type ARMA)