Processus aléaoires Définiion d un processus aléaoire Processus aléaoires saionnaires Moyenne, foncion d auocorrélaion e foncion d auocovariance d un processus aléaoire Foncion d inercorrélaion de processus aléaoires Processus aléaoires ergodiques Processus aléaoires complexes
Définiion d un processus aléaoire En élécommunicaions, on renconre des signaux, els que le brui ou de la voix par exemple, qui son des foncions du emps mais qui son aussi imprévisibles. Ces foncions aléaoires du emps peuven êre représenées par des processus aléaoires. On défini un processus aléaoire, ou encore processus sochasique, X(), comme un ensemble de foncions emporelles auxquelles on associe des probabiliés de se réaliser. Ainsi, pour un poin de l'espace d'échanillonnage s i dans S, on obien une foncion emporelle x i () : x () (, ) i = Xi si, avec si S
Définiion d un processus aléaoire Concep de processus aléaoire S R(s) s x () X() s x () - 3 4 5 6 7 8 9 s 3 s 4 x 3 () x 4 () - - - 3 4 5 6 7 8 9 3 4 5 6 7 8 9 3 4 5 6 7 8 9
Processus aléaoires saionnaires Plusieurs processus aléaoires on la caracérisique saisique d'êre invarian dans le emps, c'es-à-dire que le fai de les observer à différens insans ne change pas leurs propriéés saisiques. Considérons, par exemple, un processus sochasique X() à k insans bien définis dans le emps: X( ), X( ),, X( k ). On obien ainsi, un ensemble de k variables aléaoires..5 X() -.5-3 4 5 6 7 8 9 X( ) X( ) X( k )
Processus aléaoires saionnaires La disribuion conjoine de ces k variables aléaoires peu êre décrie par leur foncion de répariion conjoine. Supposons que nous faisions la même série de k observaions de ce processus aléaoires X() mais avec un délai arbiraire de τ secondes. On obien ainsi une nouvelle série de k variables aléaoires: X( + τ), X( + τ),, X( k + τ) :.5 X() -.5 τ τ τ - 3 4 5 6 7 8 9 X( ) X( +τ) X( ) X( +τ) X( k ) X( k +τ)
Processus aléaoires saionnaires Un processus aléaoire es di saionnaire au sens sric si, pour oues les valeurs de emps d'observaion,, k, quelque soi k, e ous les décalages τ : F x x F x x ( ) ( )(,,,, ) ( ) ( )( ) k =,, + τ + τ,, k X X X X k k Auremen di, un processus aléaoire X() es saionnaire au sens sric si la disribuion conjoine de n'impore quelle combinaison de variables aléaoires, obenues par l'observaion de X() à différens insans, es invarian dans le emps.
Processus aléaoires conjoinemen saionnaires De manière similaire, on dira de deux processus aléaoires, X()e Y(), qu'ils son conjoinemen saionnaires au sens sric si la disribuion conjoine de oue combinaison de variables aléaoires, X( ),, X( k ), Y( k+ ),, Y( l ), es invariane dans le emps. F x x y y )( ) ( ) ( ) ( ) (,,,,,,,, k,..., + τ + τ + τ + τ j X X Y Y k k+ k+ j = F x x y y )( ) ( ) ( ) ( ) (,,,,,,,, k,..., j X X Y Y k k+ k+ j
Moyenne, foncion d auocorrélaion e foncion d auocovariance d un processus aléaoire La moyenne d'un processus aléaoire X() es définie comme éan la moyenne de la variable aléaoire X au emps : () [ ] ()( ) µ X = E X() xf x dx = X La moyenne du processus X(), dépend en général du emps. Si le processus aléaoire X() es saionnaire, alors sa foncion de densié de probabilié, f X() (x), ne dépend plus du emps d'observaion e sa moyenne µ X() = µ X, c'es-à-dire une consane.
Moyenne, foncion d auocorrélaion e foncion d auocovariance d un processus aléaoire - 3 4 5 6 7 8 9 ( ) ( )( ) µ X xf x dx X = - 3 4 5 6 7 8 9-3 4 5 6 7 8 9-3 4 5 6 7 8 9 µ ( ) µ X ( ) ( X ) X k µ
Moyenne, foncion d auocorrélaion e foncion d auocovariance d un processus aléaoire La foncion d'auocorrélaion d'un processus aléaoire X() es l'espérance mahémaique du produi des variables aléaoires X( ) e X( ) obenues aux insans e. ( ) [ ] ( ) ( )( ) R, = ( ) ( ) = X E X X xx f x,, x X X dxdx Si le processus aléaoire X() es saionnaire, alors la foncion de densié de probabilié conjoine ne dépend que de la différence de emps τ = - enre les deux insans d'observaion du processus aléaoire: ( ) ( ) ( ), τ = = X X X R R R
Moyenne, foncion d auocorrélaion e foncion d auocovariance d un processus aléaoire X ( ) X ( ) - τ 3 4 5 6 7 8 9-3 4 5 6 7 8 9-3 4 5 6 7 8 9-3 4 5 6 7 8 9
Moyenne, foncion d auocorrélaion e foncion d auocovariance d un processus aléaoire On peu égalemen s'inéresser aux momens conjoins cenrés e définir la foncion d'auocovariance du processus aléaoire X() : (, ) ( ) µ ( ) ( ) µ ( ) (, ) = (, ) µ ( ) µ ( ) { } C E X X = X X X C R X X X X Si le processus X() es saionnaire, alors la moyenne es consane e la foncion d'auocorrélaion ne dépend pas des insans absolus e mais de leur différence, τ, seulemen. La foncion d'auocovariance d'un processus aléaoire saionnaire se résume alors à: ( ) ( ), τ µ = X X X C R
Moyenne, foncion d auocorrélaion e foncion d auocovariance d un processus aléaoire Il arrive souven que l'on ne puisse déerminer si un processus X() es saionnaire au sens sric. Cependan, si la moyenne µ X() du processus aléaoire es indépendane du emps e que sa foncion d'auocorrélaion R X (, ) ne dépende que de τ = : µ () ()( ) µ, = X xf x dx = X X ( ) ( ) ( )( ) ( ) R, = x x f x, x dx dx = R τ, τ X X, X X alors le processus aléaoire X() es saionnaire au sens large (``WSS: Wide Sense Saionary''). Cependan la moyenne µ X() e la foncion d'auocorrélaion R X (, ) ne décriven que pariellemen le processus aléaoire X() : une moyenne nulle e une auocorrélaion qui ne dépend que de τ ne permeen pas de conclure qu'il s'agisse d'un processus aléaoire saionnaire au sens sric.
Moyenne, foncion d auocorrélaion e foncion d auocovariance d un processus aléaoire Exemple : sinusoïde avec phases aléaoires Soi X() un processus aléaoire décri par: X ( ) = Acos ( π fc +Θ ) où A es une consane e Θ une variable aléaoire uniforme dans l'inervalle [,π). f Θ, θ < π θ = π, ailleurs ( ) Le processus aléaoire X() es-il saionnaire au sens large? La moyenne de X() es donnée par: µ () = [ ()] = ()( ) E X xf x dx X X () = cos ( +Θ ) = cos ( + ) ( ) µ X E A π fc A π fc θ fθ θ dθ A π µ X () = cos ( π + θ) θ = π f c d
Moyenne, foncion d auocorrélaion e foncion d auocovariance d un processus aléaoire Exemple : sinusoïde avec phases aléaoires La foncion d'auocorrélaion R X (, ) es donnée par: (, ) cos ( π ) cos ( π ) R E A f A f = +Θ +Θ X c c (, ) = cos ( + ) cos ( + ) ( ) R A π f θ A π f θ fθ θ dθ X c c A π RX (, ) = cos ( π f ) ( ) c θ cos π fc θ dθ π + + A π RX (, ) = cos π f ( ) cos ( ) 4 c π fc θ dθ π + + + A π A π RX (, ) = ( ) ( ) 4 π cos π fc dθ + cos π f c θ dθ 4 π + + = cos π f ( ) ( ) c π = A A R f f R (, ) = cos π ( ) = cos ( π τ) = ( τ) X c c X
Moyenne, foncion d auocorrélaion e foncion d auocovariance d un processus aléaoire Exemple : sinusoïde avec phases aléaoires Donc µ X () = µ X = es une consane e R X (, ) = R X (τ) es foncion du reard τ. X() es un processus aléaoire saionnaire au sens large. - 3 4 5 6 7 8 9-3 4 5 6 7 8 9-3 4 5 6 7 8 9
Moyenne, foncion d auocorrélaion e foncion d auocovariance d un processus aléaoire Exemple : sinusoïde avec ampliudes aléaoires Supposons que X() soi un aure processus aléaoire mais pour lequel l ampliude es aléaoire: ( ) ( ) X = Acos π f c + θ La phase θ es consane mais l ampliude A es aléaoire. Le processus aléaoire X() es-il encore saionnaire au sens large? La moyenne de X() es: () = E[ X() ] = E Acos ( f + ) µ π θ X c () = cos ( + ) ( ) µ a π f θ f a da X c A () = cos ( f + ) af ( a) da () = E[ A] cos ( f + ) = cos ( f + ) µ π θ X c A µ π θ µ π θ X c A c
Moyenne, foncion d auocorrélaion e foncion d auocovariance d un processus aléaoire Exemple : sinusoïde avec ampliudes aléaoires La moyenne µ X () es donc foncion du emps. Quan à la foncion d'auocorrélaion R X (, ), celle-ci es donnée par: (, ) = [ ( ) ( ) ] (, ) cos ( π θ) cos ( π θ) R E X X X { } R E A f A f = + + X c c (, ) = cos ( π + θ) cos ( π + θ) R E A f f X c c Le processus aléaoire X() n es donc pas saionnaire au sens large.
Moyenne, foncion d auocorrélaion e foncion d auocovariance d un processus aléaoire Exemple : sinusoïde avec ampliudes aléaoires - 3 4 5 6 7 8 9-3 4 5 6 7 8 9-3 4 5 6 7 8 9
Foncion d inercorrélaion de processus aléaoires Soien X() e Y() deux processus aléaoires. On défini la foncion d'inercorrélaion (ou foncion de corrélaion) de X() au emps e Y() au emps de la façon suivane: ( ) [ ] ( ) ( )( ) R XY,, = E X ( ) Y ( ) = xyf x, y dxdy X, Y
Foncion d inercorrélaion de processus aléaoires () X - 3 4 5 6 7 8 9-3 4 5 6 7 8 9 ( ) X τ ( ) Y () Y - 3 4 5 6 7 8 9-3 4 5 6 7 8 9
Foncion d inercorrélaion de processus aléaoires La marice de corrélaion des processus aléaoires X() e Y()es: R (, ) (, ), (, ) ( ) ( ) R R X X Y = RY X, RY,, Si les processus X() e Y() son conjoinemen saionnaires alors les foncions d'auocorrélaion, RX(, ) e R Y (, ), ainsi que les foncions d'inercorrélaion, R X,Y (, ) e R Y,X (, ), ne dépenden que du décalage emporel τ = - e la marice de corrélaion R(, ) s'écri ou simplemen: R ( τ ) ( τ ), ( τ ) ( τ ) ( τ ) R R X X Y = RY, X RY
Foncion d inercorrélaion de processus aléaoires Exemple: foncion d inercorrélaion d un signal avec brui Supposons que Y() es la sorie d'un canal bruié, caracérisé par un processus aléaoire N(), e que X() représene le signal ransmis: ransmeeur canal bruié récepeur X() Σ Y() N() Quelle es la foncion d'inercorrélaion, R X,Y (, ) enre le signal X() à l enrée du canal e le signal Y() à sa sorie?
Foncion d inercorrélaion de processus aléaoires Exemple: foncion d inercorrélaion d un signal avec brui (, ) [ ( ) ( )] ( )[ ( ) ( )] (, ) = [ ( ) ( ) + ( ) ( )] (, ) = [ ( ) ( )] + [ ( ) ( )] (, ) = (, ) + [ ( )] [ ( )] = = + R E X Y E X X N XY, R EX X X N XY, R EX X EX N XY, RXY, RX E X E N ( ) ( ) X( ) e N( ) indépendans R, = R, + µ ( ) µ ( ) XY, X X N La foncion d'inercorrélaion R X,Y (, ) es donc la somme de la foncion d'auocorrélaion de l'enrée X() aux insans e, i.e. R X (, ), e du produi µ X ( ) µ N ( ) des moyennes des processus aléaoires X(), le signal à l'enrée du canal, e N(), le brui présen dans le canal.
Processus aléaoires ergodiques L'espérance mahémaique d'un processus aléaoire X() es l'espérance mahémaique de la variable aléaoire X( k ) à un insan bien précis k. Il s'agi d'une moyenne prise sur l'ensemble des résulas d'une expérience aléaoire au emps = k. Es-il possible d'esimer cee moyenne d'ensemble de la variable aléaoire X( k ) par une moyenne emporelle d'une foncion d'échanillonnage, x i () = X(, s i ), sur un inervalle de emps suffisammen long? La moyenne emporelle, µ x (), de la foncion X(, s i ) dans l'inervalle [-, ] es définie par:, () µ ( ) ( ) X = X s d = xd x i i
Processus aléaoires ergodiques L'inégrale es mainenan effecuée sur un inervalle de emps. La moyenne emporelle, µ x (), dépend de la foncion d'échanillonnage X(, s i ) choisie du processus aléaoire X() e de la durée l'inervalle [-, ]. On peu donc considérer cee moyenne emporelle µ x () comme une variable aléaoire! Son espérance mahémaique, E[µ x ()], es alors donnée par: = = ( ) () () E µ x E X d E X d Mainenan, si le processus aléaoire X() es saionnaire au sens large alors sa moyenne es consane, i.e. µ X () = µ X, e l'espérance de la moyenne emporelle E[µ x ()] peu alors s'écrire: ( ) () [ ] = = E = x E X d E X d X µ µ µ
Processus aléaoires ergodiques L'ergodicié d'un processus aléaoire X() n'es possible que si le processus es invarian dans le emps, c'es-à-dire que si il es au préalable saionnaire. ou comme pour la saionnarié, on peu définir l'ergodicié pour différens momens du processus aléaoire. Un processus aléaoire X() es di de moyenne ergodique si sa moyenne emporelle, µ x (), end vers sa moyenne saisique, µ X, lorsque l'inervalle d'observaion end vers l'infini: ( ) lim µ = µ x X e que sa variance var [µ x ()] end vers zéro: ( ) lim var µ x = i.e. convergence de µ x () vers µ X lorsque ends vers l infini.
Processus aléaoires ergodiques On es aussi souven inéressé à esimer la foncion d'auocorrélaion R X (τ) d'un processus aléaoire saionnaire par une foncion d'auocorrélaion emporelle, R x (τ, ), définie dans l inervalle [-, ] : ( τ, ) ( τ, ) (, ) ( τ) ( ) + = R + x X s i X si d x i xi d Un processus aléaoire X() es d'auocorrélaion ergodique si sa foncion d'auocorrélaion emporelle, R x (τ, ), end vers la foncion R X (τ) : ( τ ) ( τ ) lim R, R x = X e que sa variance var [R x (τ, )] end vers zéro (convergence): ( τ ) lim var Rx, = Le processus aléaoire doi d'abord êre saionnaire au sens large.
Processus aléaoires ergodiques X ( s, ) - 3 4 5 6 7 8 9 ( ) lim µ = µ x X X ( s, ) X ( s, ) X ( s, 3 ) X ( s, 4 ) - - - - 3 4 5 6 7 8 9 3 4 5 6 7 8 9 3 4 5 6 7 8 9 3 4 5 6 7 8 9 ( ) µ = µ X X ( ) µ = µ X X ( ) µ X k = µ X
Processus aléaoires ergodiques Exemple: ergodicié d une sinusoïde avec phase aléaoire Nous avons vu que le processus aléaoire X() = A cos(πf c + Θ), d'ampliude consane A e de phase aléaoire Θ uniformémen disribuée dans l'inervalle [, π), éai saionnaire, du moins au sens large. La moyenne de X() es: ( ) µ X = µ X = alors que sa foncion d auocorrélaion: A R R f (, ) ( ) cos( ) = τ = π τ X X c Le processus X() éan saionnaire au sens large, on peu se demander si il es de moyenne ergodique.
Processus aléaoires ergodiques Exemple: ergodicié d une sinusoïde avec phase aléaoire X ( s, ) - 3 4 5 6 7 8 9 ( ) lim µ = µ x X X ( s, ) X ( s, ) X ( s, 3 ) X ( s, 4 ) - - - - 3 4 5 6 7 8 9 3 4 5 6 7 8 9 3 4 5 6 7 8 9 3 4 5 6 7 8 9 ( ) µ = µ X X ( ) µ = µ X X ( ) µ X k = µ X
Processus aléaoires ergodiques Exemple: ergodicié d une sinusoïde avec phase aléaoire Le processus aléaoire X() es de moyenne ergodique si la moyenne emporelle µ x () pour une réalisaion X(, s i ) = A cos(πf c + θ i ) end vers sa moyenne saisique µ X lorsque end vers l infini. Ici, θ i représene une phase fixe irée au hasard pendan l'expérience aléaoire (disribuion uniforme enre e π). Le processus aléaoire X() éan périodique de période = /f c, on peu faire la moyenne emporelle sur l'inervalle [-, ) puis répéer une infinié de fois: µ x( ) = (, ) cos( ) X s π θ i d = A f + c i d A µ x( ) = cos ( π + θ ) = f c i d Lorsque end vers l infini, la moyenne emporelle µ x () end vers sa moyenne saisique µ X = (en supposan un nombre enier mais infini de périodes). Le processus X() es donc de moyenne ergodique.
Processus aléaoires ergodiques Exemple: ergodicié d une sinusoïde avec phase aléaoire On peu mainenan se demander si le processus aléaoire X() a une foncion d'auocorrélaion qui, elle aussi, es ergodique. Sa foncion d'auocorrélaion emporelle, R x (τ, ), définie dans l inervalle de emps [-, ) es: R x( τ, ) = cos ( ) cos( ) A π τ θ π θ fc + + i A fc+ i d A Rx( τ, ) = cos π ( + τ) + θ cos( π + θ ) fc i fc i d Uilisan l'idenié rigonomérique: cosα cosβ = / [cos(α + β) + cos(α - β)], on obien: ( τ A, ) cos( 4 ) cos( ) 4 π π τ θ R π τ x = + + + f c fc i d f c d nulle (inégrale sur cycles du cosinus)
Processus aléaoires ergodiques Exemple: ergodicié d une sinusoïde avec phase aléaoire A R ( τ, ) = x cos( π fτ) 4 c d A R f d ( τ, ) = cos( π τ) 4 x c = A R f ( τ, ) = cos( π τ) x c Donc R x (τ, ) = R X (τ). Le processus aléaoire X() es de moyenne ergodique e sa foncion d'auocorrélaion es égalemen ergodique.
Processus aléaoires complexes En élécommunicaions, on représene souven les signaux en bande passane (auour de la fréquence poreuse f c ) par leur équivalen complexe en bande de base. Un processus aléaoire complexe Z() es défini en foncion de ses composanes réelles e imaginaires; X() e Y() : Z () X () + jy() Le processus aléaoire complexe Z() es saionnaire au sens sric,si les processus aléaoires, X()e Y(), son conjoinemen saionnaires au sens sric: F x x y y )( ) ( ) ( ) ( ) (,,,,,,,,,..., + τ + τ + τ + τ k j X X Y Y k k+ k+ j = F x x y y )( ) ( ) ( ) ( ) (,,,,,,,,,..., k j X X Y Y k k+ k+ j
Processus aléaoires complexes La foncion d auocorrélaion du processus aléaoire complexe Z() es décrie par l expression : Z Z (, ) ( ) ( ) R E Z Z (, ) ( ) ( ) ( ) + ( ) { } R E X jy X jy La foncion d inercorrélaion enre deux processus aléaoires complexes Z () = X() + jy() e Z () = V() + jw() es donnée par: (, ) ( ) ( ) R E Z Z Z, Z (, ) ( ) ( ) ( ) + ( ) { } R E X jy V jw Z, Z
Processus aléaoires complexes Le processus aléaoire complexe Z() sera saionnaire au sens large,si sa moyenne (complexe) µ Z () es consane : µ Z () = E[ Z() ] = E X () + jy() = E X () + je Y() () = () + j () = + j = µ µ µ µ µ µ Z X Y X Y Z e sa foncion d auocorrélaion R Z (, ) ne dépend que du décalage emporel τ : ( ) R, = ( ) ( ) Z E Z Z ( ) ( ) ( ) ( ) ( ) { } ( ) RZ, = E X jy X + jy = RZ τ