Chaînes de Markov

À propos de cette leçon

Terminale, mathématiques expertes › Chaînes de Markov

Pour obtenir un PDF, choisis « Enregistrer au format PDF » dans la fenêtre d'impression.

Chaînes de Markov

Chaînes de Markov. chaîne de Markov, matrice de transition, distribution invariante

Échauffement

Trois questions rapides sur des leçons déjà vues.

Découvrir

Il pleut aujourd'hui. Il pleut demain avec la probabilité 0,60{,}6. Quelle est la probabilité qu'il ne pleuve pas demain ?

  1. 0,40{,}4
  2. 0,60{,}6

L'idée clé

La probabilité de l'état suivant ne dépend que de l'état présent.

Figure non à l'échelle

La matrice de transition PP a pour coefficient pijp_{ij} la probabilité de passer de ii à jj. Chaque ligne a pour somme 1.

La distribution après nn transitions est πn=π0Pn\pi_n = \pi_0P^n. Le coefficient (i;j)(i ; j) de PnP^n est la probabilité d'aller de ii à jj en nn transitions.

Exemple corrigé

P=(0,90,10,50,5)P = \begin{pmatrix} 0{,}9 & 0{,}1 \\ 0{,}5 & 0{,}5 \end{pmatrix} et π0=(10)\pi_0 = \begin{pmatrix} 1 & 0 \end{pmatrix}. Calcule π1\pi_1.

π1=π0P\pi_1 = \pi_0P
Ligne × matrice.
π1=(0,90,1)\pi_1 = \begin{pmatrix} 0{,}9 & 0{,}1 \end{pmatrix}
On lit la première ligne.

À toi, guidé

À toi : dans la même chaîne, que vaut la probabilité d'être dans l'état 2 après une étape, en partant de l'état 2 ?

0,50{,}5
Coefficient (2 ; 2).

Entraînement ★

  1. Dans une chaîne à deux états, p11=810p_{11} = \dfrac{ 8 }{10}. Que vaut p12p_{12} ?
  2. Dans une chaîne à deux états, p11=610p_{11} = \dfrac{ 6 }{10}. Que vaut p12p_{12} ?
  3. Dans une chaîne à deux états, p11=710p_{11} = \dfrac{ 7 }{10}. Que vaut p12p_{12} ?

Attention !

Entraînement ★★

  1. P=(5101−5106101−610)P = \begin{pmatrix} \dfrac{ 5 }{10} & 1 - \dfrac{ 5 }{10} \\ \dfrac{ 6 }{10} & 1 - \dfrac{ 6 }{10} \end{pmatrix} et π0=(1212)\pi_0 = \begin{pmatrix} \dfrac{1}{2} & \dfrac{1}{2} \end{pmatrix}. Calcule la première coordonnée de π1\pi_1.
  2. P=(7101−7104101−410)P = \begin{pmatrix} \dfrac{ 7 }{10} & 1 - \dfrac{ 7 }{10} \\ \dfrac{ 4 }{10} & 1 - \dfrac{ 4 }{10} \end{pmatrix} et π0=(1212)\pi_0 = \begin{pmatrix} \dfrac{1}{2} & \dfrac{1}{2} \end{pmatrix}. Calcule la première coordonnée de π1\pi_1.
  1. Dans une matrice de transition à deux états, la première ligne est (810;p)\left(\dfrac{ 8 }{10} ; p\right). Que vaut pp ?
  1. Une chaîne reste dans l'état 1 avec la probabilité 510\dfrac{ 5 }{10} à chaque pas. Partant de l'état 1, quelle est la probabilité d'y rester deux fois de suite ?

Bilan

Trois questions pour vérifier que c'est acquis.

  1. Dans une chaîne à deux états, p11=810p_{11} = \dfrac{ 8 }{10}. Que vaut p12p_{12} ?
  2. Dans une chaîne à deux états, p11=610p_{11} = \dfrac{ 6 }{10}. Que vaut p12p_{12} ?
  3. Dans une chaîne à deux états, p11=710p_{11} = \dfrac{ 7 }{10}. Que vaut p12p_{12} ?

Fiche résumé

Chaînes de Markov

  • πn=π0Pn\pi_n = \pi_0P^n.
  • Lignes de PP : somme 1.

Attention : lis pijp_{ij} de ii vers jj.

CC BY-SA 4.0