Processus Stochastiques — 2022-2023 (M1, ENS)
Mon bureau est le V7 (couloir vert).
Examen le jeudi 18 janvier : 9h-11h30.
Au programme de l'examen : espérance conditionnelle, martingales, chaînes de Markov, mouvement brownien.
Les notes de cours sont autorisées. Le sujet aura la même structure que l'année dernière. Notamment, pour les 3 derniers exercices (thèmes : martingale, chaîne de Markov, mouvement brownien), j’appliquerai un barème adaptatif suivant vos résultats à ces exercices (un coefficient 1, 2/3 , 1/3 aux notes obtenues rangées par ordre d ́ecroissant), pour favoriser le fait de faire un exercice en entier plutôt que de piocher des questions faciles dans les trois exercices.
Partiels/Examens 2023-24:
- Partiel 2023-24 (avec solutions).
- Devoir Maison 2023-24.
- Examen 2023-24.
Bibliographie
- [B] Patrick Billingsley,
Probability and Measure , Wiley, 2012 (anniversary edition). - [D] Rick Durrett, Probability: Theory and Examples.
- [LG] Jean-Francois Le Gall,
Intégration, Probabilités et Processus Aléatoires . - [LM] Yves Lacroix, Laurent Mazliak, Variables aléatoires, convergence, conditionnement
- [W] David Williams,
Probability with Martingales , Cambridge University Press 1991.
[B] est un classique et l'un de mes préférés.
[D] est une très bonne référence, que j'utiliserai pour la partie sur le mouvement brownien.
[LG] est une excellent référence, en français, bientôt publiée en livre. C'est essentiellement ces notes de cours que je suivrai.
[LM] & [W] sont de très bonnes références, qui peuvent permettre de compléter les deux premières.
Annales:
- Examen 2021-22 (avec solutions).
- Partiel 2022-23 (avec solutions), Examen 2022-23.
Déroulé des séances
Compléments sur les convergences de variables aléatoires
Essentiellement dans [B], sections 22, 26, 27, 28.Semaine 1 : - Rappels sur les notions de convergence de variables aléatoires réelles (convergence p.s., dans Lp, en probabilité). Tout ça est largement dans [LG, Section 10] et [B]. Plus un exemple, série haromique de signe aléatoire, traité avec l'inégalité maximale de Kolmogorov (voir Théorèmes 22.4 et 22.6 dans [B]). Rappels sur la convergence en loi, lien avec la fonction de répartition et la fonction caractéristique. Tout est dans [LG, Section 10] et [B].
- Théorème Central Limite, version généralisée de Lindeberg et quelques applications (voir chapitre 27 dans [B], notamment l'exemple 27.3 pour le nombre de cycles d'une permutation aléatoire). Démonstration du TCL de Lindeberg (Théorème 27.2 dans [B]). Théorème de continuité de Lévy pour des variables aléatoires réelles (Théorème 26.3 dans [B]), définition de la tension et théorème de Prohorov (Théorème 25.10 dans [B]).
Semaine 2 : - Démonstration du théorème de Prohorov dans le cas réel, via le Théorème de Helly (Théorème 25.9 dans [B]). Définition des lois infiniments divisibles (Section 28 de [B]), énoncé du fait que la limite en loi de tableaux de variables aléatoires indépendantes est infiniment divisible (Théorème 28.3 de [B]). Énoncé de la formule de Lévy-Kintchine pour la fonction caractéristique de v.a. infiniment divisibles (Théorème 28.1 de [B]).
Espérance conditionnelle
Chapitre 11 de [LG]-
Semaine 2 : - Conditionnement par des variables aléatoires discrètes ([LG] section 11.1): définition de l'espérance conditionnelle et propriété caractéristique, premiers exemples. Définition du conditionnement par rapport à une tribu.
-
Semaine 3 : - Conditionnement par rapport à une tribu. Cas de variables aléatoires intégrables ([LG], section 11.2.1), existence et unicité de l'espérance conditionnelle, propriété caractéristique et premières propriétés. Cas de variables aléatoires positives ([LG], section 11.2.2), même chose qu'avant. Cas de variables de carré intégrable ([LG], section 11.2.3): l'espérance conditionnelle est une projection orthogonale.
- Propriétés de l'espérance conditionnelle: variables aléatoires G-mesurables, indépendantes de G, espérance conditionnelle d'une fonction de X,Y avec X indépendante de G et Y G-mesurable... Quelques exemples de calcul importants: conditionnement discret, vecteurs à densité, vecteurs gaussiens. Tout est dans [LG, Section 11].
-
Semaine 4 : - Fin de la discussion sur le conditionnement pour des vecteurs gaussiens. Discussion à propos des lois conditionnelles, probabilités de transition, voir [LG, Section 11.5].
Martingales
Chapitre 12 de [LG]-
Semaine 4 : - Introduction du vocabulaire et des définitions de martingales, sur et sous-martingales: [LG, Section 12.1].
- Exemples importants de martingales : martingales fermées, additives (dont marches aléatoires), multiplicatives, urnes de Pólya, processus de branchement. Transformations de martingales (Propositions 12.1.1-12.1.4 dans [LG]).
-
Semaine 5 : - Temps d'arrêt ([LG] Section 12.2): définitions, propriétés, théorème d'arrêt (une version qui combine le Théorème 12.2.4 et le Lemme 12.4.1 de [LG]. Démonstration du théorème d'arrêt. Détail d'une application du théorème d'arrêt: la ruine du joueur.
- Inégalité maximale de Doob, Théorème 12.4.2 de [LG] (et corollaire, inégalité maximale de Kolmogorov). Arrêt optimal: enveloppe de Snell et theeorème d'arrêt optimal. Exemple d'application avec le problème des appartements (aussi connu sous le nom de problème des secrétaires): vous pouvez aller voir le poly de T. Bodineau, chapitre 13 (p.202 pour le problème des secrétaires).
-
Semaine 6 : - Convergence p.s. des martingales. Exemples (urnes de Pólya et processus de branchement, marche aléatoire arrêtée en -1). Démonstration de la convergence p.s. avec l'inégalité des montées de Doob. Convergence Lp des martingales ([LG], Théorème 12.4.4), exemples (urnes de Pólya et processus de branchement, marche aléatoire arrêtée en -1).
- Démonstration de la convergence Lp, inégalité maximale Lp de Doob ([LG], Proposition 12.4.3). Uniforme intégrabilité: définition ([LG] Définition 12.5.1), caractérisation équivalente ([LG] Proposition 12.5.1). Un point important est le Corollaire 12.5.2 de [LG]. Autre caractérisation de l'U.I.: Proposition 12.6 dans Notes.
-
Semaine 7 : -
La convergence dans L1 est équivalente à la convergence en probabilité + uniforme intégrabilité ([LG] Théorème 12.5.3) et corollaire: "nouveau" théorème de convergence dominée.
Convergence dand L1 des martingales ([LG] page 182).
Un théorème de Lévy ([B] Théorème 35.6).
Compléments (hors du programme du partiel)
Théorèmes d'arrêt, version U.I. ([LG] Théorème 12.5.4). Martingales de carré intégrable et crochet de la martingale ([W] section 12.12), relation entre le crochet et la convergence de la martingale ([W] section 12.13). - Décomposition de Doob ([W] section 12.11). Martingales rétrogrades ([LG] section 12.6). Théorème de convergence. Corollaire important: conditionnement par une suite décroissante de tribus ([LG] Corollaire 12.6.2), application à la loi forte des grands nombres ([LG] p.188-189) et au théorème de de Finetti ([B] Théorème 35.10), urnes de Pólya.
-
La convergence dans L1 est équivalente à la convergence en probabilité + uniforme intégrabilité ([LG] Théorème 12.5.3) et corollaire: "nouveau" théorème de convergence dominée.
Convergence dand L1 des martingales ([LG] page 182).
Un théorème de Lévy ([B] Théorème 35.6).
Semaine 8 : Partiel
Chaînes de Markov
Chapitre 13 de [LG]- Semaine 9 :
- Chaîne de Markov : définitions et premières propriétés, premiers exemples (sections 13.1 et 13.2 de [LG]).
- Chaînes de Markov comme systèmes dynamiques aléatoires, construction de chaînes de Markov (notamment chaîne de Markov canonique). Très important: propriété de Markov faible ([LG] Théorème 13.3.4) et propriété de Markov forte ([LG] théorème 13.3.5).
- Semaine 10 :
- Définition des états transients, récurrents. Fonction potentiel (fonction de Green), quelques propriétés simples, notamment le Lemme 13.4.3. Définition d'une chaîne de Markov irréductible.
- Théorème de classification des états ([LG] Théorème 13.4.4), application au processus de branchement. Corollaire 13.4.5 [LG] pour les chaînes irréductibles. Exemple d'une marche aléatoire simple sur Zd, d'une marche générale sur Z.
- Semaine 11 :
- Mesures invariantes ([LG] section 13.5) : définition, interprétation. Mesure réversible (exemple d'une marche simple sur un graphe connexe). Théorème d'existence s'il existe un point récurrent (Théorème 13.5.2 [LG]), théorème d'unicité à constante multiplicative près dans le cas irréductible récurrent (Théorème 13.5.3 [LG]).
- Corollaire 13.5.4 [LG] et définition de chaîne récurrente positive/nulle. Proposition 13.5.5 [LG] : s'il existe une probabilité invariante alors la chaîne est récurrente positive. Comportement asymptotique ([LG] section 13.6). Théorème ergodique (Théorème 13.6.1 [LG]) et son Corollaire 13.6.4 : "loi des grands nombres pour les Chaînes de Markov".
- Semaine 12 :
- Notion de période d'une chaîne irréductible (Proposition 13.6.5 [LG]). Convergence vers la probabilité stationnaire (Théorème 13.6.6). Application 1 : théorème de renouvellement.
- Application 2 : algorithme de Métropolis. Martingales et chaînes de Markov (Section 13.7 [LG]) : fonctions Q-harmoniques (sur-/sous-harmoniques), lien entres fonctions Q-harmoniques et martingales liées à la chaîne de Markov ([LG] Proposition 13.7.1). Application au problème de Dirichlet ([LG] Théorème 13.7.2, caractérisation des solutions bornées).
Mouvement Brownien
Chapitre 14 de [LG], je me base aussi sur le chapitre 7 du livre de Durrett [D] :- Semaine 13 : Introduction au mouvement brownien.
- Limite d'échelle de marches aléatoires : description des lois finies dimensionnelles ([LG] Proposition 14.1.1) et énoncé du théorème de Donsker (Théorème 8.1.4 de [D]). Définition du mouvement brownien ([LG] Definition 14.1.1), définition équivalente avec la covariance du processus gaussien (p.355 de [D]).
- Démonstration de l'existence du mouvement brownien via le critère de continuité de Kolmogorov (Théorème 7.1.3 de [D]), construction de l'espace canonique (mesure de Wiener). Quelques propriétés du mouvement brownien (Section 14.4 de [LG]) : propriété de Markov simple, loi du 0-1 de Blumenthal ([LG] Théorème 14.4.2).
- Semaine 14 :
- Démonstration de la loi du 0-1 de Blumenthal, et quelques conséquences ([LG] Corollaire 14.4.3). Renversement du temps et conséquence ([D] Théorèmes 7.2.6 et 7.2.8). Définition de temps d'arrêt continu et énoncé de la propriété de Markov forte ([LG] Théorèmes 14.5.1 et 14.5.4).
- Démonstration de la propriété de Markov forte. Application: principe de réflexion et conséquences ([LG] Théorème 14.5.2 et Corollaire 14.5.3). Mouvement brownien et martingales ([D] Section 7.5). Définition de martingales et exemples. Définition d'une filtration continue à droite et avantages de cette propriété (notamment concernant les temps d'arrêts). Théorème d'arrêt pour une martingale continue à droite relativement à une filtration continue à droite ([D] Théorème 7.5.1). Applications pour les temps d'atteinte du brownien en dimension d=1 ([D] Théorème 7.5.4).
- Semaine 15 :
- Compléments sur le mouvement brownien en dimension supérieure à 2, fonctions harmoniques et problème de Dirichlet.
- Séance de révision : correction d'exercices de l'Examen 2022-23.