L'analyse des EDP sur des domaines à bords non lipschitziens, tels que des bords fractals, nécessite de redéfinir de nombreuses notions introduites pour des bords « suffisamment réguliers », comme les dérivées normales, les opérateurs de Dirichlet-à-Neumann, les potentiels de simple et double couches, l'opérateur de Poincaré–Neumann, les projecteurs de Calderón, l'intégrale de Cauchy, et ainsi de suite. De plus, dans ce contexte, les équations elliptiques ne possèdent pas de solutions faibles de régularité $H^2$, pourtant largement utilisées dans différents cadres, par exemple pour contrôler les termes non linéaires d'un modèle. Je présenterai donc les principales adaptations de l'analyse fonctionnelle permettant de définir ces notions dans le cadre de bords irréguliers et aborder des différents problèmes (je citerai quelques exemples) directes, inverses (comme la diffusion des ondes et problème de Calderón), linéaire et non linéaires (l'équation de Westervelt décrivant la propagation des ultrasons).

J'aborderai ensuite la question de l'approximation de « l'irrégulier par le régulier ». De façon générale, la convergence de Mosco n'implique pas la convergence en norme opérateur des résolvantes. Je présenterai donc les conditions suffisantes sur la convergence des domaines garantissant un résultat de stabilité pour les solutions faibles, la convergence en norme des résolvantes associées, ainsi que la convergence des valeurs propres et fonctions propres correspondantes, résultats que j'illustrerai par des simulations numériques.

Enfin, je montrerai la motivation principale pour envisager des bords non lipschitziens, en illustrant — sur un exemple de minimisation d'énergie acoustique en présence d'absorption au bord — leur optimalité du point de vue théorique et numérique. En revanche, la classe des bords lipschitziens ne garantit pas que le minimum de l'énergie soit atteint.

Les résultats théoriques sont en collaboration avec A. Teplyaev (UCONN, États-Unis), M. Hinz (Bielefeld, Allemagne), D. Hewett (University College London, Royaume-Uni), S. Chandler-Wilde (Reading, Royaume-Uni), ainsi qu'avec mes doctorants A. Dekkers et G. Claret. Les travaux numériques sont en collaboration avec F. Magoulès (CentraleSupélec), P. Omnès (CEA Paris-Nord), et mes stagiaires K.P.T. Nguyen, C. Pierre et M. Menoux.