Estimation bayésienne non paramétrique

Vincent Rivoirard (1)

1 UFR de Mathematiques

In the framework of a wavelet analysis, we study the statistical meaning of a special class of Lorentz spaces: the weak Besov spaces are naturally appearing in the maxiset theory. With 'Gaussian white noise' type assumptions, we show, using Bayesian tools, that the minimax rates associated with strong or weak Besov spaces are the same. We exhibit the least favorable priors for each weak Besov space. They are associated with Pareto distributions and highly differ from the priors of strong Besov spaces that are Gaussian. Using simulations of these distributions, we build visual representations of the 'typical enemies'. Finally, we exploit these distributions to build a minimax thresholding estimation procedure, called ParetoThresh, that we study from a practical point of view. Subsequently, we consider the heteroscedastic white noise model and under the maxiset approach, we prove that linear estimators are outperformed by adaptive thresholding ones. Finally, we investigate the best way to modelize the sparsity of a sequence throughout a Bayesian approach. For this purpose, we study the maxisets of the classical estimators - median, mean - associated with a model built on heavy tailed densities. The maximal spaces for these rules are Lorentz spaces, and coincide with maxisets associated with thresholding estimators. This result is reinforced by a necessary and sufficient condition on the parameters of the model in order to make sure that the prior is almost surely concentrated on a precise Lorentz space.

Dans le cadre d'une analyse par ondelettes, nous nous intéressons à l'étude statistique d'une classe particulière d'espaces de Lorentz : les espaces de Besov faibles qui apparaissent naturellement dans le contexte de la théorie maxiset. Avec des hypothèses de type "bruit blanc gaussien", nous montrons, grâce à des techniques bayésiennes, que les vitesses minimax des espaces de Besov forts ou faibles sont les mêmes. Les distributions les plus défavorables que nous exhibons pour chaque espace de Besov faible sont construites à partir des lois de Pareto et diffèrent en cela de celles des espaces de Besov forts. Grâce aux simulations de ces distributions, nous construisons des représentations visuelles des "ennemis typiques". Enfin, nous exploitons ces distributions pour bâtir une procédure d'estimation minimax, de type "seuillage" appelée ParetoThresh, que nous étudions d'un point de vue pratique. Dans un deuxième temps, nous nous plaçons sous le modèle hétéroscédastique de bruit blanc gaussien et sous l'approche maxiset, nous établissons la sous-optimalité des estimateurs linéaires par rapport aux procédures adaptatives de type "seuillage". Puis, nous nous interrogeons sur la meilleure façon de modéliser le caractère "sparse" d'une suite à travers une approche bayésienne. À cet effet, nous étudions les maxisets des estimateurs bayésiens classiques - médiane, moyenne - associés à une modélisation construite sur des densités à queues lourdes. Les espaces maximaux pour ces estimateurs sont des espaces de Lorentz, et coïncident avec ceux associés aux estimateurs de type "seuillage". Nous prolongeons de manière naturelle ce résultat en obtenant une condition nécessaire et suffisante sur les paramètres du modèle pour que la loi a priori se concentre presque sûrement sur un espace de Lorentz précis.

Mots clés: Estimateur de type "seuillage; Estimation adaptative; Ondelettes; Théorie minimax; Théorie maxiset; Vitesse de convergence; Sparsité; Modélisation bayésienne; Modèle de bruit blanc gaussien; Modèle hétéreoscédastique; Problème statistique inverse; Estimateur bayésien; Estimateur de type "seuillage"; Estimateur linéaire; Espace de Lorentz; Espace de Besov faible; Espace de Besov fort; Distributions les plus défavorables; Loi de Pareto

Domaines: Mathématiques [math]

Vincent Rivoirard. Estimation bayésienne non paramétrique. Mathématiques [math]. Université Paris-Diderot - Paris VII, 2002. Français. ⟨NNT : ⟩. ⟨tel-00002149⟩