Quelques questions de sélection de variables autour de l'estimateur LASSO

Résumé : Le problème général étudié dans cette thèse est celui de la régression linéaire en grande dimension. On s'intéresse particulièrement aux méthodes d'estimation qui capturent la sparsité du paramètre cible, même dans le cas où la dimension est supérieure au nombre d'observations. Une méthode populaire pour estimer le paramètre inconnu de la régression dans ce contexte est l'estimateur des moindres carrés pénalisés par la norme ℓ1 des coefficients, connu sous le nom de LASSO. Les contributions de la thèse portent sur l'étude de variantes de l'estimateur LASSO pour prendre en compte soit des informations supplémentaires sur les variables d'entrée, soit des modes semi-supervisés d'acquisition des données. Plus précisément, les questions abordées dans ce travail sont : i) l'estimation du paramètre inconnu lorsque l'espace des variables explicatives a une structure bien déterminée (présence de corrélations, structure d'ordre sur les variables ou regroupements entre variables) ; ii) la construction d'estimateurs adaptés au cadre transductif, pour lequel les nouvelles observations non étiquetées sont prises en considération. Ces adaptations sont en partie déduites par une modification de la pénalité dans la définition de l'estimateur LASSO. Les procédures introduites sont essentiellement analysées d'un point de vue non-asymptotique ; nous prouvons notamment que les estimateurs construits vérifient des Inégalités de Sparsité Oracles. Ces inégalités ont pour particularité de dépendre du nombre de composantes non-nulles du paramètre cible. Un contrôle sur la probabilité d'erreur d'estimation du support du paramètre de régression est également établi. Les performances pratiques des méthodes étudiées sont par ailleurs illustrées à travers des résultats de simulation.
Type de document :
Thèse
Mathématiques [math]. Université Paris-Diderot - Paris VII, 2009. Français
Liste complète des métadonnées

https://tel.archives-ouvertes.fr/tel-00408737
Contributeur : Mohamed Hebiri <>
Soumis le : dimanche 2 août 2009 - 18:32:51
Dernière modification le : mercredi 12 octobre 2016 - 01:01:27
Document(s) archivé(s) le : mardi 15 juin 2010 - 18:55:15

Identifiants

  • HAL Id : tel-00408737, version 1

Collections

Citation

Mohamed Hebiri. Quelques questions de sélection de variables autour de l'estimateur LASSO. Mathématiques [math]. Université Paris-Diderot - Paris VII, 2009. Français. <tel-00408737>

Partager

Métriques

Consultations de
la notice

413

Téléchargements du document

3759