Adaptive methods for optimisation in stochastic environments - TEL - Thèses en ligne Accéder directement au contenu
Thèse Année : 2021

Adaptive methods for optimisation in stochastic environments

Méthodes adaptatives pour l’optimisation dans un environnement stochastique

Résumé

In this thesis, we study the problem of sequential optimization under stochastic environments. At each round, we can query a data point from the environment, and receive a noisy reward. We first focus on the case where the environment is abstracted as a finite search space, then we investigate also on a more general setting where the environment is composed of an infinite number of points or even continuous. In both cases, the cost of a single query would be high, and we thus aim at identify the (near)-optimum as efficiently as possible. The whole study is motivated by numerous real scenarios including, but not limited to, clinical trial, A/B testing, advertisement placement optimization. We therefore conclude by some particular focus on one of its most important contributions for the machine learning community, i.e. hyper-parameter optimization.
Dans cette thèse, nous étudions le problème d’optimisation séquentielle dans des environnements stochastiques. A chaque instant, nous pouvons interroger un point de l’environnement, et recevoir une récompense bruitée. Nous nous concentrons d’abord sur le cas où l’environnement est représenté par un nombre fini de points, et ensuite sur le cas plus général où l’environnement est composé d’un nombre infini dénombrable de points, voire continu. Dans les deux cas, le coût d’une requête pouvant être élevée, nous envisageons ainsi à repérer au plus vite le point (quasi)-optimal. Cette étude est motivée par de nombreux scénarios réels comme, entre autres, les essais cliniques, les tests A/B, ou l’optimisation des placements publicitaires. Ainsi pour terminer, nous nous intéressons en particulier à l’une de ces applications plus importantes pour la communauté d’apprentissage statistique, c’est-à-dire l’optimisation des hyper-paramètres.
Fichier principal
Vignette du fichier
phd_thesis.pdf (7.99 Mo) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)

Dates et versions

tel-03466525 , version 1 (05-12-2021)
tel-03466525 , version 2 (06-12-2021)
tel-03466525 , version 3 (14-12-2021)
tel-03466525 , version 4 (12-01-2022)

Identifiants

  • HAL Id : tel-03466525 , version 3

Citer

Xuedong Shang. Adaptive methods for optimisation in stochastic environments. Machine Learning [cs.LG]. Universite de Lille, 2021. English. ⟨NNT : ⟩. ⟨tel-03466525v3⟩
223 Consultations
191 Téléchargements

Partager

Gmail Facebook X LinkedIn More